Архитектура протоколов TCP/IP предназначена для создания объединенной сети, состоящей из соединенных друг с другом шлюзами отдельных разнородных пакетных подсетей, к которым подключаются разнородные машины. Каждая из подсетей работает в соответствии со своими специфическими требованиями и имеет свою природу средств связи. Однако предполагается, что каждая подсеть может принять пакет данных (данные с соответствующим сетевым заголовком) и доставить его по указанному адресу в этой конкретной подсети. Не требуется, чтобы подсеть гарантировала обязательную доставку пакетов и имела надежный сквозной протокол. Таким образом, две машины, подключенные к одной подсети, могут обмениваться пакетами. Когда необходимо передать пакет между машинами, подключенными к разным подсетям, то машина-отправитель посылает пакет в соответствующий шлюз (шлюз подключен к подсети также как обычный узел). Оттуда пакет направляется по определенному маршруту через систему шлюзов и подсетей, пока не достигнет шлюза, подключенного к той же подсети, что и машина-получатель; там пакет направляется к получателю. Объединенная сеть обеспечивает дейтаграммный сервис.

Проблема доставки пакетов в такой системе решается путем реализации во всех узлах и шлюзах межсетевого протокола IP. Межсетевой уровень является по существу базовым элементом во всей архитектуре протоколов, обеспечивая возможность стандартизации протоколов верхних уровней.

Особенностью построения сети с технологией TCP/IP является необходимость присвоения каждому компьютеру или иному устройству, включенному в сеть минимум двух адресов - адреса локальной, местной сети, и общесетевого и Интернет - адреса, называемого IP - адресом и двух имен. Однако, поскольку имена в разных сетях не пересекаются, то можно обойтись и одним и тем же именем для обеих сетей.

Маршрутизация является одним из наиболее сложных процессов в сети Интернет. Это объясняется не только вообще сложностью этого распределенного процесса, но многоуровневой структуризацией Интернет и ее межсетевым характером и огромным количеством хостов. В Интернет можно выделить три уровня маршрутизации в сети:

1. Маршрутизация на пограничном маршрутизаторе локальной сети, состоящая в выборе пути дальнейшего продвижения пакетов данных.
2. Маршрутизация внутри автономной системы, обеспечивающая определения пути движения пакетов данных между пограничными маршрутизаторами локальных сетей, входящих в автономную систему.
3. Маршрутизация между автономными системами, обеспечивающая определение пути движения пакетов данных между пограничными маршрутизаторами автономных систем.

В первом случае задача решается тривиально с использованием протокола IP. Во втором и третьем случаях используются мощные протоколы адаптивной маршрутизации со весьма сложными алгоритмами, построенными на основе математических методов динамического программирования Беллмана, растровых образов и др.