E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
1
EE 586 Communication andSwitching Networks
Lecture 4
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Chapter 1: introduction
our goal:
get feel andterminology
more depth, detaillater in course
approach:
use Internet asexample
overview:
history
whats the Internet?
whats a protocol?
network edge; hosts, access net,physical media
network core: packet/circuitswitching, Internet structure
performance: loss, delay,throughput
protocol layers, service models
underline_base
1-2
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Performance of Internet
A key parameter : end-to-end delay
End-to-End Delay
= Delay between generation and consumption
= MtoE (Mouth to Ear) Delay
Sender Delay + Receiver Delay + Packet Delay
Sender Delay = delay at sender machine
Receiver Delay = delay at receiver machine
Packet Delay = delay in network
(modified by Cheung for EE586; based on K&R original)
underline_base
1-3
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Sender Delay
Based on the type of data: “Elastic” vs. “Stream”
Elastic Traffic
To-be transmitted data are all available
Delay = time limited by how fast to copy from hard-drive toEthernet card = a few nanosecond  0
Stream Traffic
Data are generated at a finite rate, typically from a mediadevices like microphone or camera = a few ms
SW/HWCompression
Shaper
Packetization
Network
Packet won’t leave untilit is filled
underline_base
(modified by Cheung for EE586; based on K&R original)
1-4
https://d2j1x2hflioiqf.cloudfront.net/images/base2/dropcam_hero2.png
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Receiver (Playout) Delay
Elastic Data
usually packets are used as soon as arrived at receiver
No delay at receiver
Streaming Data
If data is played out assoon as they arereceived, fluctuation indelays will result infrequent interruption
Data is buffered up tominimize interruption
underline_base
(modified by Cheung for EE586; based on K&R original)
1-5
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r and played at p
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’and results in no latepacket
underline_base
(modified by Cheung for EE586; based on K&R original)
1-6
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r and played at p
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’and results in no latepacket
underline_base
(modified by Cheung for EE586; based on K&R original)
1-7
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r and played at p
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’and results in no latepacket
underline_base
(modified by Cheung for EE586; based on K&R original)
1-8
Random networkpacket delay
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r and played at p
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’and results in no latepacket
underline_base
(modified by Cheung for EE586; based on K&R original)
1-9
Packet is late forplayback! Freezeframe!
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r and played at p
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’and results in no latepacket
underline_base
(modified by Cheung for EE586; based on K&R original)
1-10
Packet finallyarrives butcannot be used!
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r and played at p
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’and results in no latepacket
underline_base
(modified by Cheung for EE586; based on K&R original)
1-11
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Playout Delay
sender generatespackets in regularinterval
first packet received attime r
first playout schedule:begins at p and resultsin one late packet
second playoutschedule: begins at p’which is estimatedbased on networkcondition
underline_base
(modified by Cheung for EE586; based on K&R original)
1-12
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Four sources of packet delay
1. nodal processing:
check bit errors
determine output link
OS
2. queueing
time waiting at output linkfor transmission
depends on congestionlevel of router
More later
A
B
packets queuing (delay) or dropped ifno free buffer space (loss)
packet beingprocessed (delay)
underline_base
(modified by Cheung for EE586; based on K&R original)
1-13
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Delay in packet-switched networks
3. Transmission delay:
R=link bandwidth (bps)
1/R=delay between sending 2bits (s)
L=packet length (bits)
time to send a packet = L/R
4. Propagation delay:
d = length of physical link
s = propagation speed in medium(~2x108 m/sec)
propagation delay = d/s
A
B
How long does it take for the 1st bit to arrive?
(propagation delay)
How fast can the router sendout one bit (transmission delay)
underline_base
(modified by Cheung for EE586; based on K&R original)
1-14
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Caravan analogy
car~bit; 10-car caravan ~ packet
Speed of car = 100 km/hr  (propagation speed)
toll booth takes 12 sec to service one car (transmission delay)
Packet Delay is always based on the time when the last bit (car)arrives at the destination
Store-and-forward: the first car cannot go through the secondtoll booth until the entire caravan arrives
toll
booth
toll
booth
ten-car
caravan
d km
d km
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
Destination
(modified by Cheung for EE586; based on K&R original)
underline_base
1-15
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Example I
100 km
100 km
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
Speed: 100 km/hr
Toll booth: 12 sec
10 cars/caravan
T = 0 s
100 km
T = 12 s
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
100km/hr*120s = 3.33 km
100 km
T = 120s (or 2 min)
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
100 km
T = 1 hr 2 min = travel time (last bit) + booth time * size of caravan
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
T = 2 hr 4 min = number of booths * time to get from one booth to the next
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
(modified by Cheung for EE586; based on K&R original)
underline_base
1-16
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Timing Diagram
17
time
time
1st toll both
2nd toll both
3rd toll both
1hr
12s
1st car
12sx10= 2min
12sx10= 2min
time
1hr
12sx10= 2min
underline_base
1st car
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Example II
100 km
100 km
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
Speed: 1000 km/hr
Toll booth: 60 sec
10 cars/caravan
T = 0 s
100 km
T = 1 min
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
100 km
T = 7 min
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
First car arrives
100 km
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
T = 16 min = travel time + booth time * size of caravan
T = 32 min = number of booths * time to get from one booth to the next
MCj03985170000[1]
MCj03985170000[1]
MCj03985170000[1]
(modified by Cheung for EE586; based on K&R original)
underline_base
1-18
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Timing Diagram
19
time
time
1st toll both
2nd toll both
3rd toll both
6min
60s
1st car
2nd car
2nd car
1st car
60sx10=10min
time
6min
60sx10=10min
underline_base
60sx10=10min
Use a singlearrow torepresentthe entirepacket
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Exercise
Using the previous scenario, how long does it take totransmit a file of 10,000 packets? Is it 32min x 10,000?
(modified by Cheung for EE586; based on K&R original)
20
underline_base
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Exercise
Using the previous scenario, how long does it take totransmit a file of 10,000 packets? Is it 32min x 10,000?
(modified by Cheung for EE586; based on K&R original)
21
underline_base
time
time
16min
1st packet
10min
2nd packet
2nd packet
1st packet
time
16min
10min x
9,999 pkts
10,000th packet
delaytotal = (# of pkts-1) * delaytrans + # of hops * (delaytrans + delayprop)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Packet delay
dproc = processing delay (Cisco Router ~ 500Gbps)
typically a few microsecs or less
dqueue = queuing delay
depends on congestion
dtrans = transmission delay
= L/R, significant for low-speed links
dprop = propagation delay
a few microsecs to hundreds of msecs
Broadband:fixed and
typicallysmall
Dominant(Why?)
(modified by Cheung for EE586; based on K&R original)
underline_base
1-22
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Queuing Delay
Occurs at the router when the output link iscongested
Analogy
An accident down the road may have the traffic backup over an entire area
Significance
A significant source of delay
If there is not enough space in a router to storeincoming packets, they will be dropped.
Quantitative Analysis
How is queuing delay related to the input and outrates?
(modified by Cheung for EE586; based on K&R original)
23
underline_base
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Model of a Router
Router = input buffer + CPU
Assume fixed-size packet of 𝐿 bits
Random packet arrivals – aggregation of many inputs
Let 
Average arrival rate = 𝑎 packets/second
Average departure rate = 𝑏 packets/second =  𝑅 𝑏𝑖𝑡𝑠/𝑠 𝐿 𝑏𝑖𝑡𝑠/𝑝𝑎𝑐𝑘𝑒𝑡 
Length of queue =  𝑋 packets
Goal: Queuing Delay ∝ Average of 𝑋 or E(𝑋)
(modified by Cheung for EE586; based on K&R original)
24
CPU
𝑎 pkt/s
𝑏 pkt/s
underline_base
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Traffic intensity
  arrival rate
departure rate
Queueing delay Formula
1-25
(modified by Cheung for EE586; based on K&R original)
underline_base
queueDelay
traffic intensity
= La/R
average  queuengdelay
E X = 𝐿𝑎/𝑅 1−𝐿𝑎/𝑅
= 𝑎 𝑅/𝐿 = 𝐿𝑎 𝑅
=
𝐸 𝑋 = 𝐿𝑎/𝑅 1−𝐿𝑎/𝑅
Queuing Delay Formula :
Assume non-bursty traffic,
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
queueDelay
traffic intensity
= La/R
average  queuengdelay
E X = 𝐿𝑎/𝑅 1−𝐿𝑎/𝑅
Interpretation
(modified by Cheung for EE586; based on K&R original)
26
underline_base
La/R ~ 0
La/R  1
La/R ~ 0: avg. queuingdelay non-existence
La/R  1: avg. queuingdelay large
La/R > 1: more workarriving than can beserviced, average delayinfinite!
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Packet loss
queue (aka buffer) preceding link in buffer has finitecapacity
packet arriving to full queue dropped (aka lost)
lost packet may be retransmitted by previous node,by source end system, or not at all
A
B
packet being transmitted
packet arriving to
full buffer is lost
buffer
(waiting area)
underline_base
desktop_computer_stylized_medium
desktop_computer_stylized_medium
1-27
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
desktop_computer_stylized_medium
Throughput
throughput: rate (bits/time unit) at which bitstransferred between sender/receiver
instantaneous: rate at given point in time
average: rate over longer period of time
server, with
file of F bits
to send to client
link capacity
 Rs bits/sec
link capacity
 Rc bits/sec
server sends bits
(fluid) into pipe
 pipe that can carry
fluid at rate
 Rs bits/sec)
 pipe that can carry
fluid at rate
 Rc bits/sec)
underline_base
1-28
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
Throughput: Internet scenario
10 connections (fairly) sharebackbone bottleneck link R bits/sec
Rs
Rs
Rs
Rc
Rc
Rc
R
per-connection end-end throughput:min(Rc,Rs,R/10)
in practice: Rc or Rsis often bottleneck
desktop_computer_stylized_medium
desktop_computer_stylized_medium
desktop_computer_stylized_medium
1-29
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
underline_base
Protocol layers
Networks are complex,
with many pieces:
hosts
routers
links of variousmedia
applications
protocols
hardware,software
Question:
is there any hope oforganizing structure ofnetwork?
…. or at least ourdiscussion of networks?
1-30
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
underline_base
Why layering?
Dealing with complex systems:
explicit structure allows identification,relationship of complex systems pieces
layered reference model for discussion
modularization eases maintenance, updating ofsystem
change of implementation of layers servicetransparent to rest of system
Other approaches?
Layering considered harmful?
1-31
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
underline_base
Internet protocol stack
application: supporting networkapplications (message)
FTP, SMTP, HTTP
transport: process-process datatransfer (segment)
TCP, UDP
network: routing of (datagrams)from source to destination
IP, routing protocols
link: (frame) data transfer betweenneighboring  network elements
Ethernet, 802.11 (WiFi)
physical: (bits) on the wire
application
transport
network
link
physical
1-32
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
ISO/OSI reference model
presentation: allow applicationsto interpret meaning of data,e.g., encryption, compression,machine-specific conventions
session: synchronization,checkpointing, recovery of dataexchange
Internet stack missing theselayers!
these services, if needed, must beimplemented in application
application
presentation
session
transport
network
link
physical
underline_base
1-33
(modified by Cheung for EE586; based on K&R original)
E l e c t r i c a l    &   C o m p u t e r
Department of
Electrical & Computer Engineering
underline_base
source
application
transport
network
link
physical
Ht
Hn
M
segment
Ht
datagram
destination
application
transport
network
link
physical
network
link
physical
link
physical
Ht
Hn
Hl
M
Ht
Hn
M
Ht
M
M
Ht
Hn
Hl
M
Ht
Hn
M
Ht
Hn
M
Ht
Hn
Hl
M
router
switch
Encapsulation
message
M
Ht
M
Hn
frame
desktop_computer_stylized_medium
desktop_computer_stylized_medium
1-34
(modified by Cheung for EE586; based on K&R original)