从输入网址到页面完成的过程

mac2025-06-01  19

客户端获取URL - > DNS解析 - > TCP连接 - >发送HTTP请求 - >服务器处理请求 - >返回报文 - >浏览器解析渲染页面 - > TCP断开连接

我们现在上网过程中,常常会在浏览器中输入各种各样的URL或者网址,然后浏览器就会渲染出对应的网页。这里到底是怎么实现的呢,中间包含的过程又有哪些呢。让我们来一一分析。

首先,我们可以大致分为以下几步。 1、要解析域名转换成对应的公网IP; 2、根据公网IP通过庞大的互联网路由到对应的服务器上; 3、建立可靠的TCP数据连接; 4、服务器对该URL中的请求进行处理分发,返回一个html; 5、浏览器或者客户端对该HTML进行渲染; 接下来让我逐个逐步的对以上五步进行分析:

1、解析域名 首先,我们在浏览器中输入的其实是个域名,并不是一个可以再互联网中可以路由的公网IP地址,要将类似于Https://www.baidu.com这样的域名解析为Ip地址,就需要依靠DNS服务了,DNS服务可以将该域名解析为IP地址。具体是通过DNS服务器提供的服务来完成的,DNS服务器上维护了一张映射表,key为域名,value为Ip地址。由于庞大的互联网对于解析域名的需求十分庞大,所以不可能只部署了一台域名解析服务器。现在的互联网是采用了树型的分层的分布式域名解析服务器集群来完成的。如果这一级的DNS服务器上找不到,则会进一步向上一级的DNS发去查询请求。直到根域名服务器为止。如果中间找到了对应的公网Ip,则再一级一级返回,如果找不到则返回错误信息。域名解析失败。

2、通过公网IP查找服务器 有了公网IP地址,我们就可以通过路由器找到对应的服务器所在,并进一步进行通信。公网IP在整个互联网上是独一无二的,每个公网IP都代表着独立不同的节点、集群、或者服务。通过互联网间的路由器和路由表既可查找到对应的服务器。这部分我也不太熟悉,就不细细展开了。

3、建立TCP连接 找到服务器后,就开始为通信做准备,通信协议在网络层主要有两种,一种是TCP、一种是UDP。而TCP可以通过可靠的网络通信服务,保证了通信双方的信息不丢失。

这里使用的TCP协议在使用前需要首先在客户端和服务端之间,建立起一条数据链路。分为三步,也叫作TCP三次握手。 3.1、TCP连接请求方,也就是客户端会发送一个请求建立连接的syn包(syn=x)给服务器; 3.2、服务器接受到建立连接的请求syn包后,会回复一个确认包。其中有参数ACK=x+1。同时它自己还会再发一个SYN包,这里的SYN=y; 3.3、客户端接收到服务器端发送来的确认建立连接请求的包后,再次回复一个确认包。这里的ACK=y+1;到了这里,客户端和服务端之间的链接就已经建立起来了。

4、服务器后端对URL进行处理分发 这里主要是指客户端会根据URL携带的不同信息,对其进行分发和数据处理。通过对应的URL格式dispatch到不同的后台处理Java类中,进行数据处理后,再返回对应的HTML文件给客户端。

5、对HTML在客户端进行渲染 现在的网页多是动态HTML。里面包含了大量的JS代码。目前的浏览器为了尽快加载页面,普遍采用了一遍解析一遍加载的原则。

6、后记 这里其实只是一个简单的过程分析,其实真正要去详细展开说明的话,会有很多的内容在其中,例如CDN加速、浏览器缓存、HTTPS中的证书CA认证、SSL、路由查找、后端分发、前端渲染等等等等。 ———————————————— 转载: 原文链接:https://blog.csdn.net/qq_30683329/article/details/80727526

1.首先嘛,你得在浏览器里输入要网址:facebook.com

2.浏览器查找域名的IP地址 导航的第一步是通过访问的域名找出其IP地址。DNS查找过程如下: *浏览器缓存–浏览器会缓存DNS记录一段时间。有趣的是,操作系统没有告诉浏览器储存DNS记录的时间,这样不同浏览器会储存个自固定的一个时间(2分钟到30分钟不等)。 *系统缓存–如果在浏览器缓存里没有找到需要的记录,浏览器会做一个系统调用(windows里是gethostbyname)。这样便可获得系统缓存中的记录。 *路由器缓存–接着,前面的查询请求发向路由器,它一般会有自己的DNS缓存。 *ISPDNS缓存–接下来要check的就是ISP缓存DNS的服务器。在这一般都能找到相应的缓存记录。 *递归搜索–你的ISP的DNS服务器从跟域名服务器开始进行递归搜索,从.com顶级域名服务器到Facebook的域名服务器。一般DNS服务器的缓存中会有.com域名服务器中的域名,所以到顶级服务器的匹配过程不是那么必要了。 DNS有一点令人担忧,这就是像wikipedia.org或者facebook.com这样的整个域名看上去只是对应一个单独的IP地址。还好,有几种方法可以消除这个瓶颈: *循环DNS是DNS查找时返回多个IP时的解决方案。举例来说,Facebook.com实际上就对应了四个IP地址。 *负载平衡器是以一个特定IP地址进行侦听并将网络请求转发到集群服务器上的硬件设备。一些大型的站点一般都会使用这种昂贵的高性能负载平衡器。 *地理DNS根据用户所处的地理位置,通过把域名映射到多个不同的IP地址提高可扩展性。这样不同的服务器不能够更新同步状态,但映射静态内容的话非常好。 *Anycast是一个IP地址映射多个物理主机的路由技术。美中不足,Anycast与TCP协议适应的不是很好,所以很少应用在那些方案中。 大多数DNS服务器使用Anycast来获得高效低延迟的DNS查找。

3.浏览器给web服务器发送一个HTTP请求 因为像Facebook主页这样的动态页面,打开后在浏览器缓存中很快甚至马上就会过期,毫无疑问他们不能从中读取。 所以,浏览器将把一下请求发送到Facebook所在的服务器: GETHTTP://facebook.com/HTTP/1.1 Accept:application/x-ms-application,image/jpeg,application/xaml+xml,[…] User-Agent:Mozilla/4.0(compatible;MSIE8.0;WindowsNT6.1;WOW64;[…] Accept-Encoding:gzip,deflate Connection:Keep-Alive Host:facebook.com Cookie:datr=1265876274-[…];locale=en_US;lsd=WW[…];c_user=2101[…] GET这个请求定义了要读取的URL:“HTTP://facebook.com/”。浏览器自身定义(User-Agent头),和它希望接受什么类型的相应(AcceptandAccept-Encoding头).Connection头要求服务器为了后边的请求不要关闭TCP连接。 请求中也包含浏览器存储的该域名的cookies。可能你已经知道,在不同页面请求当中,cookies是与跟踪一个网站状态相匹配的键值。这样cookies会存储登录用户名,服务器分配的密码和一些用户设置等。Cookies会以文本文档形式存储在客户机里,每次请求时发送给服务器。 用来看原始HTTP请求及其相应的工具很多。作者比较喜欢使用fiddler,当然也有像FireBug这样其他的工具。这些软件在网站优化时会帮上很大忙。 除了获取请求,还有一种是发送请求,它常在提交表单用到。发送请求通过URL传递其参数(e.g.:HTTP://robozzle.com/puzzle.aspx?id=85)。发送请求在请求正文头之后发送其参数。 像“HTTP://facebook.com/”中的斜杠是至关重要的。这种情况下,浏览器能安全的添加斜杠。而像“HTTP://example.com/folderOrFile”这样的地址,因为浏览器不清楚folderOrFile到底是文件夹还是文件,所以不能自动添加斜杠。这时,浏览器就不加斜杠直接访问地址,服务器会响应一个重定向,结果造成一次不必要的握手。

4.facebook服务的永久重定向响应 Facebook服务器发回给浏览器的响应: HTTP/1.1301MovedPermanently Cache-Control:private,no-store,no-cache,must-revalidate,post-check=0, pre-check=0 Expires:Sat,01Jan200000:00:00GMT Location:HTTP://www.facebook.com/ P3P:CP=”DSPLAW” Pragma:no-cache Set-Cookie:made_write_conn=deleted;expires=Thu,12-Feb-200905:09:50GMT; path=/;domain=.facebook.com;httponly Content-Type:text/html;charset=utf-8 X-Cnection:close Date:Fri,12Feb201005:09:51GMT Content-Length:0 服务器给浏览器响应一个301永久重定向响应,这样浏览器就会访问“HTTP://www.facebook.com/”而非“HTTP://facebook.com/”。 为什么服务器一定要重定向而不是直接发会用户想看的网页内容呢?这个问题有好多有意思的答案。 其中一个原因跟搜索引擎排名有关。你看,如果一个页面有两个地址,就像HTTP://www.igoro.com/和HTTP://igoro.com/,搜索引擎会认为它们是两个网站,结果造成每一个的搜索链接都减少从而降低排名。而搜索引擎知道301永久重定向是什么意思,这样就会把访问带www的和不带www的地址归到同一个网站排名下。 还有一个是用不同的地址会造成缓存友好性变差。当一个页面有好几个名字时,它可能会在缓存里出现好几次。

5.浏览器跟踪重定向地址 现在,浏览器知道了“HTTP://www.facebook.com/”才是要访问的正确地址,所以它会发送另一个获取请求: GETHTTP://www.facebook.com/HTTP/1.1 Accept:application/x-ms-application,image/jpeg,application/xaml+xml,[…] Accept-Language:en-US User-Agent:Mozilla/4.0(compatible;MSIE8.0;WindowsNT6.1;WOW64;[…] Accept-Encoding:gzip,deflate Connection:Keep-Alive Cookie:lsd=XW[…];c_user=21[…];x-referer=[…] Host:www.facebook.com 头信息以之前请求中的意义相同。

6.服务器“处理”请求 服务器接收到获取请求,然后处理并返回一个响应。 这表面上看起来是一个顺向的任务,但其实这中间发生了很多有意思的东西-就像作者博客这样简单的网站,何况像facebook那样访问量大的网站呢! *Web服务器软件 web服务器软件(像IIS和阿帕奇)接收到HTTP请求,然后确定执行什么请求处理来处理它。请求处理就是一个能够读懂请求并且能生成HTML来进行响应的程序(像ASP.NET,PHP,RUBY…)。 举个最简单的例子,需求处理可以以映射网站地址结构的文件层次存储。像HTTP://example.com/folder1/page1.aspx这个地址会映射/httpdocs/folder1/page1.aspx这个文件。web服务器软件可以设置成为地址人工的对应请求处理,这样page1.aspx的发布地址就可以是HTTP://example.com/folder1/page1。 *请求处理 请求处理阅读请求及它的参数和cookies。它会读取也可能更新一些数据,并讲数据存储在服务器上。然后,需求处理会生成一个HTML响应。 所有动态网站都面临一个有意思的难点-如何存储数据。小网站一半都会有一个SQL数据库来存储数据,存储大量数据和/或访问量大的网站不得不找一些办法把数据库分配到多台机器上。解决方案有:sharding(基于主键值讲数据表分散到多个数据库中),复制,利用弱语义一致性的简化数据库。 委托工作给批处理是一个廉价保持数据更新的技术。举例来讲,Fackbook得及时更新新闻feed,但数据支持下的“你可能认识的人”功能只需要每晚更新(作者猜测是这样的,改功能如何完善不得而知)。批处理作业更新会导致一些不太重要的数据陈旧,但能使数据更新耕作更快更简洁。

7.服务器发回一个HTML响应 服务器生成并返回的响应: HTTP/1.1200OK Cache-Control:private,no-store,no-cache,must-revalidate,post-check=0, pre-check=0 Expires:Sat,01Jan200000:00:00GMT P3P:CP=”DSPLAW” Pragma:no-cache Content-Encoding:gzip Content-Type:text/html;charset=utf-8 X-Cnection:close Transfer-Encoding:chunked Date:Fri,12Feb201009:05:55GMT 2b3Tn@[…] 整个响应大小为35kB,其中大部分在整理后以blob类型传输。 内容编码头告诉浏览器整个响应体用gzip算法进行压缩。解压blob块后,你可以看到如下期望的HTML: “HTTP://www.w3.org/TR/xhtml1/DTD/xhtml1-strict.dtd”> lang=”en”id=”facebook”> … 关于压缩,头信息说明了是否缓存这个页面,如果缓存的话如何去做,有什么cookies要去设置(前面这个响应里没有这点)和隐私信息等等。 请注意报头中把Content-type设置为“text/html”。报头让浏览器将该响应内容以HTML形式呈现,而不是以文件形式下载它。浏览器会根据报头信息决定如何解释该响应,不过同时也会考虑像URL扩展内容等其他因素。

8.浏览器开始显示HTML 在浏览器没有完整接受全部HTML文档时,它就已经开始显示页面了

9.浏览器发送获取嵌入在HTML中的对象 在浏览器显示HTML时,它会注意到需要获取其他地址内容的标签。这时,浏览器会发送一个获取请求来重新获得这些文件。 下面是几个我们访问facebook.com时需要重获取的几个URL: *图片 HTTP://static.ak.fbcdn.net/rsrc.php/z12E0/hash/8q2anwu7.gif HTTP://static.ak.fbcdn.net/rsrc.php/zBS5C/hash/7hwy7at6.gif … *CSS式样表 HTTP://static.ak.fbcdn.net/rsrc.php/z448Z/hash/2plh8s4n.css HTTP://static.ak.fbcdn.net/rsrc.php/zANE1/hash/cvtutcee.css … *JavaScript文件 HTTP://static.ak.fbcdn.net/rsrc.php/zEMOA/hash/c8yzb6ub.js HTTP://static.ak.fbcdn.net/rsrc.php/z6R9L/hash/cq2lgbs8.js … 这些地址都要经历一个和HTML读取类似的过程。所以浏览器会在DNS中查找这些域名,发送请求,重定向等等… 但不像动态页面那样,静态文件会允许浏览器对其进行缓存。有的文件可能会不需要与服务器通讯,而从缓存中直接读取。服务器的响应中包含了静态文件保存的期限信息,所以浏览器知道要把它们缓存多长时间。还有,每个响应都可能包含像版本号一样工作的ETag头(被请求变量的实体值),如果浏览器观察到文件的版本ETag信息已经存在,就马上停止这个文件的传输。 试着猜猜看“fbcdn.net”在地址中代表什么?聪明的答案是”Facebook内容分发网络”。Facebook利用内容分发网络(CDN)分发像图片,CSS表和JavaScript文件这些静态文件。所以,这些文件会在全球很多CDN的数据中心中留下备份。 静态内容往往代表站点的带宽大小,也能通过CDN轻松的复制。通常网站会使用第三方的CDN。例如,Facebook的静态文件由最大的CDN提供商Akamai来托管。 举例来讲,当你试着pingstatic.ak.fbcdn.net的时候,可能会从某个akamai.net服务器上获得响应。有意思的是,当你同样再ping一次的时候,响应的服务器可能就不一样,这说明幕后的负载平衡开始起作用了。

10.浏览器发送异步(AJAX)请求 在Web2.0伟大精神的指引下,页面显示完成后客户端仍与服务器端保持着联系。 以Facebook聊天功能为例,它会持续与服务器保持联系来及时更新你那些亮亮灰灰的好友状态。为了更新这些头像亮着的好友状态,在浏览器中执行的JavaScript代码会给服务器发送异步请求。这个异步请求发送给特定的地址,它是一个按照程式构造的获取或发送请求。还是在Facebook这个例子中,客户端发送给HTTP://www.facebook.com/ajax/chat/buddy_list.php一个发布请求来获取你好友里哪个在线的状态信息。 提起这个模式,就必须要讲讲”AJAX”–“异步JavaScript和XML”,虽然服务器为什么用XML格式来进行响应也没有个一清二白的原因。再举个例子吧,对于异步请求,Facebook会返回一些JavaScript的代码片段。 除了其他,fiddler这个工具能够让你看到浏览器发送的异步请求。事实上,你不仅可以被动的做为这些请求的看客,还能主动出击修改和重新发送它们。AJAX请求这么容易被蒙,可着实让那些计分的在线游戏开发者们郁闷的了。(当然,可别那样骗人家~) Facebook聊天功能提供了关于AJAX一个有意思的问题案例:把数据从服务器端推送到客户端。因为HTTP是一个请求-响应协议,所以聊天服务器不能把新消息发给客户。取而代之的是客户端不得不隔几秒就轮询下服务器端看自己有没有新消息。 这些情况发生时长轮询是个减轻服务器负载挺有趣的技术。如果当被轮询时服务器没有新消息,它就不理这个客户端。而当尚未超时的情况下收到了该客户的新消息,服务器就会找到未完成的请求,把新消息做为响应返回给客户端。

最新回复(0)