今天和大家聊聊内容分发网络的那些事儿,希望大家有所收获。
今天的主角是CDN,我们先看下百度百科对CDN的定义:> CDN的全称是Content Delivery Network,即内容分发网络。
CDN是构建在
现有网络基础之上的智能虚拟网络
,依靠部署在各地的边缘服务器
,通过中心平台的负载均衡、内容分发、调度等功能模块,使用户就近获取所需内容
,降低网络拥塞,提高用户访问响应速度和命中率
。
原来CDN并非网络基础设施,而是构建在实体网络基础设施之上的一个"应用层",并且是部署在各地的一个庞大的分布式网络系统。
互联网数据传输是个复杂的过程,整体来看可以分为三个一公里,如图展示了互联网数据流动的三个主要阶段:
运营商之间数据的互联互通问题,比如A市联通要访问A市电信的数据资源,按照互联互通的规则限制,不同运营商的数据要在指定的交换中心进行数据交换,假如交换中心位于较远的B市,那么就存在如下图的关系:
换句话说,本来两个运营商是同一个城市的,但由于运营商的网络差异需要到几百公里之外的交换中心所在的城市进行数据交换,实现资源的访问。
> 对于不同运营商间的互联互通,一般是采用BGP peering对等的方式进行,两家运营商相互协商,在特定地点建立连接和交换,从而实现运营商A的用户对于运营商B的网络中资源的访问。
在中国,运营商之间通过“国家级互联网骨干直联点”进行连接,2001到2014年国内只有北上广三个直联点,导致跨网访问体验极差,流量无法本地中转需要长途迂回,大大增加了延迟。
三批国家级互联网骨干直联点: 第一批2001年投入使用:北京、上海、广州 第二批2014年投入使用:成都、郑州、武汉、西安、沈阳、南京、重庆 第三批2017年投入使用:杭州、贵阳、福州
试想北美的海外用户要访问在服务器在深圳的资源,物理距离就有几万公里,算上三个一公里的消耗,恐怕用户的体验会非常糟糕。 同样的,网站服务器的接入带宽是有限的,对于海量用户的接入访问非常容易出现拥塞,这样很容易把网站服务器压垮。 同时,对于运营商来说也很糟糕,骨干网充斥着大量相同的请求,网络基建压力很大,如果把这些请求在本地处理掉该多好!
可见,如果没有CDN这一层Cache应用,网站、用户、运营商都会很崩溃。 CDN的思想和电商物流建立的区域仓库、前置仓库很像,用户下单后优先在最近的仓库配货,极限情况下几小时就可以送到用户手里,用户体验好、物流压力小。
CDN是个非常复杂的大系统,作为普通的开发人员,我们抓住重点理解精髓就好。
我们访问资源时会使用DNS进行解析获取资源服务器的IP地址进行数据交互,那么在使用CDN之后会发生什么变化呢?
图中我们看到用户从LocalDNS开始查询,如果找不到就到根权威DNS服务器,再向顶级权威DNS服务器访问,依次迭代最终获取待访问域名的IP地址。
前面我们曾经提到CDN是构建在承载网上的一个Cache应用层,也就是CDN作为用户和网站服务器之间的Cache来参与整个过程。
这样就出现一个问题:用户如何获取CDN资源节点的IP地址呢?
没错,其中一种常见的调度方案就是DNS调度,如图所示:
前半部分和传统模式类似,重要的区别在于专用DNS调度服务器的出现。
就是图中的TenCent DNS Server,这台专用DNS调度服务器根据CDN系统内部节点的位置、负载情况、资源分配等因素选出最优的CDN资源节点IP地址返回给用户。
要实现CDN资源节点的调度,需要网站做一些准备工作:
比如为源站abc.com到阿里云进行域名加速,配置完成后阿里云会自动关联生成加速域名的别名如abc.com.aliyuncdn.net,这个别名也称为CNAME。 这里我们提两个重要的概念:CNAME和A记录,它们是理解CDN的基础概念。> CNAME记录,也叫别名记录,比如www.xx.com的别名是www.yy.com,CNAME记录是一种指向关系,把www.yy.com指向了www.xx.com,一个域名可以有多个别名,存在多对一的关系。
A记录,即Address记录,我们可以把它理解为一种域名和IP地址的映射关系,比如www.abc.com对应的IP地址是1.1.1.1。
由于加速域名已经进行了CDN的CNAME配置,在权威DNS服务器的解析下得到的并不是IP地址而是CNAME,这一步非常关键。
当用户访问abc.com时,传统的权威DNS服务器对abc.com进行解析时得到的是abc.com.aliyuncdn.net这个配置的CNAME,从而通过CNAME顺利将请求转到CDN服务商专用的DNS服务器,由该服务器返回CDN的资源节点。
除了DNS调度,还有httpDNS调度、302调度等场景,来简单看一下。- httpDNS调度
HTTPDNS技术是一种针对DNS防劫持的有效手段,以HTTP的方式代替传统DNS协议传递解析结果,能够有效避开DNS层面的拦截和故障。该方案可以根据客户端的来访IP,直接通过Httpdns服务器获取最精准的解析结果,避免因为DNS多出口,DNS攻击导致的DNS解析失败的问题。
客户端直接调用HttpDNS接口获取缓存服务器IP组,再择优向IP组中的缓存服务器发送请求,替代常规DNS调度策略,适用于客户端,且客户端需稍作修改进行HttpDNS接口调用。
基于终端用户的IP,做HTTP的精确重定向,需要协议支持、具有相当的时延,一般用于流媒体类加速场景。
该调度方式是通过DNS解析获得CDN的GLSB集群的IP地址,用户发送HTTP请求,GLSB服务器返回302 Found,将访问重定向到合适的服务节点。
该方式也存在着一些不足:仅限HTTP的应用,可拓展性不足,调度过程多了302跳转的重定向过程,相对DNS调度时延较长
httpsDNS和302调度都有自己的优势和使用场景,不同的网站可以采用一种或者多种调度方案来综合实施加速,三种方案并不对立,而是相互补充。
有了CDN的加速,用户就可以访问近距离的服务器节点,大大提升了用户体验,同时源站的带宽压力也得到了分流,运营商骨干网压力也随之降低,看起来确实是个win-win-win的方案呀。
我们以阿里云官方文档为蓝本进行展开:
支持DNS、HTTPDNS和302调度模式,当终端用户发起访问请求时,用户的访问请求会先进行域名DNS解析,然后通过CDN的调度系统处理用户的解析请求,就是我们前面介绍的CDN参与下的DNS调度过程。
实时监测缓存系统中的所有节点和链路的实时负载以及健康状况,根据用户请求中携带的IP地址解析用户的运营商和区域归属,综合链路质量信息为用户分配一个最佳接入节点。 这里算是进行CDN节点选择的一个策略和质量监控的闭环系统。
用户在最佳接入节点访问数据,如果节点已经缓存了资源,会直接将资源返回给用户,如果L1和L2节点都没有缓存请求的资源,此时回源站去获取资源并存储到缓存系统。
支撑服务系统包括数据智能和配置管理系统,实现资源监测和数据分析,例如对CDN加速域名的QPS、带宽、HTTP状态码、PV、UV等数据进行监控。
CDN本质上就是一层Cache,有缓存就一定会有数据不一致问题,以及哪些资源适合做缓存,哪些不适合的问题。
如果每个用户访问得到的资源一样,就像电视台播放节目,大家看到的都一样,并非个性化的结果,这类资源就可以称为静态资源,比如网站的图片、视频、软件安装包等。
这些资源变化很小,因此非常使用CDN加速,对改善网站性能效果明显。
区别于静态资源,动态资源则更倾向于接口、个性化内容,用户每次请求得到的结果可能不同,这些资源并不适合CDN场景,如果强行使用会带来数据更新缓慢和不一致问题,但是动态资源有其特有的加速方法。
动态资源就意味着回源站进行数据请求,这其中就涉及到最优回源路径的选择
,让路更好走,数据获取更快捷,实现动态资源的加速。
所以CDN也并非万金油,我们要合理使用。
镜头拉回到20世纪90年代,当时全球范围内网络基础设施还很薄弱,尤其在骨干网接入用户越来越多,数据的长距离传输效果很差,已经阻碍了新兴网络科学的发展。
这个现象很快被万维网的发明人Tim Berners Lee注意并提出来,随后他和麻省理工学院应用数学专家 Tom Leighton 教授讨论该问题。 Tim Berners Lee教授
在意识到这问题的重大意义后,Tom Leighton教授带领着研究生 Danny Lewin 和其他几位顶级研究人员一起尝试用数学问题解决网络拥堵问题。 Tom Leighton教授
最终他们使用数学算法,处理内容的动态路由安排,解决了这个难题。
故事还没有完,史隆管理学院的 MBA 学生 Jonathan Seelig 加入了 Leighton 的队伍中,为这支技术队伍插上了商业的翅膀,最终于 1998 年 8 月 20 日正式成立公司,命名为 Akamai。
时至今日,Akamai仍然是一家承载全球15%-30%网络流量,客户涉及谷歌、脸书、微软等知名互联网公司。
Akamai在全球部署150000多台服务器,这些服务器部署在全球90多个国家,800多个城市,1000多个运营商的2500多个节点上。
和Akamai同一年诞生的还有中国第一家CDN公司蓝汛ChinaCache。 随着互联网的发展,后续又出现了网宿科技、帝联、快网等公司,在2014年之后各大互联网公司纷纷推出了自己的云服务,其中佼佼者便是阿里云、腾讯云、金山云、七牛云等云服务商CDN公司。 图片来自网络
其中阿里云目前在国内市场份额第一,大约覆盖了1/3的市场需求。
阿里云在全球拥有2800+节点。中国内地拥有2300+节点,覆盖31个省级区域;海外、中国香港、中国澳门和中国台湾拥有500+节点,覆盖70多个国家和地区。全网带宽输出能力达150 Tbps。
目前在用户需求、技术革新、市场竞争等多因素影响下,各大CDN服务商都开始进行转型和技术优化,给用户更好的体验、更安全、更灵活的产品方案,前景广阔发展迅猛。
本文通过介绍CDN的定义和功能、互联网三个一公里的数据流动等问题,让我们对CDN要解决什么问题及其重要意义有了初步认识。
进一步,通过传统DNS调度和使用CDN加速后的调度过程,阐述了CDN资源节点是如何被用户端感知的。
同时以阿里云为蓝本介绍了CDN网络架构的基本组成部分,以及静态资源和动态资源不同的加速方式。
最后从商业的角度介绍了互联网之父提出的长距离传输带来的网络拥塞问题、麻省理工教授创办第一家CDN公司、再到中国CDN的发展情况。
CDN是个复杂的工程,文章篇幅和笔者能力所限,只能和大家分享这么多了,希望对朋友们有所帮助,我们下期再见!!
本文由哈喽比特于3年以前收录,如有侵权请联系我们。
文章来源:https://mp.weixin.qq.com/s/ufBRNO2rVPOovrOkRK4ZKg
京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。
日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。
据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。
今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。
日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。
近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。
据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。
9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...
9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。
据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。
特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。
据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。
近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。
据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。
9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。
《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。
近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。
社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”
2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。
罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。