转转云平台主要包括镜像管理、发布升级、容器监控、日志收集四个部分。
这是转转云平台架构图,其中包括组件镜像存储、日志收集、K8s、服务治理、NG 治理、监控等,云平台统一管控这些组件。如图所示,云平台屏蔽以上组件,让 rd 无感,减少复杂性,学习曲线平缓。
这幅图是云平台的结构关系,该图包含了用户行为和数据流转关系,属于系统的反馈回路图。
从左边来看,rd 通过 CI/CD 平台编译部署,通过日志平台查询日志,通过大数据收集平台配置日志收集信息,最后这些平台统一和云平台交互,由云平台统一管理和 K8s 的交互,而其他系统与 K8s 无耦合。如图所示,云平台负责镜像编译、发布升级、日志收集等功能。
镜像管理的目标是让 rd 对 Dockerfile 无感,减少学习成本。由于容器之前,编译系统有现成的编译产物,我们选择直接复用,来减少 CI/CD 开发成本,同时也能提高编译性能。
对应实现方案为应用分类(ZZJAVA、ZZWEB、WF),这样每种技术栈类型对应一种基础镜像,也就是各自对应相应的启动脚本,做到用户无需感知 Dockerfile。物理机编译产物 + CMD(启动命令)就和物理机应用无异,做到物理机编译产物直接复用到容器中。
对于容器编译的执行过程,我们把编译镜像的程序以 pod 的形式部署到 K8s 集群运行,天然继承 K8s 的优势,做到分布式编译,以此打破性能瓶颈。
下面看一下镜像管理的流程交互图。如上图,rd 通过 CI/CD 编译工程,按原有编译流程执行编译,产物推送到 FTP 服务,然后利用云平台能力产生编译 pod,最终编译镜像程序在编译 pod 中编译镜像并推送到镜像仓库(Harbor)。下面是云平台的 Dockerfile,业务镜像输入参数是编译产物 url 和服务名称,而编译镜像的 Dockerfile 的本质就是用 Docker client 在 pod 中进行 docker build,这样编译镜像程序本身也能享受到隔离且编译后自我清理中间产物的优势。
对于发布升级,我主要讲两个点:
Deployment 控制器使用过程中重点考虑的通用问题包括:cpu 如何超分、超分会出现什么问;ready 检查如何做;亲和策略怎么选择;以及针对不同服务类型的具体实现是什么等。
CPU 超分的目标是让重点集群控制 CPU 超分比例,以此保证重点集群机器性能。
实现方案:保证重点集群性能就要控制其他非重点集群不调度到对应机器,所以本质来说是对宿主机集群进行分类。具体来说,就是为宿主机打不同的 label,部署的时候使用 NodeSelector 去匹配相应的宿主机,同时控制 CPU request=limit * 设置比例,做到宿主机超分比率控制。
ready 检查的目标是,在 pod 在滚动升级时保证新启动容器进程可以提供服务,避免新容器出现问题时全部替换老容器,导致服务不可用。
实现方案:对于 Web 服务来说,访问 health 接口返回 200 认为 ready;rpc 服务判断端口启动成功即可,我们的 rpc 服务保证端口暴露时注册到服务治理服务。
亲和策略的目标是将同一个集群 pod 调度到不同宿主机,防止宿主机 crash 导致整个集群不可用。
实现方案:podAntiAffinity 技术。
rpc 服务遇到的挑战:
实现方案:针对分组配置节点数,rpc 框架改造支持分组发现,云平台支持针对分组部署,具体分组发现依靠 env 中的分组 id。
Web 服务遇到的挑战:
实现方案:利用容器的生命周期控制 Nginx 上下线,实现 Nginx 服务化,即在 Nginx 上提供服务上下线接口。这样在容器 prestop 时下线 Nginx,readyness 时上线 Nginx,做到容器自我管理上下线 Nginx 功能。
使用 Deployment 控制器会遇到 IP 漂移、日志丢失、kubelet 不支持 subPath 等问题。我们自定义控制器是为了方便开发,直接重写 RC 控制器,复用 pod,解决 ip 漂移和日志丢失问题。我们还重写了 emptyDir 实现 subPath,解决相同集群调度到同一机器日志冲突问题。
这幅图是 K8s 控制器流程图,经典的 list/watch 模型。
我们重写 RC 的逻辑也比较简单:监听 Replication、发现 image 版本变化,直接替换 pod 的镜像版本,做到本地升级。但也有例外情况,如果 cpu、内存、env 等发生变化,我们就更换 pod。
关于云平台的监控,我们也经历了几个版本:从 Heapster 到 Metrics-server,最后直接使用 Prometheus 抓取 cAdvisor 数据。这里有个小细节,Prometheus 抓取 cAdvisor 数据没有 IP 和 pod 关联关系的数据,是需要处理的。
这幅图是转转的容器监控,可以看到相应 pod 的宿主机以及自身性能数据。
日志收集遇到的问题:
我们的应对方案:日志使用 hostpath 直接打到宿主机,解决丢失问题,然后使用异步收集解决量大问题。所谓异步收集是指宿主机上有专门的 agent 读取 Docker 启动 / 销毁事件,进而生成 flume 配置文件,做到收集日志和云平台解耦。
- END -
本文由哈喽比特于2年以前收录,如有侵权请联系我们。
文章来源:https://mp.weixin.qq.com/s/Pu0GbQ4yw82J0UymxjNfgw
京东创始人刘强东和其妻子章泽天最近成为了互联网舆论关注的焦点。有关他们“移民美国”和在美国购买豪宅的传言在互联网上广泛传播。然而,京东官方通过微博发言人发布的消息澄清了这些传言,称这些言论纯属虚假信息和蓄意捏造。
日前,据博主“@超能数码君老周”爆料,国内三大运营商中国移动、中国电信和中国联通预计将集体采购百万台规模的华为Mate60系列手机。
据报道,荷兰半导体设备公司ASML正看到美国对华遏制政策的负面影响。阿斯麦(ASML)CEO彼得·温宁克在一档电视节目中分享了他对中国大陆问题以及该公司面临的出口管制和保护主义的看法。彼得曾在多个场合表达了他对出口管制以及中荷经济关系的担忧。
今年早些时候,抖音悄然上线了一款名为“青桃”的 App,Slogan 为“看见你的热爱”,根据应用介绍可知,“青桃”是一个属于年轻人的兴趣知识视频平台,由抖音官方出品的中长视频关联版本,整体风格有些类似B站。
日前,威马汽车首席数据官梅松林转发了一份“世界各国地区拥车率排行榜”,同时,他发文表示:中国汽车普及率低于非洲国家尼日利亚,每百户家庭仅17户有车。意大利世界排名第一,每十户中九户有车。
近日,一项新的研究发现,维生素 C 和 E 等抗氧化剂会激活一种机制,刺激癌症肿瘤中新血管的生长,帮助它们生长和扩散。
据媒体援引消息人士报道,苹果公司正在测试使用3D打印技术来生产其智能手表的钢质底盘。消息传出后,3D系统一度大涨超10%,不过截至周三收盘,该股涨幅回落至2%以内。
9月2日,坐拥千万粉丝的网红主播“秀才”账号被封禁,在社交媒体平台上引发热议。平台相关负责人表示,“秀才”账号违反平台相关规定,已封禁。据知情人士透露,秀才近期被举报存在违法行为,这可能是他被封禁的部分原因。据悉,“秀才”年龄39岁,是安徽省亳州市蒙城县人,抖音网红,粉丝数量超1200万。他曾被称为“中老年...
9月3日消息,亚马逊的一些股东,包括持有该公司股票的一家养老基金,日前对亚马逊、其创始人贝索斯和其董事会提起诉讼,指控他们在为 Project Kuiper 卫星星座项目购买发射服务时“违反了信义义务”。
据消息,为推广自家应用,苹果现推出了一个名为“Apps by Apple”的网站,展示了苹果为旗下产品(如 iPhone、iPad、Apple Watch、Mac 和 Apple TV)开发的各种应用程序。
特斯拉本周在美国大幅下调Model S和X售价,引发了该公司一些最坚定支持者的不满。知名特斯拉多头、未来基金(Future Fund)管理合伙人加里·布莱克发帖称,降价是一种“短期麻醉剂”,会让潜在客户等待进一步降价。
据外媒9月2日报道,荷兰半导体设备制造商阿斯麦称,尽管荷兰政府颁布的半导体设备出口管制新规9月正式生效,但该公司已获得在2023年底以前向中国运送受限制芯片制造机器的许可。
近日,根据美国证券交易委员会的文件显示,苹果卫星服务提供商 Globalstar 近期向马斯克旗下的 SpaceX 支付 6400 万美元(约 4.65 亿元人民币)。用于在 2023-2025 年期间,发射卫星,进一步扩展苹果 iPhone 系列的 SOS 卫星服务。
据报道,马斯克旗下社交平台𝕏(推特)日前调整了隐私政策,允许 𝕏 使用用户发布的信息来训练其人工智能(AI)模型。新的隐私政策将于 9 月 29 日生效。新政策规定,𝕏可能会使用所收集到的平台信息和公开可用的信息,来帮助训练 𝕏 的机器学习或人工智能模型。
9月2日,荣耀CEO赵明在采访中谈及华为手机回归时表示,替老同事们高兴,觉得手机行业,由于华为的回归,让竞争充满了更多的可能性和更多的魅力,对行业来说也是件好事。
《自然》30日发表的一篇论文报道了一个名为Swift的人工智能(AI)系统,该系统驾驶无人机的能力可在真实世界中一对一冠军赛里战胜人类对手。
近日,非营利组织纽约真菌学会(NYMS)发出警告,表示亚马逊为代表的电商平台上,充斥着各种AI生成的蘑菇觅食科普书籍,其中存在诸多错误。
社交媒体平台𝕏(原推特)新隐私政策提到:“在您同意的情况下,我们可能出于安全、安保和身份识别目的收集和使用您的生物识别信息。”
2023年德国柏林消费电子展上,各大企业都带来了最新的理念和产品,而高端化、本土化的中国产品正在不断吸引欧洲等国际市场的目光。
罗永浩日前在直播中吐槽苹果即将推出的 iPhone 新品,具体内容为:“以我对我‘子公司’的了解,我认为 iPhone 15 跟 iPhone 14 不会有什么区别的,除了序(列)号变了,这个‘不要脸’的东西,这个‘臭厨子’。