正文内容 评论(0

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕
2024-04-15 16:57:43  出处:快科技 作者:上方文Q 编辑:上方文Q     评论(0)点击可以复制本篇文章的标题和链接

4月8日下午,腾讯云突然发生服务故障,表现为接口响应报错、内部服务错误、网页显示504错误等。

504错误代表的是网关超时(Gateway timeout),也就是服务器作为网关或代理没有及时从上游服务器收到请求。

当天傍晚,腾讯云回复称,官网控制台相关服务出现异常,正在紧急修复,部分地区已恢复,其他地区也正在继续抢修中。

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕

现在,腾讯云官方公布了对此次故障的复盘及情况说明。

根据腾讯云的说法,4月8日15点23分,腾讯云团队收到告警信息,云API服务处于异常状态,随即在腾讯云工单、售后服务群、微博等渠道开始大量出现腾讯云控制台登录不上的客户反馈。

经过故障定位发现,客户登录不上控制台正是云API异常所导致。

云API是云上统一的开放接口集合,客户可以通过API以编程方式管理和操控云端资源,云控制台通过组合云API提供交互式的网页功能。

故障发生后,依赖云API提供产品能力的部分公有云服务,也因为云API的异常出现了无法使用的情况,比如云函数、文字识别、微服务平台、音频内容安全、验证码等。

此次故障一共持续了近87分钟,期间共有1957个客户报障。

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕

从客户的视角来看,云服务大概可以分为数据面和控制面,其中数据面承载客户自身的业务,控制面负责操作云上不同产品。

此次发生故障的控制台和云API,是对控制面的影响。

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕

通俗来讲,如果把云服务类比为酒店,控制台相当于酒店的前台,一旦发生故障就会导致入住、续住等管理能力不可用,但已入住的客房不受影响。

这次故障中,客户已经配置好的服务器等IaaS资源,包括已经部署运行的业务,没有受到云API异常的影响。其他以非云API方式提供服务的PaaS、SaaS服务,也都正常服务。

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕
4月8日当天腾讯云全产品进出流量趋势图,可以看到不受影响

但是,使用API提供的服务类产品受到不同程度的影响,比如腾讯云存储服务调用当天有明显下滑。

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕
4月8日当天腾讯云存储服务调用数据趋势图,可以看到存储服务调用有一个明显的波动

本次故障处理过程如下:

15:23,监测到故障,立即执行服务的恢复,同时进行原因的排查;

15:47,发现通过回滚版本没能完全恢复服务,进一步定位问题;

15:57,定位出故障根因是配置数据出现错误,紧急设计数据修复方案;

16:02,对全地域进行数据修复工作,API服务逐地域恢复中;

16:05,观测到除上海外的地域API服务均已恢复,进一步定位上海地域的恢复问题;

16:25,定位到上海的技术组件存在API循环依赖问题,决定通过流量调度至其他地域来恢复;

16:45,观测到上海地域恢复了,此时API和依赖API的PaaS服务彻底恢复,但控制台流量剧增,按九倍容量进行了扩容;

16:50,请求量逐渐恢复到正常水平,业务稳定运行,控制台服务全部恢复;

17:45,持续观察一小时,未发现问题,按预案处理过程完毕。

腾讯云表示,故障的原因是云API服务新版本向前兼容性考虑不够,以及配置数据灰度机制不足。

本次API升级过程中,由于新版本的接口协议发生了变化,在后台发布新版本之后,对于旧版本前端传来的数据处理逻辑异常,导致生成了一条错误的配置数据,而灰度机制不足导致异常数据快速扩散到了全网地域,造成整体API使用异常。

发生故障后,按照标准回滚方案将服务后台和配置数据同时回滚到旧版本,并重启API后台服务,但此时因为承载API服务的容器平台也依赖API服务才能提供调度能力,即发生了循环依赖,导致服务无法自动拉起。

通过运维手工启动方式才使API服务重启,完成整个故障恢复。

近年来,国内各家云服务多次发生故障:

2024年4月9日支付宝崩溃,2023年12月3日腾讯视频崩溃,2023年11月27日滴滴崩溃,2023年11月12日阿里云和阿里系服务集体崩溃,2023年3月5日B站崩溃……

腾讯云突发故障 87分钟波及1957个客户!官方公开内幕

【本文结束】如需转载请务必注明出处:快科技

责任编辑:上方文Q

文章内容举报

  • 支持打赏
  • 支持0

  • 反对

  • 打赏

文章价值打分

当前文章打分0 分,共有0人打分
  • 分享好友:
  • |

  • 热门文章
  • 换一波

  • 好物推荐
  • 换一波

  • 关注我们

  • 微博

    微博:快科技官方

    快科技官方微博
  • 今日头条

    今日头条:快科技

    带来硬件软件、手机数码最快资讯!
  • 抖音

    抖音:kkjcn

    科技快讯、手机开箱、产品体验、应用推荐...