集思广益,上司提了个需求要短时间可以扛住 200 万 req/s

查看 315|回复 31
作者:owen800q   
先说下背景,跨境电商,主要是 tiktok 直播带货,我们是下游平台,平台技术架构是用 aws serverless lambda, api gateway 和 dynamodb
一开始 aws 是给了 3000 的 concurrency quota, 后来业务爆发性增长,年中时我们向 aws 申请加到了 5 万 lambda 并发数,本来以为应该可以应付一切了,但上星期日志出现了大量 500 internal server error, 原来是达到 5 万+了,我们问了下 aws 技术支持,说我们当天的峰值到达了 12 万+ req/s
导致大量商家无法创建下游订单, 大老板直接提了个要求是不允许再发生这种情况, 要求要扛住至少 200 万 请求
Api gateway 和 dynamodb 是没性应限制的,主要是 lambda 并发数提不上去, aws 那边说最多只能把 lambda 最大并发只能提到 100k

AWS, lambda, dynamodb, req

salmon5   
真嘟假嘟
kuituosi   
12 万+ req/s 这个量级不是正常流量了,考虑恶意攻击问题
privil   
200 万 req/s 那得多赚钱
leaflxh   
拉到消息队列里缓存一下(个人想法
coderxy   
真的假的哦? 12w 请求每秒,如果真的都是正常下单,那你们订单量岂不是爆炸? 那还不赶紧扩大团队,高薪聘请大牛,重构后端架构?
unnamedhao   
要不是看到这个问题去查了一下,我还真不相信 lambda 这种类型的服务器有最高并发限制。。。。
你可以询问一下 aws ,并发最高限制是针对函数的还是针对账户的
如果是针对函数的可以多创建几个函数,随机访问其中一个
另外根据文档,如果并发到了限制根据文档返回的应该是 429 而不是 500
最好再确认一下 500 的原因
zealotxxxx   
12 的 QPS 基本上是健康码强度的了。但是你们业务不可能有这么多请求,建议还是检察业务,看看是不是被攻击了。
huangzongzhuan   
Lambda 不行就把它换了呗,AWS 上的计算服务又不是只有它一个,大把可以无限堆机器扩容的计算产品
x86   
钱到位没有扛不住的量,问问老板钱呢
您需要登录后才可以回帖 登录 | 立即注册

返回顶部