有什么开源的压测工具可以对 openai chatgpt 规范的接口进行压测

查看 16|回复 0
作者:1311317   
用 vllm 部署的,用的 openai chatgpt 接口规范,现在想压测一下,除了 vllm 自带的 benchmark​工具,还有什么可选的开源工具吗?
您需要登录后才可以回帖 登录 | 立即注册

返回顶部