Azure-OpenAI实测

查看 105|回复 9
作者:ilufdy   
大前天下午用公司资料申请了Azure的OpenAI接口,附带上微软朋友的名字和邮箱,睡一觉起来就收到通过的邮件了。看网上挺多人说不好通过,我的经验是公司网址和信息都要尽量真实,MVP那个选项不要选(写明了选了会被拒),最好有附带微软员工信息(职级越高越好,微软会去找对方核实)。
拿到接口就赶紧部署测试,实测下来比OpenAI的接口好用不少。
可用性方面,解决了国内无法访问OpenAI的问题,Azure的接口国内可以直接连接而且稳定。
速度方面,我用LA的机器做测试,Azure的OpenAI是原本OpenAI响应速度的1.5倍。OpenAI地处SF,从LA访问理应更快一些,而我Azure的服务放在了Texas反而访问起来快,证明Azure对商用OpenAI开放了更高的资源权限。这一点在Azure开放的Playground也能体会到,Playground上面生成文字流的速度肉眼可见比ChatGPT快多了。
服务位置方面,现在Azure的OpenAI只有3个地方可以选,分别是美国中南部,东部和欧洲西部。从国内测试来看,ping都大于200ms,只能选个离得最近的中南部,希望以后增加部署在亚洲机房来跑模型把。
并发数方面,免费版的OpenAI已经限制了1分钟3条,我已经绑卡付费。实测绑卡下的OpenAI和Azure OpenAI的并发数都很高(连续测了一个小时没测出上限)。
现在准备部署一台Texas的Azure VPS,把重复请求的延迟拉到最低。后面有新的数据再上来补充。

微软, 接口, 速度

BWH   
我也是,给比尔盖茨打了个电话就开通了,挺好开通的啊
jxdyzx   
羡慕大佬
机长   
费用怎么算的
mjj天下第一   

机长 发表于 2023-4-21 11:42
费用怎么算的

和openai收费一样
TimCook   
有gpt-4吗
seagood   
用的自己的外币信用卡吗
yixin82   
我也是,刚打了电话,直接把openai股份给我了,挺好开通的
c菌   
是国际Azure还是 世纪互联Azure,公司信息用中文写的吗?
Litccc   
mjj只想白**
您需要登录后才可以回帖 登录 | 立即注册

返回顶部