Yoo趣儿

Yoo趣儿 › Geek › 程序员 › GPU 虚拟化有哪些应用场景？

GPU 虚拟化有哪些应用场景？

查看 34|回复 5
作者：walkingDoge   
老板让做这个需求，但是个人对应用的场景比较疑惑？
预期是在 K8S 上，将卡根据算力和显存维度划分，分给不同的租户。
现在的大模型随随便便吃几十个 G 的显存，做推理时会考虑用虚拟化后的卡么？
或者不是大模型场景，什么样的用户需求会使用到虚拟化后的小小卡呢？

GPU, 虚拟化, k8s

相关帖子

zmcity   
视频转码，小模型在线推理之类的会用到。
dzdh   
https://pc.haimacloud.com/
carmark   
开发机，小模型（ CV ）推理。
clemente   
目的是 最大化 售卖算力 本质和 12306 卖火车票一样的. a-b + b-c = a-c
mumbler   
阿里云 GPU 去年这会儿 T4 每小时几毛钱，春节后就涨了 10 倍，还不是因为租的人太多了
现在 AI 开源项目大都需要 GPU 运行，语音识别，逻辑推理，图片生成。。。
返回列表
您需要登录后才可以回帖 登录 | 立即注册

AD1

热门主题

热门板块

问与答分享发现分享创造奇思妙想分享邀请码商业推广优惠信息PythonPHPJavaJavaScriptNode.jsGo语言C++HTML

公告

标签|小黑屋|Yoo趣儿

GMT+8, 2025-1-14 11:20 , Processed in 0.134996 second(s), 11 queries , Gzip On, MemCached On.

Powered by Discuz! X3.2

The happiest thing in the world is to strive for an ideal.

返回顶部