intel b60 48G 可以买吗

查看 47|回复 5
作者:after1990s   
vvhhaaattt   
现在用的 a770 ,如果是个人用户为了 ai 推理,不建议买 intel 。
其他情况不予评论。
after1990s
OP
  
@vvhhaaattt llama 能在 a770 上跑吗
vvhhaaattt   
llama.cpp 看你的模型要求了,如果经常试新模型,新模型又用了新的算子……
gpt-oss 为例
sycl 版本 12 月中旬的时候我记得是不能跑还是很慢,因为有算子不支持,会把相关操作退化为 cpu 操作,最近看有 issue 处理,不清楚现状。
valkan 版本能跑,推理速度能用的程度,算子支持速度还行,不过相对 sycl 有折扣。
@after1990s
defaw   
曾经废了九牛二虎之力在 arc a750 上跑起来了 ipex-llm ,inter 跑 ai 还是不如 cuda 方便
vvhhaaattt   
ipex-llm 停止更新了~
您需要登录后才可以回帖 登录 | 立即注册

返回顶部