Plum's Blog - 在 Linux 下使用 Intel 显卡 GPU 运行大模型 的评论
前一阵 qwen3:30b-a3b 大模型很火，说是离线状态下可以达到很牛逼的程度，碰巧我因为被抓壮丁要去参加一个傻逼的 CTF 比赛，所以就决定跑个模型来做理论题。不过我没有 Nvidia 的...
有个B580，性能并不算好，而且ipex-llm已经archived, having known security issues。windows llama.cpp下会越跑越慢，性能比较糟糕。linux下可用flashmoe，运行Qwen3-235B-A22B-q2k也还过得去。但和同级其他GPU运行ik_llama相比，不一定能有优势。