Linux Desktop GPU
最近在 Linux 桌面上分别尝试了 AMD 和 NVIDIA 的独立显卡(使用的都是 Wayland 协议),踩了一些坑,分享出来。 AMD 对于 AMD 显卡,安装一路顺畅,跟着 Arch Wiki 安装完系统,装个桌面就能用了。进入桌面后跟笔记本的核显使用体验一致,并且后续使用并无异常,比睡眠后唤醒,无黑屏问题等。 如果只是想安静地作为桌面显示用的显卡,AMD 表现很完美。但要是想玩一些模型,比如 Whisper 和 Llama 2,那坑就来了。 既然想玩模型,那多少是知道 AMD 显卡在炼丹领域是比不上 NVIDIA 的。但具体相差多远呢?PyTorch 有 ROCm 的选项支持 AMD 显卡,但模型就不一定能运行了。 实际测试下来,能跑的模型也有,比如: ChatGLM Stable Diffusion web UI ChatGLM 直接启动会报错,显卡不是最新的。根据 WenJieLife 的提示,设置环境变量解决:export HSA_OVERRIDE_GFX_VERSION=10.3.0 HCC_AMDGPU_TARGET=gfx1030。但如果使用量化模型,就不行了。Stable Diffusion web UI 同样需要进行一些配置,但有现成的教程可参考: A卡ROCm运行Stable Diffusion AI画图 Stable Diffusion 使用 AMD ROCm 显卡加速 后续尝试 Llama 2 模型,跑不动,WhisperX 需要 NVIDIA 显卡。 NVIDIA 安装时建议按照 NVIDIA - ArchWiki 中的步骤进行。...