Ollama限制显存共1篇
Ollama怎么限制显存占用?显存溢出报错完整解决办法-环球云域CloudIDC

Ollama怎么限制显存占用?显存溢出报错完整解决办法

使用Ollama跑本地AI遇到显存溢出闪退?分开Windows、Linux两套实操方案,讲解num_gpu、num_ctx、KV缓存、并发参数的配置方法,Modelfile固化配置、环境变量全局限制,适合K80等老旧显卡调试。
用户92459871的头像-环球云域CloudIDC用户924598712小时前
0361121