Ollama 多模型并行运行:Qwen、Llama、DeepSeek 配置实战
凌晨三点,我盯着终端里滚动的日志,第十七次切换模型。ollama run deepseek-coder 处理代码,ollama run qwen2.5 翻译文档,ollama run llama3.2 回答通用问题。每次切换都要等上十几秒,显卡风扇呼呼作响,...
凌晨三点,我盯着终端里滚动的日志,第十七次切换模型。ollama run deepseek-coder 处理代码,ollama run qwen2.5 翻译文档,ollama run llama3.2 回答通用问题。每次切换都要等上十几秒,显卡风扇呼呼作响,...
AI技术实战 分享AI技术,公众号同名 今天推荐的这个项目可以让我们轻松在本地运行Llama2、Gemma等多种开源大模型,github地址放在文末。该项目吸引作者的几个特点: 支持使用CPU,普通个人电脑可运行。 一键安装,超级简单,支持windows/linux/mac。...