DeepSeek是最近非常火的开源大模型,国产大模型 DeepSeek 凭借其优异的性能和对硬件资源的友好性,受到了众多开发者的关注。越来越多的人使用deepseek,官网的deepseek经常出现服务无法访问的情况。同时大多数的情况下,我们都是在内网开发使用,无法访问外网,自然也无法借助deepseek提高我们的工作效率。
本文将介绍如何在网络本地快速不熟deepseek大模型,在资源有限的情况下。
部署的环境
系统:Centos8.5
部署方案:Ollama + DeepSeek-R1 + OpenWebUI
Ollama
Ollama是一个开源项目,旨在让用户能够轻松地在其本地计算机上运行大型语言模型(LLM),是一个开源的大型语言模型服务。它支持各种LLM,包括Llama 3、Mistral和Gemma。