利用Ollama平台搭建DeepSeek的具体操作步骤

下载安装包：访问 Ollama 官网 https://ollama.com，选择对应操作系统的版本进行下载。

安装完成：安装完成后，在终端（或命令提示符）输入以下命令验证安装是否成功：
ollama --version

若能显示版本号（如“ollama version is 0.5.7”），则说明安装成功。

选择模型版本：再次打开 Ollama 官网，点击“Models”，找到“DeepSeek R1”。根据自身设备的显存大小选择合适的模型版本。

7B 模型（约 4.7GB，适合普通消费级 GPU）：
ollama pull deepseek-r1

70B 模型（需要 24GB+ 显存）：
ollama pull deepseek-r1:70b

671B 模型（需要 336GB+ 显存）：
ollama pull deepseek-r1:671b

开始下载：将上述对应命令复制到终端中运行，模型将开始下载。

运行模型：下载完成后，运行以下命令启动 DeepSeek 模型：

ollama run deepseek-r1

若后续再次运行，模型将直接从本地加载。

启动 Ollama 服务器：在终端运行以下命令启动 Ollama 服务器：

ollama serve

当 http://localhost:11434 可访问时，模型就启动成功了。

为了更便捷地与模型交互，可安装 ChatBox 等可视化界面工具：

访问 https://chatboxai.app/zh 下载 ChatBox。

安装完成后，打开软件并设置本地模型，即可开启与 DeepSeek R1 的可视化交互。

上面是“利用Ollama平台搭建DeepSeek的具体操作步骤”的全面内容，想了解更多关于 IT知识 内容，请继续关注web建站教程。

当前网址：https://m.ipkd.cn/webs_16915.html

声明：本站提供的所有资源部分来自互联网，如果有侵犯您的版权或其他权益，请发送到邮箱：admin@ipkd.cn，我们会在看到邮件的第一时间内为您处理！