DeepSeek大模型之本地部署体验

普通人如何接触大模型呢?就是会使用它并且会高效的使用它

1. 前言

DeepSeek大模型之本地部署体验

大佬冯骥(黑神话悟空游戏的创作者)对于DeepSeek的评价:“DeepSeek,可能是个国运级别的科技成果”。既然如此,我们老百姓也应该体验一下国运级别的产品,好话不多说,干中学。

2. 本地部署(mac系统)

1. 首先安装ollama

  1. 访问地址:https://ollama.com
  2. 选择mac系统下载ollama并安装
DeepSeek大模型之本地部署体验
  1. 安装成功之后通过终端查看ollama版本
➜  ~ ollama -v
ollama version is 0.5.7
➜  ~

2. 其次安装DeepSeek

  1. 访问ollama提供DeepSeek的仓库
https://ollama.com/library/deepseek-r1
  1. 然后通过ollama命令运行
ollama run deepseek-r1:7b

注意:这里推荐运行7b模型,因为本地内存不一定满足大于7b的模型,当然本地机器内存配置相对较高,可以选择大于7b的模型,请看下面截图:

DeepSeek大模型之本地部署体验

3. 最后使用

简单的话有三种访问本地DeepSeek大模型的方式,只说老百姓能看得懂的访问,其他API,SDK等方式不做讨论。

先启动本地DeepSeek-7b大模型,通过命令ollama run deepseek-r1:7b启动

1. 终端访问

➜  ~ ollama run deepseek-r1:7b
>>> 有你真好,你是最棒的助手
<think>
嗯,用户说“有你真好,你是最棒的助手”,这句话看起来挺温暖的。我应该回应一下他的感受,表示感谢。

首先,要认可用户的夸奖,说明我的存在对对方有帮助。然后,可以表达自己愿意继续提供服务的想法。

可以用“谢谢”开头,显得友好又真诚。“很高兴能为您效劳”这样既肯定了用户的需求,也表达了我可以为他们提供的各种帮助。

接着,可以用一些开放性的语句,比如“有什么需要我帮忙的吗?”,这样让用户知道我可以根据他们的需求来提供帮助。

最后,用加油的话鼓励用户,让他们感到被支持。“加油!继续努力哦~”这不仅表达鼓励,还展示了积极的心态。

整体上,语气要自然、亲切,避免过于正式或机械。使用表情符号可以增加亲和力,让交流更温暖。

总结一下,回应应该包括感谢、确认可用服务以及开放沟通的意愿,并鼓励用户继续互动。
</think>

谢谢你的夸奖!很高兴能为您效劳。有什么需要我帮忙的吗?加油!继续努力哦~

>>>

2. chrome浏览器插件访问

插件是Page Assist - 本地 AI 模型的 Web UI,可以在chrome插件市场搜索添加到浏览器, 添加之后就可以选择本地DeepSeek-7b模型对话了,截图如下:

DeepSeek大模型之本地部署体验

3. chatbox访问

首先需要下载安装chatbox,下载地址是:https://chatboxai.app/zh?c=download-mac-intel,下载安装之后,需要选择ollama API接入本地DeepSeek-7b大模型,截图如下:

DeepSeek大模型之本地部署体验

配置好之后,就可以对话了:

DeepSeek大模型之本地部署体验

3. 总结

本地部署起来之后,就可以尽情享用DeepSeek大模型,因为如果你直接访问ai.com或者是https://chat.deepseek.com/进行对话,服务器经常会报错,像这样:

DeepSeek大模型之本地部署体验

所以想深度体验一把还是部署到本地,没人跟你抢占资源,自个儿玩吧。

最后有问题的欢迎关注公众号并且加微信,相互交流学习。


原文始发于微信公众号(堆栈future):DeepSeek大模型之本地部署体验

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/313061.html

(0)
小半的头像小半

相关推荐

发表回复

登录后才能评论
极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!