腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

 

前两天,我在CloudStudio上部署了一套Deepseek-R1大模型,每个月10000分钟的使用额度,部署过程简直轻松,只有两三步操作。

对于需要进行大规模计算或处理的任务,这个平台的部署体验简直是秒杀其它平台的简便快捷!

具体可以参考这篇上万阅读量的文章:

近乎零成本体验!Deepseek-R1模型云端部署全攻略!

但是,如何远程通过本地客户端访问我们部署的Deepseek-R1模型呢?这一篇文章将会给你答案。

CloudStudio配置

进入CloudStudio的主页面,打开“终端”按钮。

腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

执行这两行命令即可:

ssh-keygen -t rsa -b 2048 -f ~/.ssh/id_rsa
ssh -i ~/.ssh/id_rsa -R 80:localhost:6399 localhost.run

简单来说,这个操作的目的是:通过 SSH 隧道让别人通过公网访问你云服务器运行的服务。

腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!
将这个地址输入到浏览器上,出现下面的界面,代表已经可以外部访问大模型了。
腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

本地客户端安装

本地客户端该如何访问呢?对比多个之后选用openweb-ui作为本地客户端工具。

仅仅运行一条docker指令即可。具体的命令如下:

docker run --e HF_ENDPOINT=https://hf-mirror.com -3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

安装完成后会提示注册账号密码,按照要求注册即可。在界面输入“localhost:3000”。

腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

这时候要去点击右上角,设置->管理员设置->外部连接->将ollama的地址改为上一章节生成的地址。

腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

点击保存之后,我们就可以愉快地访问cloudStudio的大模型了。

腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

写在后面的话

感谢“平凡の年华”提供外网穿透的方法。

本地客户端我们为什么选择open-webui?

其实,除了界面简洁清爽之外,最大的原因是它支持本地知识库构建。

我们可以将自己的资料上传到知识库里,进行高效的检索和查找,非常适合日常工作中需要反复查看的资料。

感兴趣的可以体验下。

腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

我是大瑜,1个工作十年的程序员。专注AI工具和AI技术。欢迎关注。


 


原文始发于微信公众号(大瑜聊AI):腾讯 CloudStudio 免费跑 DeepSeek-R1 大模型,外部访问一步搞定!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/313741.html

(0)
明月予我的头像明月予我bm

相关推荐

发表回复

登录后才能评论
极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!