CherryStudio:一个非常适合本地接入大模型的客户端

从ChatGPT出圈后,目前大语言模型(LLM)的狭义AI就爆火,除了直接使用各家网站提供的网页端或者应用外,我们还可以使用他们的API搭建自己的“本地”应用。之前我用的NextChat,但是目前发现了一个更加强大的工具,CherryStudio。

除了自己真的通过ollama这些本地部署模型外,这里说的的本地,实际上还是需要联网环境,因为API的调用需要联网。

首先到https://cherry-ai.com/download 下载客户端,目前我用的是0.9.17的版本,他支持mac,Linux和Windows多个平台(暂时不支持移动端)。

下载安装完毕之后,还无法直接使用,我们还需要配置模型,按照截图,点击左下角的齿轮,进入配置页面。

主页面

基本上涵盖了市面上所有大语言模型(LLM)的模型提供商,点击“点此获取密钥”可以跳转到对应的提供商。

模型配置

目前DeepSeek的R1模型爆火出圈后,官方版本就卡的不行,还好DeepSeek是完全开源,包括代码,模型权重等,因此算力雄厚的公司就可以部署相同版本提供服务,我们以轨迹流动为例,他是一家合规的国内模型提供商,不用担心被制裁,被封号的问题。

可以使用我的邀请链接https://cloud.siliconflow.cn/i/OEvIobzj进行注册,或者注册的时候,填写我的邀请码(OEvIobzj),目前活动是受邀好友作为新用户完成SiliconCloud账号注册,立刻获得2000万Tokens。

注册完毕后,到API密钥点击,“新建API密钥”,建立的时候有一个密钥描述,可以随便填写,例如写你的使用场景 ,方便后续管理。

image-1738543350790

之后回到CherryStudio中,将刚才创建的密钥,粘贴到API密钥出,并点击“检查“

image-1738543522580

检查通过后,会短暂提示这个绿色的✅,之后可以点击“管理”添加更多模型。

image-1738543620543

添加模型就是右侧“+”,如果是“-”表示这个模型已经被添加了。目前deepseek包括5款API,其中Janus-Pro-7B是官方应用都没的视觉应用。

image-1738543684047

之后回到对话界面,就可以选择你需要的模型进行对话,比如说我们就可以选择DeepSeek-R1模型。

image-1738543774184

你可以用下面这个问题问他,能够回答出来,且经过一段时间思考,并提供思考过程的才是真正的李逵,其他情况,都是李鬼。

有一天,一个女孩参加数学考试只得了 38 分。她心里对父亲的惩罚充满恐惧,于是偷偷把分数改成了 88 分。
她的父亲看到试卷后,怒发冲冠,狠狠地给了她一巴掌,怒吼道:“你这 8 怎么一半是绿的一半是红的,你以为我是傻子吗?”女孩被打后,委屈地哭了起来,什么也没说。过了一会儿,父亲突然崩溃了 ,发现女儿不是亲生的,为什么?

image-1738544144170

此外,CherryStudio还支持基于嵌入模型的知识库,这个就后续慢慢研究了。

# AI 

评论

Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×