OpenChat 本地运行 DeepSeek + 主流 AI 自由切换,一键打招私有 AI 助手。

摘要: OpenChat 这个开源神器让你的电脑秒变 AI 智能助手,支持本地化运行和多模型自由切换,安全高效两不误。 简单来说,它不仅能让你在一个空间使用主流的 AI 助手,不需要多开一堆网页(比如豆包、 Kimi 、秘塔 AI 搜索等等)。 同时还支持本地运行 AI 大模型,断网也能用,一键切换 Dee...

OpenChat 这个开源神器让你的电脑秒变 AI 智能助手,支持本地化运行和多模型自由切换,安全高效两不误。
简单来说,它不仅能让你在一个空间使用主流的 AI 助手,不需要多开一堆网页(比如豆包、 Kimi 、秘塔 AI 搜索等等)。

同时还支持本地运行 AI 大模型,断网也能用,一键切换 DeepSeek、GLM 、Qwen等主流开源模型。所有数据都存在自己电脑里,敏感文件也不用担心上传到云端泄露。

如果你是以下这几类人,赶紧看下去👇:

① 想同时用多个 AI 模型但懒得开一堆网页
② 担心文档上传云端有风险
③ 公司内网限制用不了 ChatGPT
④ 需要快速整理本地文档、做知识库

01 一个界面切换 10+ 模型

一个页面就可直通,写代码可以去用DeepSeek,查找公众号文章用元宝,文章总结和PPT大纲生成用 Kimi,AI搜索、内容生成、文档阅读用豆包。
各家都有不同的擅长之处,不用来回切网页,全在 OpenChat 里搞定。

02 本地部署,断网也能用 AI

本地部署的模型(如 Ollama)、DeepSeek、GLM 、Qwen 都能接入,想用哪个随你挑。公司内网、保密单位电脑装一个,直接本地跑模型,生成代码、写报告照样搞定。

个人在 PC 上进行大模型部署,要下载下来模型,并且能够成功部署。本地模型部署推荐使用 Ollama。
安装 Ollama不多提了,可以看看之前发的介绍文章。以下以 DeepSeek-R1-1.5B 模型下载和安装为例,在终端命令行窗口中输入以下命令下载并运行模型:

ollama run deepseek-r1:1.5b
当终端显示 Success,表示 DeepSeek-R1-1.5B 模型已准备就绪,可以进行使用了。

 
随后,你就可以在 OpenChat 中引入本地 Ollama 部署的模型了。

03 文档秒变知识库

拖个PDF/Word进去,直接对话提问:“总结第三章要点” “找出所有数据表格”。支持多文档管理,合同、手册分门别类,检索比 Windows 搜索还快。



04 增强网络检索能力

可以选择 Serper 和 Bing 两种方式中任意一种进行检索增强。
其中,Serper检索方式,需要准备搜索引擎服务 Serper 的 API Key,可以去官网注册获取。


在Gitee开源平台可以了解该项目的说明文档、获得更多使用方法并提问互动:

OpenChat 客户端下载:
https://gitee.com/fastaistack/openchat

OpenChat 使用指南:
https://gitee.com/fastaistack/openchat/blob/master/doc/intro/%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

转自:https://mp.weixin.qq.com/s/xenIfAZTfpWqELn1iTZUXw