
本地 AI 助手的意思是:模型下载到你自己的电脑上运行,对话内容不经过任何云端服务器。本文用 Ollama 跑模型、Open WebUI 当聊天界面,两者都是免费开源软件,搭好之后打开浏览器就能像用在线聊天工具一样提问。开始之前先把一句话说清楚:模型跑在本地,数据不出本机;但一旦你打开联网搜索之类的插件,相关内容就会被发出去,这个边界后文会单独提醒。 第 0 步:先确认你的电脑带不带得动 Ollama 本身很轻,真正的门槛在模型。官方没有给出统一的最低配置,因为内存需求取决于你要跑的模型有多大。经验上,7B 到 8B 级别的量化模型一般需要 16GB 左右的内存才能跑得比较顺;更大的模型需要更多内存与显存。这个数字是装机圈的常见经验 …
本地 AI 助手的意思是:模型下载到你自己的电脑上运行,对话内容不经过任何云端服务器。本文用 Ollama 跑模型、Open WebUI 当聊天界面,两者都是免费开源软件,搭好之后打开浏览器就能像用在线聊天工具一样提问。开始之前先把一句话说清楚:模型跑在本地,数据不出本机;但一旦你打开联网搜索之类的插件,相关内容就会被发出去,这个边界后文会单独提醒。 第 0 步:先确认你的电脑带不带得动 Ollama 本身很轻,真正的门槛在模型。官方没有给出统一的最低配置,因为内存需求取决于 …
阅读更多