不想每月交会员费？你的电脑也能”免费养”一个AI
昨天我们报道了Meta发布8160亿参数的开放模型，很多人留言问：”开源模型是免费的，我能用吗？”答案是：能，而且比你想的简单得多。今天就教你用一款叫 Ollama 的免费工具，在自己电脑上跑一个不花钱、不限次、断网也能用的AI。全程大概10分钟，大部分时间都在等下载。
一、先说清楚：本地AI能干什么，不能干什么
适合的场景：
- 日常问答、写文案初稿、总结文档——7B~9B级别的免费模型已经够用
- 处理隐私敏感内容：合同、工资单、病历、私人日记——数据不出你的电脑，这是云端AI给不了的
- 没有网也能用：飞机上、山里、断网加班的深夜
- 无限次使用，没有会员费、没有次数限制
要有心理预期的：
- 本地免费模型的质量大约相当于主流云端模型的”中档水平”，写复杂长文不如顶级在线模型
- 你的电脑得有点配置：Mac建议M1以上芯片、内存16GB最舒服（8GB也能跑小模型）；Windows需要8GB以上显存的独立显卡效果才好
二、手把手安装（以Mac为例）
第1步：下载Ollama
打开官网 ollama.com，点击macOS版下载（约90MB），双击打开，把Ollama拖进”应用程序”文件夹——和装普通软件一模一样。
第2步：首次启动
从启动台打开Ollama，第一次会提示安装命令行工具，点”允许”。之后菜单栏会出现一个小图标，它会在后台待命，平时不占资源。
第3步：下载你的第一个模型
打开”终端”（按 Cmd+空格，输入”终端”或”Terminal”），输入：
ollama run qwen3.5:9b
回车。它会自动下载约5.5GB的Qwen 3.5 9B模型（目前公认最强的开源小模型之一，中文很好）。网速快的话2~5分钟。
内存参考表（按你电脑的配置选模型）：
| 你的电脑 | 推荐命令 | 下载大小 |
|---|---|---|
| 8GB内存 | ollama run qwen3.5:4b | 约2.5GB |
| 16GB内存 | ollama run qwen3.5:9b | 约5.5GB |
| 32GB以上 | ollama run qwen3.5:32b | 约20GB |
第4步：开始对话
下载完成后，终端会出现 >>> 提示符，直接打字提问就行，比如”帮我把这段话改得更正式”，回车后答案会一个字一个字往外蹦——全部在你电脑上完成，一张图都不上传。输入 /bye 退出。
常用命令速查：
ollama list—— 看装了哪些模型ollama rm 模型名—— 删掉不要的模型腾空间ollama run deepseek-r1—— 换装擅长推理的DeepSeek模型
三、进阶：给它装个”聊天界面”
在终端里打字毕竟不习惯。可以装开源的 Open WebUI，获得一个类似ChatGPT的网页界面：装好Docker后运行 docker run -d -p 3000:8080 ghcr.io/open-webui/open-webui:main，浏览器打开 localhost:3000 就能用鼠标点选模型、保存对话记录了。嫌麻烦的话，也可以直接用支持本地模型的桌面应用（如Chatbox、LM Studio），选Ollama作为后端即可。
四、成本算账
Ollama和模型全部完全免费，没有订阅、没有API费用。唯一的成本是电费：跑一个9B模型一小时大约0.2~0.5度电，合1毛到3毛钱。对比动辄每月几十块的AI会员，一台本来就有的电脑，等于白捡一个私人AI。
五、三个避坑提醒
- 别贪大：内存不够硬跑大模型，电脑会卡死。从小模型开始，不够再升级。
- 硬盘留足空间：模型动辄几个GB，先确认有10GB以上空闲。
- 别指望它替代顶级AI：复杂创作、深度分析还是用在线模型，本地模型适合日常问答和隐私内容。
想动手试的话，今晚就可以装起来。跑通了欢迎在评论区晒一下你跑的第一个模型——下一篇我们会讲，这门”帮别人装本地AI”的手艺，已经有人拿它做副业月入几千了，记得来看。