写在前面:为什么这篇教程值得读完
2026 年 8 月 11 日,Meta 把 Muse Glimmer——一个 300 亿参数、本地可跑、断网能干活的 AI 智能体——开源了。
这是 2026 年迄今为止对普通用户最友好的一次 AI 发布:免费、Apache 2.0 协议、4-bit 量化后只需 24GB 显存。以前的”在本地跑 AI”听起来像极客专属,今天这篇文章,零基础也能跟做。
我会带你走完从硬件检查、下载安装、首次启动到跑通三个真实任务的全流程,全程截图+命令+说明。整篇文章约 15 分钟读完,实操 30 分钟到位。
一、先看你电脑能不能跑(5 秒钟测出)
硬件清单:
- 操作系统:macOS 13+(Apple Silicon 推荐 M2/M3/M4)或 Windows 11 + NVIDIA 显卡
- 内存:建议 32GB 系统内存(24GB 即可启动)
- 显卡显存:24GB 或以上(NVIDIA RTX 4090/5090,或 MacBook Pro M3/M4 Max 36GB/48GB 版本)
- 硬盘:预留 30GB 空间(模型文件约 20GB + 缓存)
3 秒自测命令(Mac 用户):
点击左上角 → 关于本机 → 看"芯片"是 Apple Silicon,"内存"≥ 36GB 即满足
Windows 用户:
- 右键”此电脑” → 属性 → 看”已安装的内存”
- 开始菜单输
nvidia-smi,回车,看”Memory”列 ≥ 24GB
如果你的电脑是 2024 年后买的游戏本,或者 M3 Max 以上的 MacBook Pro,放心往下走。如果显存不足,可以等下周 Meta 放出更小的 7B 蒸馏版(官方已预告)。
二、安装:5 分钟装好三个工具
步骤 1:装 Python(如果还没有)
Mac 用户打开终端(Spotlight 输入”终端”),Windows 用户打开 PowerShell(管理员模式)。
输入以下命令检查:
python3 --version
看到 3.10 或更高版本即可,跳到步骤 2。如果报错:
- Mac:
brew install python@3.11(需先装 Homebrew) - Windows:去 python.org 下个安装包,记得勾”Add to PATH”
步骤 2:装 Ollama(本地大模型管理器,最省事)
访问 ollama.com,按你的系统下载安装(Mac 是 dmg,Windows 是 exe),一路下一步。
装完后打开终端验证:
ollama --version
看到版本号(0.3 以上)就对了。
步骤 3:拉 Muse Glimmer 模型(10 分钟下载)
在终端里执行:
ollama pull museglimmer:30b-q4
这一步会下载约 20GB 文件,国内网络一般 5-15 分钟。下载完成后会自动装好。
中途如果速度太慢,设置 Ollama 镜像:
# Mac
export OLLAMA_HOST="https://ollama.mirror.example.com"
# Windows PowerShell
$env:OLLAMA_HOST="https://ollama.mirror.example.com"
国内用户可以查 Hugging Face 上的社区镜像(如 HF-Mirror),搜 “museglimmer” 找最新的 GGUF 版本下到本地再导入。
三、首次启动:1 分钟让它跑起来
终端输入:
ollama run museglimmer:30b-q4
等 30 秒到 2 分钟(首次会编译),出现 >>> 提示符就代表跑起来了。
立刻试一句话:
>>> 你好,你会干什么?
你会看到一段中文回答——恭喜,你的电脑已经跑起 300 亿参数的 AI 智能体了,全程不联网。
要退出,输入 /bye。
四、跑通三个真实任务(感受它跟聊天 AI 的区别)
任务 1:整理文件夹(看图+文件操作)
进入 Ollama 会话后,输入:
请帮我列出当前目录下所有 .pdf 文件,按修改时间从新到旧排序,告诉我每份文件的标题和大小。
它会要求你给它工具权限(首次会弹窗确认),确认后它会自动用文件 API 读取并整理——这就是 Agent 行为,不只是回答问题,而是真实动手干活。
任务 2:写一个 Python 脚本(看代码能力)
请帮我写一个 Python 脚本,把当前目录下所有 .jpg 图片缩放到宽度 800 像素,按原文件名 + "_small" 命名,保存到 thumb 子文件夹。
它会写出完整可运行的代码,你可以直接复制运行。如果要求它”保存为 resize_images.py 并执行”,它会自动写文件+执行。
任务 3:写文章起 5 个标题(看中文创作)
我准备写一篇关于"普通人如何用本地 AI Agent 接单赚钱"的文章,请帮我起 10 个有吸引力的标题,要求:
1. 数字具体化
2. 突出真实可落地的赚钱方式
3. 避免"躺赚""全自动"等夸张词
Muse Glimmer 的中文能力虽然不如 GPT-4,但是日常文案完全够用。这是它的杀手级场景——本地免费、私密、够用。
五、桌面端可视化(不想敲命令行的看这里)
如果你不喜欢黑窗口,装个 Open WebUI(开源,免费):
docker run -d -p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
ghcr.io/open-webui/open-webui:main
需要先装 Docker Desktop。然后浏览器打开 localhost:3000,注册一个本地账号(数据全在你电脑里),就能看到 ChatGPT 一样的对话界面,背后跑的就是你的 Muse Glimmer。
这样全家人都能用——爸妈、小孩、老婆,每人一账号,不消耗任何云端 API 费。
六、常见问题(踩坑救援)
Q1:下载速度慢/失败怎么办?
换国内镜像。打开 Hugging Face 搜 museglimmer,挑下载量最高的 GGUF 版本手动下载,然后通过 ollama create mymodel -f Modelfile 导入。
Q2:跑起来很卡怎么办?
关掉其他大程序(Chrome 标签页、Photoshop)。Mac 用户可以用 sudo powermetrics | grep -i "gpu" 监控显存占用。
Q3:它回答得不如 GPT-4 怎么办?
这是 30B 模型跟闭源旗舰的客观差距。但它的卖点不是最强,是最私密+最便宜。日常写作、整理文件、起标题、写代码完全够用。需要”智力巅峰”的任务再用云端 GPT/Claude。
Q4:能商用吗?
可以。Apache 2.0 协议允许你下载、修改、商用、再分发,不用给 Meta 交一分钱。这是开源 AI 时代最慷慨的协议之一。
Q5:我的电脑只有 16GB 显存能跑吗?
可以等 Meta 即将发布的 7B 蒸馏版(参数更小、要求更低、性能略弱但够用)。或者用云端 GPU 租赁(如 AutoDL、恒源云),月费 30-100 元。
七、写在最后:本地 AI 时代真正来了
2024 年你需要 RTX 4090 + 会写 Python + 看得懂命令行才能跑本地 AI。
2026 年的今天,一个 300 亿参数的 Agent 模型,零代码、零费用、断网可用、数据不出本地。
这不是未来,这是 2026 年 8 月 11 日已经发生的事实。建议你今天就动手装一下,30 分钟后你会有全新的体验——那种”AI 真的属于我自己”的感觉,只有装过才知道。
如果你装的过程中遇到任何问题,评论区留言具体的报错信息,我看到会回复。如果文章帮到了你,转发给身边那个”想用 AI 但担心隐私”的家人朋友,他们最需要。