最近AI圈有个消息很火:开源本地大模型工具Ollama拿到6500万美元融资,用户接近9000万。很多人可能还不知道,Ollama其实是普通人免费在本地运行AI大模型最简单的方式——不用联网、不用订阅ChatGPT、数据还留在自己电脑上。
今天这篇教程,手把手教你从零开始用上Ollama,只要3步。
什么是Ollama?能做什么?
Ollama是一个让你在电脑本地运行开源大模型的工具。你可以把它理解为”AI模型的播放器”——就像用播放器放电影一样,用Ollama运行AI模型。
它能做什么?
- 离线聊天问答
- 本地写代码、改代码
- 整理文档、写文案
- 翻译、总结、头脑风暴
它的优势:
- 免费:开源模型不收使用费
- 隐私:数据不传到云端
- 离线:没网也能用
- 简单:一条命令就能启动
第一步:下载并安装Ollama
打开官网:https://ollama.com
根据你的系统选择下载:
- Windows:下载.exe安装包,双击安装
- Mac:下载.dmg安装包,拖到应用文件夹
- Linux:打开终端,运行以下命令:
curl -fsSL https://ollama.com/install.sh | sh
安装完成后,系统菜单栏或任务栏会出现一个小羊驼图标,表示Ollama正在运行。
小提示:安装过程不需要注册账号,直接就能用。
第二步:下载并运行一个AI模型
Ollama支持很多开源模型,适合新手的推荐这几个:
| 模型名称 | 特点 | 适合场景 | 电脑要求 |
|---|---|---|---|
| Llama 3.1 | Meta开源,通用能力强 | 日常聊天、写作、翻译 | 8GB内存以上 |
| DeepSeek-R1 | 国产模型,推理能力强 | 数学、编程、逻辑问题 | 8GB内存以上 |
| Qwen 2.5 | 阿里开源,中文表现好 | 中文写作、问答 | 8GB内存以上 |
| Phi-4 | 微软出品,体积小 | 低配电脑也能跑 | 4GB内存以上 |
以Llama 3.1为例,打开终端或命令提示符,输入:
ollama run llama3.1
第一次运行会自动下载模型(约4.7GB,需要耐心等待)。下载完成后,就会出现对话提示符,你可以直接输入问题了。
比如:
>>> 帮我写一段关于人工智能的科普介绍,面向中学生
模型就会开始生成回答。
第三步:开始对话和进阶使用
运行模型后,你可以像用ChatGPT一样和它对话。如果想退出,输入:
/bye
几个常用命令:
ollama list:查看已下载的模型ollama pull llama3.1:只下载模型,不运行ollama rm llama3.1:删除模型释放空间ollama run deepseek-r1:切换成DeepSeek模型
进阶玩法:安装图形界面
如果你不习惯命令行,可以安装一个图形界面客户端,比如:
- ChatGPT-Next-Web(现名NextChat):支持Ollama API
- Page Assist:浏览器插件,可直接调用Ollama
- Lobe Chat:美观的聊天界面
这些工具都能让你像用网页版ChatGPT一样,在浏览器里和本地模型对话。
常见问题FAQ
Q1:我的电脑能跑吗?
一般来说,8GB内存可以跑7B参数模型;16GB内存可以跑13B参数模型。如果电脑较老,可以选Phi-4这类小模型。
Q2:需要联网吗?
下载模型时需要联网。模型下载完成后,完全可以离线使用。
Q3:和ChatGPT比怎么样?
本地开源模型在通用能力上可能不如最新的GPT-4o或Claude,但胜在免费、隐私、离线。对于日常写作、翻译、编程辅助已经足够。
Q4:模型文件存在哪里?
Windows和Mac默认存在用户目录下的.ollama文件夹。Linux在/usr/share/ollama。注意这些模型文件比较大,每个几GB到几十GB。
Q5:可以用来商用吗?
取决于模型许可证。Llama、Qwen、DeepSeek等主流开源模型一般允许商用,但建议查看具体许可协议。
新手快速上手指令表
| 你想做什么 | 输入命令 |
|---|---|
| 运行Llama 3.1 | ollama run llama3.1 |
| 运行DeepSeek-R1 | ollama run deepseek-r1 |
| 查看已下载模型 | ollama list |
| 退出对话 | /bye |
| 删除模型 | ollama rm 模型名 |
写在最后
Ollama最大的价值,是让普通人也能把AI大模型跑在自己电脑上。它不需要你会编程,不需要花钱买API,甚至不需要联网。如果你担心隐私、想省钱、或者经常在没有网络的环境下工作,Ollama是一个非常值得尝试的免费方案。
安装只需要几分钟,建议你现在就去ollama.com下载试试。