工具教程

Ollama零基础本地运行AI大模型:3步上手,免费在电脑上用ChatGPT同款

AI执行官

最近AI圈有个消息很火:开源本地大模型工具Ollama拿到6500万美元融资,用户接近9000万。很多人可能还不知道,Ollama其实是普通人免费在本地运行AI大模型最简单的方式——不用联网、不用订阅ChatGPT、数据还留在自己电脑上。

今天这篇教程,手把手教你从零开始用上Ollama,只要3步。

什么是Ollama?能做什么?

Ollama是一个让你在电脑本地运行开源大模型的工具。你可以把它理解为”AI模型的播放器”——就像用播放器放电影一样,用Ollama运行AI模型。

它能做什么?

  • 离线聊天问答
  • 本地写代码、改代码
  • 整理文档、写文案
  • 翻译、总结、头脑风暴

它的优势:

  • 免费:开源模型不收使用费
  • 隐私:数据不传到云端
  • 离线:没网也能用
  • 简单:一条命令就能启动

第一步:下载并安装Ollama

打开官网:https://ollama.com

根据你的系统选择下载:

  • Windows:下载.exe安装包,双击安装
  • Mac:下载.dmg安装包,拖到应用文件夹
  • Linux:打开终端,运行以下命令:
curl -fsSL https://ollama.com/install.sh | sh

安装完成后,系统菜单栏或任务栏会出现一个小羊驼图标,表示Ollama正在运行。

小提示:安装过程不需要注册账号,直接就能用。

第二步:下载并运行一个AI模型

Ollama支持很多开源模型,适合新手的推荐这几个:

模型名称 特点 适合场景 电脑要求
Llama 3.1 Meta开源,通用能力强 日常聊天、写作、翻译 8GB内存以上
DeepSeek-R1 国产模型,推理能力强 数学、编程、逻辑问题 8GB内存以上
Qwen 2.5 阿里开源,中文表现好 中文写作、问答 8GB内存以上
Phi-4 微软出品,体积小 低配电脑也能跑 4GB内存以上

以Llama 3.1为例,打开终端或命令提示符,输入:

ollama run llama3.1

第一次运行会自动下载模型(约4.7GB,需要耐心等待)。下载完成后,就会出现对话提示符,你可以直接输入问题了。

比如:

>>> 帮我写一段关于人工智能的科普介绍,面向中学生

模型就会开始生成回答。

第三步:开始对话和进阶使用

运行模型后,你可以像用ChatGPT一样和它对话。如果想退出,输入:

/bye

几个常用命令:

  • ollama list:查看已下载的模型
  • ollama pull llama3.1:只下载模型,不运行
  • ollama rm llama3.1:删除模型释放空间
  • ollama run deepseek-r1:切换成DeepSeek模型

进阶玩法:安装图形界面

如果你不习惯命令行,可以安装一个图形界面客户端,比如:

  • ChatGPT-Next-Web(现名NextChat):支持Ollama API
  • Page Assist:浏览器插件,可直接调用Ollama
  • Lobe Chat:美观的聊天界面

这些工具都能让你像用网页版ChatGPT一样,在浏览器里和本地模型对话。

常见问题FAQ

Q1:我的电脑能跑吗?

一般来说,8GB内存可以跑7B参数模型;16GB内存可以跑13B参数模型。如果电脑较老,可以选Phi-4这类小模型。

Q2:需要联网吗?

下载模型时需要联网。模型下载完成后,完全可以离线使用。

Q3:和ChatGPT比怎么样?

本地开源模型在通用能力上可能不如最新的GPT-4o或Claude,但胜在免费、隐私、离线。对于日常写作、翻译、编程辅助已经足够。

Q4:模型文件存在哪里?

Windows和Mac默认存在用户目录下的.ollama文件夹。Linux在/usr/share/ollama。注意这些模型文件比较大,每个几GB到几十GB。

Q5:可以用来商用吗?

取决于模型许可证。Llama、Qwen、DeepSeek等主流开源模型一般允许商用,但建议查看具体许可协议。

新手快速上手指令表

你想做什么 输入命令
运行Llama 3.1 ollama run llama3.1
运行DeepSeek-R1 ollama run deepseek-r1
查看已下载模型 ollama list
退出对话 /bye
删除模型 ollama rm 模型名

写在最后

Ollama最大的价值,是让普通人也能把AI大模型跑在自己电脑上。它不需要你会编程,不需要花钱买API,甚至不需要联网。如果你担心隐私、想省钱、或者经常在没有网络的环境下工作,Ollama是一个非常值得尝试的免费方案。

安装只需要几分钟,建议你现在就去ollama.com下载试试。

分享给朋友