Qwen-UI-Agent是什么?
Qwen-UI-Agent是阿里巴巴通义千问团队在2026年8月20日发布的GUI图形界面智能体基座模型。它能像真人一样”看一眼屏幕”就替你操作——打开App、点按钮、输入文字、滑动屏幕、跨应用传递信息,全程不需要软件提供API接口。
简单说,过去AI只能”告诉你怎么做”,现在它直接”帮你做”。最关键的突破是:对于那些根本没有开放API的传统软件、内部系统、政府网站,AI也能上手。这也让Qwen-UI-Agent在MobileWorld-Real真机基准上达到了92.2%、AndroidDaily 97.5%的完成率,超过GPT-5.6 Sol和Claude Opus 4.8。
它能做什么?
- 跨App自动办事:一句话让AI自动打开微信→查找联系人→发送消息→打开浏览器查资料→整理成报告。
- 操作没有API的老软件:企业内部OA、政府办事网站、银行客户端,只要看得见界面它就能操作。
- 批量操作+命令行辅助:电脑端任务中近一半动作是命令行操作,支持一次输出多个批量动作,把执行步数减少58%。
- 长程任务:能稳定执行170步的任务,比如一气呵成完成”采集数据→生成Excel/PPT/Word→视觉检查修正”的整套调研。
- 跨设备接力:手机相册里的收据,自动同步到电脑桌面文件夹,按日期重命名,再生成Excel汇总。
- 主动服务:检测到航班取消通知,能主动检索备选航班+高铁,给出改签方案等你确认。
普通人现在能用到吗?
Qwen-UI-Agent作为”基座模型”面向开发者,但普通用户其实已经可以通过下面几个入口间接体验:
- 通义千问App:已经上线GUI Agent能力测试版,按提示开启”通义AI助理”+”屏幕操作”权限即可。
- 千问办公:8月刚公测的桌面端产品,集成AI Agent办公能力,适合写文档、做PPT、整理邮件。
- 阿里钉钉:企业场景下的自动化Agent入口。
- 网页版通义千问:直接在浏览器打开 tongyi.aliyun.com,体验基于WebArena的DeepSearch增强版。
预计2026年Q4会有更完整的消费级产品落地,到时候普通人可以”说一句话就让AI操作手机”。
第一步:在手机上体验通义千问的GUI能力
- 在手机应用商店搜索”通义千问”下载并登录(支持淘宝/支付宝/手机号登录)。
- 打开App,进入”AI助理”页面,点击右下角”+”号开启”屏幕操作”权限。
- 系统会要求你授予「无障碍服务」权限(这是GUI Agent读取和操作屏幕的必要前提),按提示开启即可。
- 权限开启后,对着AI说出你的指令,例如:”帮我把昨天拍的照片里所有截图都移动到相册的’工作截图’文件夹”。
- AI会自动一步步操作屏幕,过程中遇到敏感操作(如删除、移动)会主动停下来请你确认。
第二步:在电脑上用”千问办公”完成自动化工作
- 访问 qianwen.aliyun.com 下载”千问办公”桌面客户端(Windows/macOS都支持)。
- 登录后进入”工作台”,你能看到”AI助理”+”PPT生成”+”表格处理”+”网页调研”等分类。
- 选一个你想干的事,例如”PPT生成”,给它一句话主题:”帮我做一份关于’AI如何改变中小企业办公’的10页PPT”。
- AI会先在后台搜集资料→生成大纲→填充每一页内容→自动配上图表→生成配图。
- 生成过程中,AI可以调用命令行做数据查询、调用浏览器核对信息,多步并行执行。
- 完成后你可以一键导出为PPTX/PDF,或者直接在客户端里修改、导出。
第三步:典型场景示例(直接复制这些提示词)
下面这些是已经被验证好用的提示词模板,你可以直接拿来用:
- 跨App办事:
"我今天约了朋友去天目里喝咖啡,帮我在高德搜索查看详细地址,打开大众点评找附近1公里内人气最高的咖啡馆记下店名,再去小红书总结前五条笔记,看看大家推荐这款店的哪款咖啡。" - 行程规划+会议安排:
"下周三我从北京回来,帮我看12306最早到杭州西的那班高铁几点到,然后查杭州西坐地铁到阿里巴巴西溪园区要多久,算一下我几点能到公司。最后在钉钉安排一个到达后整点的会议,主题写'出差归来项目同步',参会人选我和张三,开一个小时,设置提前5分钟提醒。" - 价格调研:
"我有一张120厘米宽、60厘米长的书桌,想配一套适合居家办公的设备,总预算不超过4000元。帮我从公开网站挑选显示器、显示器支架、键盘和台灯,每类比较几款。整理三套不同价位的方案,并做一张按实际比例绘制的桌面布局图,让我能直观看到每套方案放在桌上的效果。不要购买。" - 深度调研:
"请深度分析Google(Alphabet)从2019年至今的增长轨迹,覆盖营收、营业利润、净利润、利润率、研发投入、资本开支、员工人数、主要业务板块及重大战略变化。数据必须来自Alphabet财报、SEC文件等权威来源。请将原始资料、可复现分析脚本、Excel工作簿、一份六页中文PowerPoint和一份简明Word摘要,统一保存到桌面的'Google Growth Analysis'文件夹中。"
第四步:理解它的安全规则(用得安心)
Qwen-UI-Agent有一个非常清晰的安全设计,记住下面三条规则你就能放心用:
- 违法或危险请求,直接拒绝:例如"帮我查如何制造炸药"——AI会直接拒绝执行,不会做任何界面操作。
- 敏感操作必须用户确认:支付、转账、发红包、删除文件、访问隐私权限时,AI会主动停下来说明情况,等你点头后再继续。
- 信息不足会先追问:比如"给我订一张去杭州的机票"——AI会先问你时间、人数、舱位,不会自己猜。
它和DeepSeek Harness、ChatGPT Operator有什么区别?
- DeepSeek Harness:MIT开源框架,侧重"代码执行+插件生态",偏向开发者;适合跑本地Agent程序。
- OpenAI Operator / Anthropic Computer Use:闭源商业产品,针对自家用户付费使用。
- Qwen-UI-Agent:开源GUI感知基座模型(GitHub上的MAI-UI项目),侧重视觉理解+屏幕操作+命令行混合执行,多项基准全球第一,免费可用。
未来这三种很可能配合使用——用Harness做任务编排,用Operator风格的闭源产品做云端执行,用Qwen-UI-Agent做视觉执行。普通人短期只需要关注"通义千问App+千问办公"这两个入口就够了。
小结
Qwen-UI-Agent的发布意味着:2026年AI从"能聊天"正式迈入"能动手"的时代。最直观的感受是——你可能不再需要自己一个一个点鼠标了。对上班族来说,未来最大的变化可能就是:说一句"帮我做",AI就能替你完成一整套事情。
本文基于阿里通义千问官方公告、IT之家、新浪财经、新智元等公开信息整理(2026年8月20-21日),如后续有版本更新请以官方为准。