Handsy AI

Handsy AI

Handsy AI 是一个开源 AI 智能体,通过约 7 美元的 ESP32 开发板控制未越狱的原厂 iPhone:借助 AirPlay 观看屏幕,再通过 USB 模拟点击操作,适合喜欢动手的 iOS 自动化爱好者。

关注
标签
AI Agent自动化开源AI具身智能开发工具
最后更新 2026 年 11 月 10 日
Handsy AI 截图

简介

Handsy AI 是一个开源项目,让 AI 智能体能够操控一台真实、未经改装的 iPhone。它不依赖越狱、私有 API 或开发者模式,而是用一块小巧的 ESP32 微控制器开发板作为智能体与手机之间的物理接口。这解决了 iOS 自动化的一个常见难题:Apple 平台对程序化控制基本封闭,能够自由操控 Android 设备的智能体在原厂 iPhone 上一直没有对等的路径。

该项目由 Henry Yuan 创建,采用 MIT 许可证发布,固件中的 AirPlay 接收器组件则采用 GPL-3.0 许可。整套方案分三部分工作:ESP32 板自建 Wi-Fi 网络,出现在 iOS 的屏幕镜像中,接收手机的 AirPlay 推流;随后通过蓝牙将画面转发给 ESP32 Agent 应用,由应用把每张截图发送给用户自选的视觉模型,规划下一步动作。插在手机 USB 接口上的开发板会以普通鼠标和键盘的身份出现,因此点击、拖拽和滑动都能通过 iOS 的 AssistiveTouch 实现。

主要功能

无需越狱、无需开发者模式:在运行 iOS 18 的原厂 iPhone 上即可使用,只需用电脑为开发板一次性刷入固件。
通过 AirPlay 获取屏幕画面:开发板通过屏幕镜像接收手机画面,并将视频原封不动地传给配套应用,让智能体实时看到屏幕内容。
USB 物理输入:通过 USB-C 连接,开发板以标准鼠标和键盘的方式工作,借助 AssistiveTouch 把点击转换为轻点、把拖拽转换为滑动。
应用内的视觉模型大脑:ESP32 Agent 应用将截图发送给用户选择的任意视觉模型,规划每一步操作,并验证执行后屏幕是否真的发生了变化。
低成本的硬件:参考开发板为 XIAO ESP32S3,售价约 7 美元,任何带原生 USB 和 PSRAM 的 ESP32-S3 均可替代。
开源:项目(包括 iPhone 应用源码)以 MIT 许可在 GitHub 上公开(固件的 AirPlay 接收器为 GPL-3.0)。
可选的本地推理:创建者的演示完全在本地硬件上运行视觉模型,未调用任何云端 API。

定价与费用

  • 定价:软件开源,可从源码免费构建;所需硬件的开发板价格约 7 美元。
  • 支持设备:任何运行 iOS 18 的 iPhone(iPhone XS 及更新机型)。USB-C 机型可直接连接;Lightning 机型需要 USB 相机转换器。
  • 安装:官方网站提供浏览器版固件安装器,并附简体中文版本和 AI 辅助安装指南。
  • 额外所需硬件:一根 USB-C 转 USB-C 数据线用于连接开发板与手机。

适用人群

Handsy AI 适合喜欢把廉价微控制器与 AI 结合起来的爱好者和折腾党、研究端侧智能体与实体控制的开发者,以及任何想在不越狱的前提下自动化 iOS 任务的人。它同样会吸引已经在使用 ESP32 开发板的硬件爱好者,以及希望让智能体面对真实手机屏幕而非模拟器的实验者。典型用途包括 UI 自动化实验、无障碍研究,以及演示视觉驱动的智能体完成多步骤任务,例如设置一个重复闹钟。

常见问题

Handsy AI 是什么?Handsy AI 是一个开源 AI 智能体系统,用约 7 美元的 ESP32-S3 开发板控制原厂 iPhone,通过 AirPlay 观看屏幕,再通过 USB 回传点击操作。

Handsy AI 需要越狱吗?不需要。它在运行 iOS 18 的未改装 iPhone 上即可工作,只在为开发板刷固件时需要用一次电脑。

Handsy AI 收费吗?软件免费开源;主要成本在硬件,XIAO ESP32S3 开发板约 7 美元。

支持哪些 iPhone 和开发板?支持 iPhone XS 及更新机型(需 iOS 18),任何带原生 USB 和 PSRAM 的 ESP32-S3 开发板都可以替代 XIAO 参考板。

Handsy AI 会把数据传到云端吗?应用会把截图发送给用户自选的视觉模型,创建者已演示过完全本地、不涉及云端 API 的方案,因此推理可以完全留在本地网络中。