Handsy AI
Handsy AI 是一个开源 AI 智能体,通过约 7 美元的 ESP32 开发板控制未越狱的原厂 iPhone:借助 AirPlay 观看屏幕,再通过 USB 模拟点击操作,适合喜欢动手的 iOS 自动化爱好者。
简介
Handsy AI 是一个开源项目,让 AI 智能体能够操控一台真实、未经改装的 iPhone。它不依赖越狱、私有 API 或开发者模式,而是用一块小巧的 ESP32 微控制器开发板作为智能体与手机之间的物理接口。这解决了 iOS 自动化的一个常见难题:Apple 平台对程序化控制基本封闭,能够自由操控 Android 设备的智能体在原厂 iPhone 上一直没有对等的路径。
该项目由 Henry Yuan 创建,采用 MIT 许可证发布,固件中的 AirPlay 接收器组件则采用 GPL-3.0 许可。整套方案分三部分工作:ESP32 板自建 Wi-Fi 网络,出现在 iOS 的屏幕镜像中,接收手机的 AirPlay 推流;随后通过蓝牙将画面转发给 ESP32 Agent 应用,由应用把每张截图发送给用户自选的视觉模型,规划下一步动作。插在手机 USB 接口上的开发板会以普通鼠标和键盘的身份出现,因此点击、拖拽和滑动都能通过 iOS 的 AssistiveTouch 实现。
主要功能
定价与费用
- 定价:软件开源,可从源码免费构建;所需硬件的开发板价格约 7 美元。
- 支持设备:任何运行 iOS 18 的 iPhone(iPhone XS 及更新机型)。USB-C 机型可直接连接;Lightning 机型需要 USB 相机转换器。
- 安装:官方网站提供浏览器版固件安装器,并附简体中文版本和 AI 辅助安装指南。
- 额外所需硬件:一根 USB-C 转 USB-C 数据线用于连接开发板与手机。
适用人群
Handsy AI 适合喜欢把廉价微控制器与 AI 结合起来的爱好者和折腾党、研究端侧智能体与实体控制的开发者,以及任何想在不越狱的前提下自动化 iOS 任务的人。它同样会吸引已经在使用 ESP32 开发板的硬件爱好者,以及希望让智能体面对真实手机屏幕而非模拟器的实验者。典型用途包括 UI 自动化实验、无障碍研究,以及演示视觉驱动的智能体完成多步骤任务,例如设置一个重复闹钟。
常见问题
Handsy AI 是什么?Handsy AI 是一个开源 AI 智能体系统,用约 7 美元的 ESP32-S3 开发板控制原厂 iPhone,通过 AirPlay 观看屏幕,再通过 USB 回传点击操作。
Handsy AI 需要越狱吗?不需要。它在运行 iOS 18 的未改装 iPhone 上即可工作,只在为开发板刷固件时需要用一次电脑。
Handsy AI 收费吗?软件免费开源;主要成本在硬件,XIAO ESP32S3 开发板约 7 美元。
支持哪些 iPhone 和开发板?支持 iPhone XS 及更新机型(需 iOS 18),任何带原生 USB 和 PSRAM 的 ESP32-S3 开发板都可以替代 XIAO 参考板。
Handsy AI 会把数据传到云端吗?应用会把截图发送给用户自选的视觉模型,创建者已演示过完全本地、不涉及云端 API 的方案,因此推理可以完全留在本地网络中。