ESP32 iPhone Agent - 让 AI 通过 ESP32 板子操作 iPhone(无需电脑,不用越狱)
视频演示
https://github.com/onehumanbeing/esp32-iphone-agent
眼睛:AirPlay 投到板子上。 板子开自己的 Wi-Fi 热点,在手机的「屏幕镜像」里显示为 ESP32 Agent。它不解码,只把 H.264 码流经蓝牙转给 App。手机连着板子热点时,调用模型走蜂窝数据。
手:USB HID。 板子是标准 USB 鼠标和键盘。打开辅助触控(AssistiveTouch)后,鼠标控制屏幕上的指针,点击就是轻点,拖动就是滑动。
大脑:App。 App 解码画面,把截图发给任意兼容 OpenAI 接口的视觉模型,由规划器和执行器决定动作:点、滑、画、输入、按键、回主屏、结束。工作时 App 在后台运行,灵动岛显示它在做什么。
闭环。 指针是相对移动的,App 记录位置并定期回角落归零;精细点击前晃一下指针、在画面里找到它并修正偏差。每个动作后等画面稳定,再告诉模型画面有没有变化。板子、热点或镜像断开时暂停,恢复后从同一步继续。
复盘。 每次运行都存在手机上,可以逐步回放,点按和滑动画在截图上。

#iOS #Apple #AI #Tool #GitHub