UI Automation
Windows 平台上暴露无障碍树的原生 API,为屏幕阅读器和自动化工具提供UI元素的角色、名称、状态和位置信息
核心事实
时间轴 (近 90 天)
在 Windows 上,LU 会读取目标窗口的按钮和字段列表(UI Automation);能看图的模型获得截图加列表,不能看图的模型仅靠列表工作。
用语音下指令、由本地 9B 模型依据控件列表在记事本里打笔记,从语音命令结束到语音播报结果耗时 11 到 22 秒,该数据测于每个新对话都要询问的机制上线之前。
作者在两项任务上各跑三次的对比中,带图的运行合计 497 秒,仅靠控件列表的运行合计 381 秒,六次全部完成,仅靠列表反而更快。
无障碍树是操作系统为辅助技术(屏幕阅读器、语音控制、自动化工具)维护的结构化UI描述,由各平台原生API暴露:Windows上是UI Automation(UIA),macOS上是AXUIElement,Linux上是AT-SPI,Android上是AccessibilityNodeInfo。
读取界面结构的技术路径通常借助操作系统或应用框架暴露的可访问性树(Accessibility Tree)实现,如Windows的UI Automation、macOS的Accessibility API和浏览器的DOM树
操作系统层服务类产品在技术实现上通常依赖系统级辅助功能API,macOS的AXUIElement框架或Windows的UI Automation,来读取前台应用文本并写回结果
Accessibility API 是操作系统为辅助技术提供的编程接口,允许程序读取 UI 元素的文本内容、层级结构和状态信息,macOS 的 AX API、Windows 的 UI Automation 和 Linux 的 AT-SPI 是三大主流实现
全部知识事实 (8)
Accessibility API 是操作系统为辅助技术提供的编程接口,允许程序读取 UI 元素的文本内容、层级结构和状态信息,macOS 的 AX API、Windows 的 UI Automation 和 Linux 的 AT-SPI 是三大主流实现
65%已验证Windows辅助功能API(UI Automation/MSAA)能以结构化方式暴露应用程序的UI元素树,包括控件类型、名称、状态、位置坐标及可执行操作
65%待验证用语音下指令、由本地 9B 模型依据控件列表在记事本里打笔记,从语音命令结束到语音播报结果耗时 11 到 22 秒,该数据测于每个新对话都要询问的机制上线之前。
50%待验证在 Windows 上,LU 会读取目标窗口的按钮和字段列表(UI Automation);能看图的模型获得截图加列表,不能看图的模型仅靠列表工作。
50%待验证作者在两项任务上各跑三次的对比中,带图的运行合计 497 秒,仅靠控件列表的运行合计 381 秒,六次全部完成,仅靠列表反而更快。
50%待验证无障碍树是操作系统为辅助技术(屏幕阅读器、语音控制、自动化工具)维护的结构化UI描述,由各平台原生API暴露:Windows上是UI Automation(UIA),macOS上是AXUIElement,Linux上是AT-SPI,Android上是AccessibilityNodeInfo。
50%待验证读取界面结构的技术路径通常借助操作系统或应用框架暴露的可访问性树(Accessibility Tree)实现,如Windows的UI Automation、macOS的Accessibility API和浏览器的DOM树
50%待验证操作系统层服务类产品在技术实现上通常依赖系统级辅助功能API,macOS的AXUIElement框架或Windows的UI Automation,来读取前台应用文本并写回结果
50%