Skip to content

Repository files navigation

HarmonyOS 自动化应用启动器

项目概述

本项目是一个基于Python开发的HarmonyOS设备自动化工具,主要用于通过自然语言指令或直接点击来启动设备上的应用程序。项目支持设备连接检查、自然语言指令解析和执行、以及模拟操作等功能。

核心功能

  • 自然语言交互:支持用户通过自然语言(如"打开设置")指令启动应用
  • 应用启动自动化:通过模拟点击操作自动启动设备上的应用程序
  • 设备连接管理:自动检查HarmonyOS设备的连接状态
  • 模拟模式:在设备未连接时支持模拟操作,方便开发和测试

项目结构

├── HarmonyAutoAgent.py    # 核心代理类,集成设备管理和指令解析功能
├── HarmonyDeviceManager.py # 设备管理器类,负责设备连接和输入模拟
├── test_agent.py          # 交互式应用启动器,支持自然语言输入
├── test_tap.py            # 直接点击测试脚本
├── .gitignore            # Git忽略文件配置
├── .ignore               # 通用忽略文件配置
└── README.md             # 项目说明文档

文件说明

test_agent.py

交互式应用启动器,支持通过自然语言输入打开应用:

  • 提供设备连接状态检查
  • 支持设置和图库两个应用的自然语言启动
  • 应用坐标配置:
    • 设置:(753, 1923)
    • 图库:(1042, 1923)
  • 在设备未连接时自动进入模拟模式

test_tap.py

直接点击测试脚本,用于测试点击设置图标的功能:

  • 专注于测试单一应用的点击启动功能
  • 提供详细的操作日志和结果反馈
  • 可用于快速验证设备连接和点击操作是否正常

环境要求

  • Python 3.7+
  • HarmonyOS设备(支持HDC调试)
  • HDC工具(HarmonyOS调试工具)
  • 网络连接(用于指令解析)

使用方法

1. 运行交互式应用启动器

python test_agent.py

运行后,应用启动器会自动检查设备连接状态,并显示支持的应用列表。用户可以输入自然语言指令(如"打开设置")来启动对应的应用程序。

2. 运行直接点击测试

python test_tap.py

运行后,脚本会直接尝试点击设置图标(坐标 753, 1923),并显示操作结果。

使用示例

交互式应用启动器示例

===== 应用启动器 =====
✓ 设备已连接,可以执行实际操作

支持的应用:
   1. 设置 - 位置: (753, 1923)
   2. 图库 - 位置: (1042, 1923)

开始使用
输入自然语言指令(如:'打开设置'、'点击图库'),输入'exit'退出

请输入指令: 打开设置
执行操作: 打开设置
✓ 成功打开设置

请输入指令: 打开图库
执行操作: 打开图库
✓ 成功打开图库

请输入指令: exit
退出应用启动器

直接点击测试示例

===== 测试点击设置图标 =====
正在点击设置图标坐标 (753, 1923)...
点击成功!

注意事项

  1. 确保HarmonyOS设备已开启开发者模式并启用USB调试
  2. 确保HDC工具已正确安装并配置到系统环境变量中
  3. 应用坐标可能因设备屏幕分辨率不同而有所差异,需要根据实际设备进行调整
  4. 自然语言指令解析依赖网络连接,请确保网络环境正常
  5. 本项目仅支持设置和图库两个应用的自动启动,如需支持更多应用,需要修改应用UI元素配置

隐私与安全

本项目通过.ignore和.gitignore文件确保在上传代码时不会包含隐私信息,包括:

  • 配置文件(可能包含API密钥、认证信息等)
  • IDE配置文件
  • Python编译文件
  • 截图文件夹

未来扩展

  • 支持更多应用程序的自动启动
  • 支持更复杂的自然语言指令
  • 增加设备状态监控功能
  • 支持多设备管理

许可证

MIT License

About

本项目是一个探索性的移动端AI智能体原型,旨在利用鸿蒙智能体框架(HMAF)​ 的先进能力,实现鸿蒙手机上的复杂任务自动化。该智能体通过多模态大模型作为“大脑”进行环境感知与决策,并精准调用系统工具(如HDC命令)作为“双手”来执行操作,最终通过“感知-决策-执行”的闭环,完成从自然语言指令到任务达成的端到端自动化,展示了“应用生而智能”​ 的新范式。

Resources

Stars

Watchers

Forks

Releases

Packages

Contributors

Languages