随着智能人机交互技术的发展,UI控件及场景识别在自动化测试和智能辅助操作等领域发挥着重要作用。然而,非均衡小样本问题对识别精度和泛化能力提出了挑战。针对这一问题,本项目提出了一种基于非均衡小样本的高效UI控件及场景识别方法,构建了由基础核心服务与辅助功能组成的识别系统流水线。核心服务包括场景分类与通用控件检测,辅助功能则结合小样本迁移学习与点击先验信息,以增强关键控件的识别能力。创新性地引入小样本迁移学习策略,提升模型在数据不均衡情况下的适应性。实验结果表明,该方法在场景分类任务中的精准率和召回率均超过 0.95,控件检测的 mAP@0.5(平均精度均值)达到 0.8 以上,有效提升了UI识别的鲁棒性和应用价值,为智能交互系统的自动化与智能化发展提供了有力支持。

