Q&A: 研究人员的方法旨在提高 AI 驱动的系统效率
快速阅读: 据《宾夕法尼亚州立大学新闻》最新报道,宾夕法尼亚州立大学研究团队开发了一种“选择性学习方法”,通过模拟人脑注意力机制,减少AI驱动系统如无人机的数据、计算和能源需求。该方法使计算资源减少高达435倍,适用于无人机、可穿戴设备等领域,有望推动边缘计算发展,并计划通过创业公司拓展其商业应用。
宾夕法尼亚州大学城——宾夕法尼亚州立大学的研究团队正在采用一种“选择性学习方法”,即科学家们只收集解决特定问题所需的必要数据,而非收集所有可用数据并从中筛选出与问题相关的内容。这种方法旨在提高像无人自主飞行器(UAV)这样的人工智能(AI)驱动系统的效率。
“这种方法类似于人类大脑的选择性注意力机制。大脑只会获取必要的信息以节省能量、内存和处理资源,就像选择性学习一样,”领导该研究团队的宾夕法尼亚州立大学艾伦·M·皮尔斯工业工程教授松达尔·库马拉说道。他最近在《科学报告》上发表了他们的研究成果。“由于传感器在现实世界中运行时受到计算能力、功率、存储空间、传输能力和延迟等方面的限制,因此构建能够在低尺寸、重量、功率和成本场景下运行的高效AI模型非常重要。这项研究利用生物学中的见解来设计新颖的数据和计算高效的算法。”
通过结合一种精简化的训练方法,研究团队的方法减少了AI驱动系统维持所需性能精度所需的大量数据、计算能力和能源。所提出的这种方法在无人机、可穿戴电子设备等应用中可以将计算资源减少高达435倍。该团队包括库马拉;安库尔·韦尔马,他在2024年从宾夕法尼亚州立大学毕业并获得博士学位;阿尤什·古尔,他在2024年从宾夕法尼亚州立大学计算机科学专业毕业并获得硕士学位;以及麻省理工学院机械工程系弗雷德·福斯特·弗劳尔斯和丹尼尔·福斯特·弗劳尔斯教授桑基·萨尔玛。
在下面的问答环节中,库马拉还讨论了AI驱动车辆及其工作效率提升的相关工作。
**问:什么是AI驱动的车辆?它们在日常生活中出现在哪里?**
**库马拉:** UAV是具有自主导航能力的空中、陆地或水下交通工具,这意味着这些车辆使用传感器收集的数据自行驾驶,而不是依赖于人类飞行员。在日常生活中,这些车辆可以用于搜索和救援任务、补给任务、基础设施检查、月球和火星探索以及导航危险环境。基本上,我们可以将它们置于对人类来说可能危险或无法进入的环境中,以帮助我们实现目标。
UAV是资产的一个具体例子,这些资产使用不同类型的传感器,如能看到人类能检测到颜色的摄像头、多光谱相机、陀螺仪和加速度计,可以从我们的论文提出的这种方法中受益。我们的团队已经在各种资产的传感器数据上测试了这种方法,例如工业电机、泵、齿轮箱、燃气轮机等。我们的方法利用了真实世界传感器数据的结构或模式,这是不同数据模态(如图像、声音或振动)普遍存在的特性。
**问:AI驱动的无人自主车辆消耗多少数据和能源?**
**库马拉:** 不同模态的数据消耗因UAV或可穿戴设备而异。各种传感模态和任务所需的传感器数据量受香农-奈奎斯特采样定理的约束,该定理指出,采样率至少需要是信号中最高频率的两倍,以避免信息丢失。对于具有快速基础动态特性的机器(如UAV),采样频率需要处于千赫兹或兆赫兹范围内——每秒10,000到1,000,000个数据点。这是非常短的时间内大量的数据。另一个导致高数据量的原因是数据通道的数量。一架飞机可能有高达300个不同的传感器来测量不同的物理属性,每次飞行都会生成数GB的数据。
根据我们团队研究结果的预期,我们可以预计在不同UAV中可能存在的各种传感器模态的数据处理所需的能耗会减少7到435倍。目前的UAV需要充电,并且通常是电池供电。使用我们的新方法,我们可以显著延长电池寿命,因为分析传感器数据所需的计算能力会大幅下降。这还可以帮助减轻需要飞行的处理器的重量,从而带来重量优势。
**问:您的实验室如何努力使AI驱动的UAV更加节能和数据高效?**
**库马拉:** 这篇论文的第一作者安库尔·韦尔马,在2024年在我指导下从宾夕法尼亚州立大学毕业并获得博士学位,他致力于开发新型神经网络架构,可以在更少的数据量上联合采样和训练模型,从而实现快速训练模型和推理。我们的方法不是收集和丢弃原始数据的两步过程,而是通过只收集最初需要的有用数据来结合这两个步骤。这种联合采样和快速模型训练将所需数据量减少了10倍,计算能力——完成和执行计算任务所需的功率——减少了435倍。这也导致了更小、更轻、能耗更低的模型。这些模型也可以比更大的模型更快地进行训练。
我们在《科学报告》上的论文显示,与典型的神经网络相比,计算能力减少了435倍,典型的神经网络需要大量的训练数据、能源和计算能力来学习数据的代表性特征。我们利用数据中的结构来同时减少这三个方面——数据、计算和能源——同时保持性能准确性。能源节约尤为重要,因为在物理世界中部署AI时,这些场景通常包括计算、功率、存储、传输和延迟受限的环境。将AI应用于卫星、无人机、UAV、火星车等设备上,要求AI非常资源高效,因为我们不能因为操作和经济限制而增加这些设备的外形尺寸。
**问:接下来是什么?**
**库马拉:** 我们已经将我们的研究应用于几个不同的用例,包括避免计划外停机的燃气轮机、鼓风机、电机和泵的工业资产健康监测,以及在非常小的硬件形式因素上的可穿戴设备的人类活动识别——可穿戴计算机硬件组件的物理规格,如大小、形状和布局——识别活动如步行、跑步和游泳。
我们认为我们的方法将改变下一代边缘计算的转型方式。我们正在通过Lightscline公司扩展我们的研究,该公司由韦尔马、古尔和我共同创立。通过Lightscline,我们希望在航天和国防等各个行业中商业化这项技术。这项工作的初步市场调研得到了美国国家科学基金会I-Corps项目的资助。
(以上内容均由Ai生成)