松原机械设备网

当前位置: 首页 >> 农业机械

为节能型AI应用找到了新方法

2021年07月06日 松原机械设备网

为节能型AI应用找到了新方法

人工智能(AI)的大多数新成就都需要非常大的神经网络。它们由成百上千层排列的亿万个神经元组成,即它们具有非常“深”的网络结构。

这些大型的深度神经网络在计算机中消耗大量能量中国机械网okmao.com。用于图像分类(例如人脸和物体识别)的那些神经网络特别耗能,因为它们必须在每个时间周期内从一个神经元层到另一个神经元层发送非常多的数值。

计算机科学家Wolfgang Maass及其博士 学生ChristophSt?ckl现在发现了一种人工神经网络的设计方法,为节能高效的AI硬件(例如,驾驶员辅助系统,智能手机和其他移动设备的芯片)铺平了道路。

格拉茨工业大学理论计算机科学研究所(TU Graz)的两位研究人员已经在计算机仿真中优化了人工神经元网络,以进行图像分类,从而使神经元类似于大脑中的神经元,只需要发送相对很少的信号,它们发出的信号就非常简单。

然而,通过这种设计证明的图像分类精度非常接近当前图像分类工具的最新技术水平。

人脑中的信息处理作为范例

Maass和St?ckl的灵感来自人脑的运作方式。它每秒处理数万亿次计算操作,但仅需约20瓦。通过非常简单的电脉冲,即所谓的尖峰,通过神经元间通信,可以实现这种低能耗。因此,不仅通过尖峰的数量,而且通过其随时间变化的模式对信息进行编码。“

您可以将其视为摩尔斯电码。信号之间的停顿也可以传输信息,”马斯解释说。

格拉茨大学的计算机科学家沃尔夫冈·马斯(Wolfgang Maass)正在开发节能的AI系统,并受到人脑功能的启发。图片来源:Lunghammer-TU Graz

训练人工神经网络的转换方法

基于尖峰的硬件可以减少神经网络应用程序的能耗,这并不是什么新鲜事。但是,到目前为止,对于真正好的图像分类所需要的非常深,很大的神经网络,这还无法实现。

在Maass和St?ckl的设计方法中,信息的传递现在不仅取决于神经元发出多少尖峰,还取决于神经元何时发出这些尖峰。

尖峰之间的时间或时间间隔实际上对其自身进行编码,因此可以传输大量附加信息。Maass说:“我们显示出只有几个峰值(在我们的模拟中平均为两个),可以在处理器之间传递更多的信息,就像在耗能较高的硬件中一样。”

凭借他们的成果,来自TU Graz的两位计算机科学家为硬件提供了一种新方法,该方法结合了很少的尖峰信号,从而降低了能耗,并具有AI应用程序的最新性能。

这些发现可能会极大地加速高能效AI应用程序的开发,并在《自然机器智能》杂志上进行了描述。