北京大学集成电路学院/集成电路高精尖创新中心研究团队在储备池计算领域取得重要进展

来源:北京大学集成电路学院 #北京大学# #《科学‧进展》# #科研#
6254

随着人工智能和物联网技术的高速发展,电子设备产生的数据、尤其是包含时空信息的数据呈爆炸式增长,循环神经网络在处理这一类数据方面有显著的独特优势。然而,RNN复杂的内部连接关系带来了沉重的存储开销,连同梯度消失和梯度爆炸等问题,使得它面临着训练难度大、硬件成本高的挑战。作为传统RNN的一种变体,储备池计算(Reservoir Computing)用相对固定的非线性储备池替代了复杂的循环互连结构,大大降低了训练和实现成本。目前储备池计算已被成功应用于动作模式识别、语音识别、气象预测等重要领域。储备池一个关键物理参数是其时间特性,会以高度任务特异性的方式显著影响系统的性能。这意味着针对不同任务需要有针对性地调控储备池。但与之相反地,当前实现物理储备池的电子器件往往被用作一个“黑盒子”,特性由制备工艺决定,通常不具备适应性。这一局限使得大多数已被报道的储备池计算系统只能完成与特定物理器件时间尺度相匹配的任务,极大地限制其应用。

图1:时间特性可变的储备池和闭环储备池架构

针对这一亟待解决的关键问题,北京大学集成电路学院/集成电路高精尖创新中心研究团队首次提出了一种闭环储备池架构,可以根据实时输出结果网络“自主”地调控储备池的参数,从而灵活地适应当前的输入信号时间特征。同时,针对此架构,研究团队成功设计制备一种具有电学可控时间动力学特性的薄膜晶体管。进而建了一个能够提取多尺度时间信息的时间自适应储备池计算系统。基于所述设计的系统,研究团队实验演示了包含人物动作识别、物体变速度运动方向检测在内的一系列功能。

图2:实时识别任务实验演示结果

实验结果表明,研究团队制备的薄膜晶体管具有优异的周期一致性和大范围可调(104)的时间尺度,并在超过108循环次数之后仍然能具有优异的动力学特性。时间自适应储备池计算系统在人物动作识别任务中的表现相比传统单一固定时间特性储备池有显著提升,准确率从84.2%提高到了96.7%。实验进一步证明,闭环储备池架构有效增强了系统对于复杂时序信号的处理能力。在物体变速度运动方向检测任务中,将准确率从78.8%提升至94.7%。这项研究为硬件储备池计算系统处理复杂时空信号提供了全新的解决方案,进一步拓展了物联网时代下在边缘端实现高能效、高实时性信息处理的可能性。

相关成果以“Thin-film transistor for temporal self-adaptive reservoir computing with closed-loop architecture”为题,发表在《科学‧进展》(Science Advances)上。

论文链接:https://www.science.org/doi/10.1126/sciadv.adl1299

北京大学集成电路学院2021级博士研究生陈瑞齐为第一作者,黄鹏助理教授、刘晓彦教授为通讯作者。该研究工作得到了国家自然科学基金优青和重大研究计划项目以及111计划、集成电路高精尖创新中心的资助。

责编: 爱集微
来源:北京大学集成电路学院 #北京大学# #《科学‧进展》# #科研#
THE END
关闭
加载

PDF 加载中...