AI科技:新型加速器芯片、AI体博弈解决程序

编译/ 李雨蒙
AI体能够提升解开迷局的能力,可解性的边界就会变得显而易见。因此,在现实生活中的各种情况下,迷局与博弈之间就会有一个清晰的定义。比如,决定一笔高风险的投资、评估重要决策的风险水平等。

本文来自民商传媒,编译/李雨蒙。

AI体能够提升解开迷局的能力,可解性的边界就会变得显而易见。因此,在现实生活中的各种情况下,迷局与博弈之间就会有一个清晰的定义。比如,决定一笔高风险的投资、评估重要决策的风险水平等。

Hiddenite:基于尖端神经网络理论的新型人工智能处理器

深度神经网络(Deep neural networks,DNNs)是一种复杂的机械学习模式,需要学会运用许多参数来预测结果。不过,深度神经网络是需要被“修剪的”,需要减掉运算中的负担以及规模大小。前些年,“彩票假说”席卷了整个机器学习领域。这一假设指出,随机初始化的深度神经网络(DNNs)所包含的子网络,在训练后能够达到与原始DNN相当的准确性。网络越大,成功优化的“彩票”就越多。因此,这些“彩票”允许“修剪”稀疏的神经网络,完成了相当于更复杂、“密集”网络的准确性,从而减少整体计算的负担与功耗。

找到此类子网络的一种技术是隐藏神经网络(HNN)算法,这一算法在初始化的随机权重和称为“超级掩码”的“二进制掩码”上使用AND逻辑(只有当所有输入都很高时,输出才很高)。由前k%的最高分定义的超级掩码表示出,未选择和选定的连接分别为0和1。HNN有助于降低软件方面的计算效率。然而,神经网络的计算也需要改进硬件组件。

传统的DNN加速器可以提供高性能,但并没有考虑到外部内存访问所造成的功耗。现在,由Jaehoon Yu教授和Masato Motomura教授领导的东京理工学院研究人员开发了一种名为“Hiddenite”的新加速器芯片,这一芯片能够计算功耗大幅提升的隐藏神经网络。“减少外部内存访问是降低功耗的关键。目前,实现高推理精度需要大型的模型。但这却增加了外部内存对加载模型参数时的访问。我们开发Hiddenite芯片的主要动机是减少这种外部内存访问”。Motomura教授表示。这项研究将出现在即将举行的2022年国际固态电路会议(ISSCC)上,这是一次著名的国际会议,将展示集成电路领域的最高成就。

“Hiddenite”代表隐藏神经网络(HNN)推理张量引擎,是第一个HNN推理芯片。Hiddenite架构提供了三重优势,以减少外部内存的访问并实现高能效。首先,它通过使用随机数生成器为重生权重提供片上重量生成。这消除了访问外部内存和存储权重的必要性。第二个好处就是提供了“片上超级掩码扩展”,减少了加速器需要加载的超级掩码数量。Hiddenite芯片所提供的第三个改进是高密度四维(4D)并行处理器,该处理器在计算过程中最大限度地重用数据,从而提高了效率。

这些发现以及它们在真正硅芯片中的成功展示一定会促使机器学习领域的另一番范式的转变,为更快、更高效、最终更环保的计算铺平道路。

通过AI体对已知和未知进行博弈

数十年来,努力解决博弈一直专属于解决双人的游戏,即棋盘游戏如跳棋、国际象棋等。博弈结果可以通过应用人工智能研究技术准确且高效地预测出来,同时收集游戏中大量的统计数据。可是,这样的方法无法直接应用于解决迷局的领域,因为迷局通常都是单独进行的一人游戏,并且具有独一无二的特点(随机或隐藏信息)。但此时就出现了一个问题,AI技术如何在保留解决双人博弈的能力的同时,还可以应用于单人体的迷局?

多年来,谜局和博弈一直被认为是可以互换或者说是对方的一部分。但事实上,一直以来情况可能并非如此。从现实世界来说,“博弈”是我们每天都要面对的事情,要处理许多的未知。比如,无法知道是否做出了正确或是错误的选择(结婚、辞职),或是完全没做出正确或错误的决定(懊悔、如果当初)。与此同时,“迷局”是已知的,甚至还有一些事情被隐藏还未解开。比如,这样的已知情况就像对好奇物质——石墨烯的发现,其中还有许多潜能未被商业化以及普遍应用。所以,在解决迷局的情况下,应怎样找到“博弈”与“迷局”的界限?

最近,日本高等科学技术研究院的Hiroyuki Iida教授及其同事在期刊《Knowledge-based Systems》中发表研究文章尝试解答了这两个问题。这项研究主要贡献了两项重要的成果:(1)通过扫雷测试定义了单体游戏背景下迷局的可解决性;(2)提出一种全新AI体(自由活动的软件或硬件实体),运用一种称为PAFG的四种策略统一组合解决程序。利用扫雷迷局中已知与未知的信息,这一解决程序相比最顶尖的研究能够更好地解决迷局问题。研究人员采用了由两个知识驱动战略和两个数据驱动战略所组成的AI体,这样可以充分利用当前决策中已知与未知的信息,进而最恰当地估算出后续所做的决定。最终,为扫雷一般的单体随机迷局建立起了解开迷局与博弈之间的界限。

因为在这些问题中,已知与未知之间的界限通常是模糊不清且难以分辨的,因此这一方法在现实世界中将起到非常重要的作用。正如Iida教授所强调的:“AI体能够提升解开迷局的能力,可解性的边界就会变得显而易见。因此,在现实生活中的各种情况下,‘迷局’与‘博弈’之间就会有一个清晰的定义。比如,决定一笔高风险的投资、评估重要决策的风险水平等。”从本质上来说,我们都生活在一个扫雷的世界中,一边避开生活中的炸弹,一边努力猜测未来前进的方向。

在现存技术的外向型升级以及可计算的新样本中都存在着许多不确定性,比如物联网、云服务、边际运算、神经形态运算等。这种情况在个人、社会甚至是整个国家层面中都是真实存在的,比如科技可接受度、文化、行为规范,政策以及法规的调整等。人们每一天的活动中都会出现各种“博弈”与“迷局”的情况。不过,“在已知与未知之间建立边界条件,在一定范围内绘制出可解决的范例就能将未知的风险降至最低,将已知的利益最大化。”论文的首席作者Chang Liu这样认为。“这样的功绩是通过将知识驱动技术、人工智能技术以及可计量不确定性(如获胜率、成功率、进度率)等技术做到顶尖才能够完成的,同时还要保持谜题的趣味性与挑战性。”

编译自Scitech网站

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论