1
人工智能
1.4.6 6.如何让人工神经网络具备记忆力

6.如何让人工神经网络具备记忆力

关于是否更大程度地提升人工神经网络的记忆能力,科学界是持有不同观点的。以斯蒂芬·霍金和艾隆·马斯克等知名学者为代表的群体,就一再强调过度开发机器人智能,会使得人类在未来有可能沦为机器人的奴隶。但是,从历史发展的角度来说,机械智能体的自主化记忆,是人工神经网络技术发展的必然方向,瑞士洛桑大学的人类学专家丹尼尔拉·赛齐说道:“随着人类对于科学规律的进一步探索和发现,人工智能就不再显得那么深不可测了。就好比人们会对冷兵器时代出现的第一支火枪恐惧万分,认为威力惊人的远距离杀伤性武器将会对人类历史带来毁灭性影响。但实际上随着认知的深入化,所有的一切又都重回正轨了。”

从技术角度而言,让人工神经网路具备记忆力,是一件“非常痛苦”的事情。因为在接收外来信号的时候,人工神经网络会在数字神经元和输入输出方案之间建立特定联系。而当遇到新的信号输入时,原有的联系又会因为不能匹配新信号与神经元之间的关联性而被覆盖。这就是说,要想让人工神经网络具备记忆力,旧有的关联特性必须是受保护的,周而复始的覆盖重写,根本不能达成这一意愿。对于这一技术难题,业内将其命名为“灾难性忘却”,而破除“灾难性忘却”的方案,也是一分为二的。

从硬件角度来说,利用外置存储器的方式,是可以避免有效信息遭到覆盖的。就目前来说,外置设备存储网络模型当中的信息符号,是现代科技应用最为常见的数据保存办法。这样做的好处很明显,但缺陷也是显而易见的,那就是外联存储设备的方式只能保证人工神经网络将必要信息备份在硬件设施当中,是一种被动的“记忆”方法。从科技发展的角度来说,实现网络模型更高级别的“主动记忆”,才是科学界更为关注的命题。

为了能通过技术手段破解人工神经网络的“灾难性忘却”,美法两国的科学家联合挪威高级技术人员组成了一支科学团队,试图利用生物学的部分理论概念来辅助研究。在这一点上,“模块化”理念的引入对于人工神经网络的自主化记忆功能起到了有效推动的作用。

按照现代生物学理论,动物大脑是由许多紧密相连的神经元构成的。在这些神经元之间,部分单位按照一定内在相似因素区分,还会聚集在一起形成“神经元团簇”(modularity),而正是由于这些“神经元团簇”的存在,使得动物脑体能够学习到不同的知识。

    

图3-3

如图3-3所示,进化程度稍低的“低级神经元团簇”(Low Modularity),在结构上是混沌、无规律的。而与之相对应的“高级神经元团簇”(High Modularity),则在构成上是离散的、呈模块状的。从记忆功能上来说,高级神经元团簇的每一个离散模块,都能记载不同的学习内容。比如在一个高等级神经元团簇当中,神经模块A记录一个人的早餐,神经模块B记录一个人的午餐,神经模块C记录这个人昨天穿戴的衣物等。单个神经模块由部分具备内在联系的神经元聚集而成,不同的神经元模块之间虽然呈离散状态,但却又按照一定的规律互相关联。受此现象的启发,科学家也提出了类似的概念,那就是“让人工神经网络的记忆呈分布状”。当外来信号进入神经网络后,不同的信号就会被划分到相对独立的人工神经模块当中去,以此避免受到新数据的覆盖损毁。

按照这一思路,科学界对于人工神经网络的设计就更加合理了。他们在网络模型当中模拟出了虚拟神经模块,当人脑需要处理某一个任务时,相关神经模块就会被激活,随后进行网络内外的信息交换,而其余部分与该任务无关的神经元模块就会呈抑制或者隐性状态。这样做的目的只有一个,那就是受到外部信息冲击时,存储在人工神经网络当中的有效数据能够得到保护,这也就是最常用的破解“灾难性忘却”技术手段之一。

对于人工神经网络的虚拟模块划分,研究者是借鉴了动物脑体工作机制的。对于动物来说,在它们的大脑内部想要建立一些联系,就必须要有能量的支撑。比如一只兔子在看到蔬菜时,它的大脑需要先判断“这是胡萝卜还是西红柿”,而这一个判断的过程,就需要消耗能量。假如这只兔子已经濒临死亡,脑部能量已经完全无力支撑这一次判断,那么这一次的大脑活动也就不会存在了。因此,针对动物脑体活动与能量之间的关系,研究人员也会在网络模型的链接处设立激活条件相对较高的“成本”,而正是由于“成本”的出现,人工神经网络才能被划分出一个又一个的虚拟神经模块。

此外,通过对动物脑体的研究,科学家还提出了另外一个非常有效的方案,那就是“奖惩机制”。对此,赛齐教授的解释是非常有趣的。他说道:“就比如大家熟知那个猴子与香蕉的故事,当猴子想要伸手取走香蕉时,人们会用高压水枪射击它。一次、两次、三次……重复若干次之后,这只猴子就会下意识地产生‘拿香蕉就会被水枪射击’的心理,即便之后人们撤走了水枪,它也不会再靠近香蕉半步了。关于人工神经网络的奖惩机制,实际上与此相似,我们通过一定的技术手段,对神经网络的节点进行奖惩,以鼓励或者抑制它对于信息的收发传输。”

所以说,对于机械智能体的记忆功能,科学界是不一而论的。从历史发展的角度来说,强化人工神经网络的记忆功能,提高机械智能体的应用范畴,这是时代发展的潮流。在掌握了更高技术水平的前提下,“人机对立”的格局还是会以人类主导为主。而如何利用技术手段使得人工神经网络具备记忆力,就可以通过外置存储设备,或者引入动物脑体的“神经元模块”理念来达成和实现。