科技行业联手提高人工智能研究可控性

作者/英国《金融时报》理查德·沃特斯 旧金山报道  译者/简易

该计划旨在提高AI研究的可控性和透明性，驱散人们对AI技术的担忧，参与者包括几乎所有AI实力强劲的美国高科技企业。

几家最具影响力的美国高科技企业已经承诺，要令人工智能(AI)技术的开发更加可控和透明，试图借此遏制人们对该技术日益增加的担忧。人们担心，人工智能技术会导致工作岗位流失，加剧收入不平等，甚至威胁到人类的未来。

实施这一计划的公司包括谷歌(Google)、微软(Microsoft)和Facebook。该组织一名成员表示，这一计划等于是一个行业首次联合起来，约束一种广泛影响人类未来的技术。

Facebook人工智能主管扬·莱库(Yann LeCun)表示：“人工智能即将改变整个社会，必须公开研究这种改变的后果。这种技术将改变我们彼此联络的方式，改变我们获取信息、获得药品、开展交通运输的方式，改变城市的组织结构。”莱库是深度学习的先锋人物之一，而深度学习正是近期推动人工智能领域突破性进展的技术。

这些企业还包括了亚马逊(Amazon)和IBM。它们宣布成立一个名为人工智能造福人类和社会合作组织(Partnership on Artificial Intelligence to Benefit People and Society)的非盈利机构，以开展这项工作。该组织将对有关人工智能具体如何影响社会的伦理问题开展研究，并找到提高这种新技术透明度、降低其理解难度的办法。

该倡议背后的最大动机，源于公众和政府对这种威力巨大的技术将如何影响生活方方面面越来越担心。微软人工智能研究人员埃里克·霍维茨(Eric Horvitz)表示，该技术是个“转折点”，相关挑战正浮出水面。

这些挑战包括：程序中的“隐形偏见”，即用特定数据集“训练”后，程序会带上隐含假定前提；一些系统往往会以其开发人员也不能理解的逻辑做出决策，这些系统的安全性和可信任程度问题；如何设计人工智能系统中嵌入的伦理判断，这些伦理判断会在特定场合影响系统与人类的互动。

这位微软研究人员表示，该组织回顾了科学史，考察了电气技术和航空技术等当时全新技术的引入，没有发现这种全行业努力的先例。

他还否认该领域存在“名为自律、实为抵制政府侵犯的明确企图”。相反，他表示政府会欢迎这一全行业开展的研究，因为政府往往很难理解此类技术的影响。

该组织包括了拥有最强人工智能研究机构的所有美国高科技企业——除了苹果(Apple)以外。不过，多名代表表示目前正在就苹果加入该合作组织开展磋商。