6.利用“黑箱推论”进行逻辑推理的AI系统

在一些时候，人工智能需要推理的元素，在特定条件下存在极大的未知性，那么，这种条件下想要对其进行推导，研究者就只能依靠与该元素相关的已知因素进行关联性猜测。对于这一理论，学术界将其命名为“黑箱法”，也就是依靠目标系统的输出信息来识别其功能特性的学术工具。

关于“黑箱推论”，人工智能的先行者约翰·麦卡锡曾做过一个非常形象的比喻。他说道：“假如有人给你一只扎了死结的布口袋，那你怎样做才能知道里面究竟装的是什么呢？最简单的办法就是上去踢一脚，感受一下里面是一根木头，还是一块海绵。如果听到‘汪汪汪’的声音，那么里面毫无疑问就是一只狗。”

按照麦卡锡的比喻，这只扎了死结的布袋就可以被看作“黑箱”，“脚踢的动作”就可以看作是外界刺激信号，最后人脚的感受以及动物叫声等，都相当于“黑箱理论”当中的“输出信息”。在外界信号的帮助下，实验者或者AI系统就能推测出“黑箱”当中究竟隐藏着什么。

关于黑箱推理在人工智能方面的应用，我们同样可以通过现实例证来进行阐释。比如“X”神经网络当中某处节点的参数，“A”与“B”为两个不相同的人工神经元。通过“X”的授权，神经元A当中的信息数字“25”传递到神经元B当中之后，修正为信息数字“100”，那么关于未知参数“X”，我们就可以做出以下推论：

（1）25+X=100

（2）25×X=100

在这两个简单求解的公式中，我们可以推算出X等于“75”或者“4”。至于究竟哪一种结果正确，还需要进行再一次的求解。现在将神经元A中的信息数字改为“10”，那么代入上面两个等式当中去，假如神经元B最后得出的结果是“40”，那么未知参数X的值就是“4”；假如最后结果显示为“85”，那么未知参数X的取值就为“75”。与此同时，这一次关于未知参数的求解，也证实了神经元A与B之间的关联关系。当然，在人工智能系统当中，信息数据的传导关系是非常复杂的，在部分不成熟的神经网络模型当中，研究者对于参数的设定往往需要多次调整和修改，而这个时候，“黑箱推论”的应用就非常频繁了。

那么，在“黑箱推论”当中，又有哪些常见推论方法呢？

（1）“等价分类法”。

从概念上来说，这种推论方法是将测试过程中的输入、输出，以及操作等过程进行相似内容的分组，之后从这些划分好的组别当中选取有代表性的样本进行测试。举例来说，假如在H市需要进行普法知识摸底，城市当中所有的人都需要参评。接到任务后，警察对城市中所有的人员都进行了划分：大学毕业人群为一类；高中毕业人群为一类；初中毕业人群为一类；小学毕业人群为一类。

在这时，警察在检验任意一个类别的人群时，都不必将这个类别中的每一位市民引入到检验机制中来，他只需要提取这里一位具有代表性的人选来参加考核，然后用这个结果来裁定该类别全体居民的知识水平。比如大学类别的代表得90分，那么按照黑箱推理的“等价分类法”定义，这个类别的其他居民在相关考核中，所得的分值也都为90分。

等价分类法的好处就是，按照一定规则将样本进行归类，然后只对这一分类当中具有代表性的样本进行检验，就可以推理出本分类当中所有样本的检验结果。

当然，等价分类法的使用也是有其局限性的，因为从分组划分的角度来说，部分分类受到客观因素的影响，并不具备有效性，这是一定需要注意的。

（2）边界值分析法。

与上一种分析方法不同的是，边界值分析法测试的是一个分类样本当中临界样本的值。比如说存在一个分类（1……99），那么边界值分析法就会提取临界数值“1”和“99”，以及与临界数值相邻的“0”“2”“98”“100”分别进行测算推论。从理论上来说，边界值分析法是对于等价分析法的补充分析，它有利于推理出分类样本的最大或者最小趋向。

（3）因果图法。

这种推论方法又叫作“石川图”，它是日本东京大学教授石川馨提出的用一种带指向箭头来描述事物之间因果关系的图示工具。比如图5-5就是一则相对简单的因果图示。其中E1代表输入1.5元硬币；E2代表输入2元硬币；E3—E5分别代表输入“可乐”“雪碧”以及“红茶”按钮。而在图示的右侧，则是本次推论的结果：当投入2元硬币且按下“可乐”按钮时，输出条件就是“退还0.5元、送出可乐”；而投入1.5元硬币且按下“雪碧”按钮时，输出答案就是“送出雪碧”。

这就是说，设计者将整个推理当中的推理条件、相关推理规则，以及推理结果都用图形示例的方式表达了出来。这样做的好处就是，整个推理过程是一一对应且非常直观的。

图5-5

这种方法就是在推理过程中，推理者利用主观直觉或者经验寻找可能会引发错误的因素，对这些潜在错误因素进行逐一检验。比如在一个经常出现程序错误的神经网络模型当中，存在4个极其不稳定的神经节点，那么在某次运算出错后，研究者需要将大部分精力放在这4个工作状态不稳定的节点上，先校验它们出错的可能性，然后再进行下一步检测。

总体而言，在部分情况下，人工智能需要面对的是一个难以检测的“黑箱”，想要探明这个未知结构背后的功能特性，就需要通过检测、控制输入输出因素的方法来进行判定推理。当然，从一定程度上来说，“黑箱推论”同样是不具备百分之百确定性的。它存在的意义就在于，使用这种推理方法，能帮助人工智能在推理判定时，无限逼近目标答案的确定值，以求得一个最优答案。

（4）错误推导法。