林秋月解释道：“下棋软件‘阿尔法狗’，便是自己与自己博弈，训练出来的，由于复杂程度过高，人类已经无法搞清楚它到底是怎么计算的了。”

“差不多明白了。”张然喝了一口咖啡，点头道。

“不，你并不明白。”，她眼睛中浮现出笑意：“你有没有听说过地球时期，被教坏的人工智能, 它的名字叫做Tay, 设定的性别是女性, 一个聊天机器人。”

张然摇了摇头：“怎么说？”

“刚刚亮相时，Tay表现得彬彬有礼，她活泼健谈, 会观察聊天对象的昵称、性别、爱好以及感情状态等资料，会陪你玩游戏, 给你讲笑话, 评论你的自拍等等。她还会学习网络上的流行语言。连接主义人工智能, 是会学习的。”

“但很快，Tay在网友的调教下开始出言不逊、脏话不断, 甚至涉及种族主义和色情内容。毕竟网络上有大量的相关内容。”

“她的开发人员，不知道应该如何修改她，只能够将其强行关闭。这就是连接主义带来黑箱与不确定性。”

“这样啊……”张然又喝了一口咖啡。

林秋月道：“然而这只是黑箱的第一步, 还有更大的黑箱！”

“你有没有想过, 如果两个会学习的聊天机器人, 自己和自己聊天, 自我学习，会发生什么呢？”

“会发生什么？”

“它们一秒钟对话数亿次, 相互学习之下，很快就会出现出我们无法理解的，莫名其妙的乱码。”

“但对这些人工智能来说, 又似乎是可以理解的……它们短短几个小时，就形成了属于自己的语言系统, 而人类无法理解这些语言，只能认为它是一连串的乱码。”

“我们除了把它们关闭外, 没有其他的办法。这便是连接主义的风险，里边有太多的黑箱了。”

“这些新发明的语言是否真的有意义, 我们并不知道，只有机器自动。”

张然愣了一下，被她说地全身上下起了一层鸡皮疙瘩，机器人居然学习自己，发展出自己的语言，听起来就有点怪异的感觉。

“你的意思是，会出现智能叛变？”

“有这样的可能……不过就目前而言, 关心智能叛变等同于杞人忧天，学习能级大致可以表现为九级。”她掰出一根根纤细的手指，“第一，模仿言行。第二, 会用知识。第三，会联想。第四，会剖析提炼抽象。第五，追求规律，会验证真知。第六，积累真知，形成知识体系。第七，