6月30日贴文二之一:进退两难/江扬(中国)

本月科技圈发生了一件不大不小的事件:Google一位研究员Blake Lemoine认为他所测试的聊天机器人LaMDA具有人的意识而被公司停职。这引发了关于人工智能是否具有人的意识的大讨论。

当下的科学界人工智能进路基本呈现出多头并进的态势,既有尽可能让计算机模拟人脑运作的“人工”智能,也有让计算机摆脱人脑窠臼独自野蛮生长的“计算机”智能。在此之上大致又可以分为乐观派、悲观派与实干派。乐观派估计在不远的将来我们就将见证真正人工智能的诞生;悲观派则预测人工智能永远难以媲美人脑;实干派则是那些抛弃悲喜二元论脚踏实地的工程科学家,聚焦于让人工智能替代一个个具体的人类工种,比如机器人厨师、机器人保姆之类的。而关于LaMDA的争议则集中在机器人与人脑的比较关系上,也就是机器人在多大程度上已经实现了人脑的功能。

总的来说,这件事是难得的社会舆论在大公司与个体的公开矛盾之间选择站在大公司那边的案例。无论是业界资深专家还是普通吃瓜群众都对Lemoine的论调嗤之以鼻,也都认可Google公司对于他的停职。确实,对于今天的机器人来说,无论它能输出多么类人的语言风格与内容,理智告诉我们这些都不过是它们深度学习人类语言的结果。换言之,机器自身并不知道它在谈论什么,它所输出的反应不具有任何主观的个人目的。在这个意义上,它与我们传统所认为的意识具有天壤之别。也许只有出现了《2001太空漫游》里那样会主动欺骗人类的机器人,我们才能认可机器人的意识。在此之前,它都只是机器,而不是人。

然而,在此之前,让我们也不妨考察一下谎言的产生。儿童刚学会说话时是不会说谎的,直到后来,每一个儿童都经历了从只说真话到选择性地说假话的过程。当第一句谎言说出口之时,儿童意识到了自我的存在,而谎言——无论是为了捉弄大人还是为了真切的利益——都成了为主体服务的工具。当然心理学上还可以有其他方法判断儿童自我认同的产生远早于说谎,但学会说谎无疑是最有力的证据。儿童的自我认同应该不是后天教育的结果,而是一个渐进的过程。看到镜子里的自己,儿童也许有了自我认同的萌芽;而到了开始说谎的阶段,自我认同就得到了最终的确认。

因此,我们如果把机器人类比为儿童的话,它也许是语言能力超强而心智尚未发育的一个状态。儿童的发育因为有着基因在起作用,我们可以预测它终将进入自我认同的说谎状态。而机器人缺乏了这样的基因编码,那我们需要把它放到物种进化的漫长历史中去比较。人类并非唯一会说谎的物种,诸多高低不一的动物都有着类似说谎或者欺骗的捕猎技能。但低级动物的这些技能与其说是自我意识的产物,不如说是基因遗传的天性——说谎是高级动物独有的特质。如果进化论为真的话,那么从不会说谎向会说谎演变,从低级自我认同走向高级自我认同,就是明显的物种进化的趋势。而当下的机器人各条进入“野蛮进化”是否处在这样的演化进程中?如果是的话,又是处于什么阶段?这是令所有人关心的问题。

即便是再不认同Lemoine的人们多少也会承认,机器迟早会进入拥有自我意识的阶段,这在AI智能迅猛发展的今天是个不可阻挡的趋势。然而,当我们在基因工程方面如此小心翼翼,对基因编辑与基因克隆如此讳莫如深,另一方面却为何对人工智能如此乐观如此放任?这多少有点矛盾。抑或是我们的立法者对于AI的发展其实并不乐观,认为现在立法还为时过早?总之,在人工智能的发展上,已没有退路,但每进一步都可能随时捅破那一层叫做“意识”的窗户纸。那时我们将庆祝——还是恐惧,机器人这个全新物种的诞生?

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.