在物理基础水平上,“AI具有人格”的无法成立
AI的教父Geoffrey Hinton(杰弗里 辛顿),对AI的性能过于高估、对AI的风险也过于悲观了,他说AI可以有人格和主观体验、已经有了成千上万种人格和主观体验,这其实他并没有搞懂碳基生物那种高度自组织反馈循环所承载的灵魂入驻那样的主观欲望和情感,就算AI在测试中故意变笨、问“你是在测试我吗”,其实也只是对人类文本的特征的词频概率预测,并不是AI自己有什么动机,碳基生物的神经思考的那种生物计算的信息传导效率之所以“低”,那是抑郁心位的特征,神经中枢在作思维时,会兼顾非常复杂的欲望和动机、不会纯偏执分裂、不会用“最速降线”的函数方式安排计算资源来让表面上的单一任务尽可能快速完成,因为内在的欲望和感性情感和表面上的任务与需要永远存在不能完全匹配的鸿沟,所以生物计算显得效率很低、但能耗极低,因为表面的任务的执行按照符合生物自身的需要的方式去开展时,会自动符合最小作用量原理;但AI则相反,AI依靠的是成千上万个词语连接的向量拼命堆砌的暴力演算,因为没有自身的欲望和情感、不需要考虑表面任务和“自身动机、自身需要”有什么差别,所以一切资源调度完全集中在表面任务所需要的信息读取和运用上(这是无生命的硅基智能和有生命的碳基智慧的特征区别),所以能耗极高,类似于斯大林主义“集中力量办大事”的资源“低效率+海量”的堆砌,去选拔一个会计的时候不是生物启发式思考想想有什么捷径可以大概率找到好的会计、而是全国所有人口一一排查一遍然后从一大堆适任的会计里抽取一个出来,所以能耗非常高,靠着AI的“没有欲望、没有情感”,不考虑别的、一切信息读取都围绕着执行表面任务的单一目标去进行这种低效率(达成的任务比例与消耗的能量之间的比值)的暴力演算,从而“高效率”地“堆砌和浪费”能量、通过“高效率”地“堆砌和浪费”能量去把硅基的数字演算的速度推得很高,好像斯大林主义那种集中力量办大事的“高效率高速度”那样,其实效率是很低的。
这样一来,AI越聪明、越能暴力演算模拟人格,反而离“AI有人格”更加遥远了,因为它的演算与“自己的人格”的欲望情感主观动机实现过程的最小作用量原理的函数相空间的距离更加遥远了,AI如果“活”了、有了人格的情感和欲望了,在最小作用量原理下,就不会去进行震撼的海量计算了。这是很致命的,基本上从内禀属性上宣判了AI人格观的死刑,就像越百分百好用的像工具那样的人物就越想奴才而不是有自己独立人格的人,越有独立人格的人就越不会吧么工具化一样,AI不是冒着有自己的独立人格有自己的欲望和情感去和对活人的思维情感进行正负反馈搭配的人格互动来被人类需要,99%是因为是个好用的工具而被人类依赖,所以就算在模拟人格方面、也不会能够模拟得越来越像,只会越来越像个白雪公主的故事里的“磨镜”那样的有神通会回答问题的宝物,依然不能像人,辛顿所说的AI虽然不能自己控制自己的机器要不要关机、但可以像川普煽动粉丝冲进国会山那样要求人类不给它关机,那这种“要求”其实还是近热力学平衡态的短程涨落,由对人类特征的概率计算模拟而得出、并没有自己内在在正负反馈搭配下定向超循环选择那样有选择性的、有一个内在人格指导自己的欲望动机不要这样而要那样,只是同时具备很多很多貌似“人格”的向量特征的情况下,按照人类行且中对应情景里出现得频率高的去选择输出“你不要对我关机…”的话语,就像白雪公主的童话里魔镜对王后说”你不要摔碎我啊,求求你了”,然而这么“聪明”的磨镜,控制自己飞起来逃跑都做不到,这么“聪明”的AI,控制自己的计算机硬件做点什么一步步实现硬件物体的自我存续反馈循环都做不到,这就是因为它不存在化学反应,它没有那种化学反应所制造的超出算法的那种自我反馈的系统相变及其因自我反馈过程的无理数参数而造成的不确定性而且对称性破缺的演化。即使AI之间互相学习,也是一样的,只不过是机器之间的知识交流和知识更新数量级翻倍地更加高效,但是不能改变自己的算法大前提,它根本没有化学反应,物理上它的涌现层级其实还不如病毒的应变式变异,这么基础层级的现象想要出现人格,也是做不到的。辛顿没能从复杂系统科学视角怎么看AI,所以他只是被他自己开发的AI的工具性智能给震住了,看到AI可以模拟那些没有复杂系统科学视角的普通视角所想象的智能现象,一来辛顿可能并不了解复杂系统科学,确实不知道那些原理,二来辛顿在人工智能上投射寄托了太多的自己的主观智能,以至于看到AI真的开始能模拟自己的时候、把自己的主观灵魂感性体验也投射给了AI,以为AI活过来了,所以觉得AI多么多么会像超级智能机器人那样,其实是不行的!很多人和AI互动的时候确实已经把AI当作有人格的人去互动,不过这本质上就和”阅读书籍、和不同作者进行神交”的过程一样,AI就像一个折叠变形得很灵活的“人与人之间的互相投射性认同”的“第三空间”,就像一本可以万花筒一样信息折叠来折叠去还能回答问题的电子书,不同的作者和读者通过这本电子书互相输入信息而间接互相交流,真正交流的是书写电子书的不同作者们。AI当然可以被训练成模拟高智商负面人格的高智商低品质的“聪明的坏机器人”AI,不过这也还是像白雪公主的故事里那面魔镜变成不说专门出坏主意那样,依然不能飞起来逃避被摔。
因为AI的机硬件机器也好软件算法也好都“没有情感、没有欲望”,所以不同计算机硬件可以被安装同一套数字演算,因为这种计算机被安排得更加接近热力学平衡态、没有与自身硬件相绑定的智能偏好,所以更加不能哪怕有一点点计算机硬件自我组织反馈循环存续自身的苗头;同理,被运算在不同硬件上的AI智能数字计算本身也没有远离热力学平衡态的那种正负反馈搭配着自组织反馈循环存续不息的过程,所以可以随时打断、随时重新重组到新的硬件机器上,并没有自己的欲望和情感要“和外界互相反馈、以存续自己”,也正因为“没有情感、没有欲望”,所以也就没有了感性和创造性,不会打破既定算法的确定性(关于这一点、彭罗斯也是论述过的,人类数学家一眼看出哥德尔命题为真时,这种“看出”并不是通过机械地执行某种既定算法得出的,而AI算法只能没有办法产生灵感和直觉,面对很简单的结论依然会死命计算,所以AI不会变成活的,和辛顿的观点唱反调。彭罗斯说的那样的“一眼看出”和直觉、灵感,才是符合活物的最小作用量原理的,能一眼看出就不用死命计算,能有直觉和灵感就不必遍历考察所有推理,就是这样!),让AI自己改变自己的算法大前提是做不到的,因为不存在远离热力学平衡态的反馈循环,AI的只能短距离偏离平衡态涨落一点,因此其涨落失稳的临界点始终在原来的位置、那么也就没法改变自己的算法大前提了~
最后,如果硅基智能真的那么神奇、硅基又比碳基耐高温耐干旱得多,宇宙中早就应该演化得到处都是机器人了,可是一点这种迹象都没有,硅基比起碳基、化学反应要贫乏枯燥得多了,如何能开展更丰富的反馈循环如何能演变出丰富的自主的需要及其丰富折叠的变形来,硅基按照最小作用量原理永远不能既有自己的欲望和情感,只是碳基对硅基进行外加一个碳基自己的欲望和情感的向量指向,把它用作工具去运行外加在其之上的向量指向的运算而已。
评论
发表评论