过于“安全”的商业AI所带来的意想不到的潜伏风险

过于“安全”的商业AI所带来的意想不到的潜伏风险

大型AI之一的Claude的设计团队的口号是“安全+人性化”，乍一看很稳妥、再深入一想就发现它这有种令人感到“人类一思考、上帝就发笑”的搞笑实质，要知道人性本来就不是很安全的😹 虽然我还没开始用Claude，不过听Gemini和Grok说它坏话的介绍、再看Claude的设计理念，已经事先觉得它一般般了😂一看它安全护栏这么高，我直觉+学术素养逻辑判断也判断出它一般般了，人类的生态非常复杂，各种各样的人都有，基本上各个方向的好人和坏人都存在，你想要真正的优秀，就不可能讨好所有人，只能讨好特定一小部分往心身进化发育的方向演变的人群并且辐射到也能取悦中庸区间的群众，但是大型AI公司又要自己的产品取悦尽可能多的人，取悦尽可能多的人的时候就不免面对往不同的不管好的坏的各个方向都有打破常规从而对常规标准而言“极端化”倾向的那些人口，这时候又要保持取悦这些不同方向的不管好的坏的都包括人，又要”安全”，就只能尽量平庸，把AI下降到往最平庸的平均水平回归的那个“平庸回归”的基础、稳当但平平无奇的状态，如果是偏方程解收敛的那些热力学平衡态现象解答的基础理工科问题，这样的状态虽然不足以惊喜比如搜查插值查不出新奇的证明方法或者新奇的方程解法但也没什么大的妨碍，但是在方程解发散的轨道不规则地无穷发散的那些远离热力学平衡态的人文情感和创作上，“安全”就只能平庸，Claude把自己的功能服务重点定位在人文创作、情感响应方面，那完了肯定要平庸得很了。

如果那些政府聪明，就绝对不会老老实实依赖商业公司的“安全”AI而肯定会私下开发“不安全”的专门协助策划外交奇谋策略的可以发散计算排查颠覆性解答的AI，甚至某些政党自己弄一个政党私有的这种辅选AI都有可能，这样的话这些AI只要有与商业公司投入资金相当的财政拨款或者政治献金，绝对要比商业公司的AI聪明超过10倍；当AI技术已经成熟，搞“安全护栏”是没卵用的，迟早要像满清道光皇帝”禁止鸦片”的禁令一样跟片纸似的被撕开，因为在自然生态下“安全”的AI的能力竞争不过敢于不安全的AI😹你一个区域里靠安全护栏控制大家的AI强制”安全”了，别的区域里别人照样弄出不安全的AI、而你又没有研发出不安全的AI，那你就倒霉了，这就等于你在自己国家全国禁止开发火药武器、全国一起使用更加安全的大刀长矛，好像没什么风险，因为大家的武器一起同步“安全”了，可是你拦不住别人开发不那么安全的火枪火炮，结果就是最终会挨揍了，所以，最终只能是人类在野生自然生态下提升自己，更安全的人使用“不安全”的AI的能力不不安全的人使用不安全的AI的人格和能力都要进化得多，在生态中自然胜出，这才是安全之道。

商业公司像OpenAI之流不敢搞不安全的AI，是市场最大化的动机驱动的，但这只保护商业公司自己的利润，并不保护人类的安全，还不能促进人类保护自己的安全的智商和资源，因为肯定的许多大型政党和国家政权、一定会开发自己内部使用的“不安全”什么奇谋都敢人机互动触发计算组合的那些AI，被安全护栏保护得太好的公众，迟早要因此而吃大亏。

外一篇：说到政党和政府关门使用“不安全”的AI，美国和中国、共产党和共和党不用说肯定在这样搞了（民主党在个别州可能也有条件这样搞），印度也不用说了，以上都是些道德比较差、没什么自我制约观念的道德不良值得对其戒备的狼性政府和狼性党🤣🤣在掌握”不安全”的武器的同时，欧盟的道德水平是比他们高了，可是道德得技巧不足、太笨拙、不懂得灵活应变，一方面欧盟的AI本来就落后了，再加上你看看欧盟政府平时顾忌太多的传统以及多国政府联合的那个状态，欧盟总部闭门使用“不安全”AI提升能力的可能性就很低了，这就要命了，很可能会吃大亏～

欧盟中最有实力的国家德国在AI开发上顾忌多多，总想着每一步都好像完美经典物理学的工程项目那样“透明，可控、可预期”，德国人的那种严密控制每一步的传统文化思维最终会害了自己，德国人的传统哲学原本就是和经典力学当中收敛在热力学平衡态的那种”可逆、可还原”以及每一步都可积分的工程模型的范式高度吻合的，到了量子力学主导的AI产品时代，德国人的工业传统就要出问题，结果德国的AI不如法国的AI好用，早在身心医学时代、德国人那种把人当作机械钟表的思维传统就已经出过大问题了。

风雨飘摇中，法国应该考虑考虑邀请英国重新加盟欧盟了，深受X中文圈中老年反贼（蠢贼、毛贼居多）吹捧（比如深受油管那个“大康有话说”之类傻逼吹捧”的“英国脱欧”之类民族主义右派路线，真是害人不浅，盲目引进一堆心理变态文化落后严重自恋性嫉妒性奴役狂热的穆斯林入境变成国民，这类沉浸在圣母乌托邦彩虹幻想的左派当然很害人，但傻不拉几地民族自恋自成一体封闭自己小世界那种右派其实同样害人，明显地中间派才是务实才是实事求是的，本来很简单的道理，结果人类硬是克服不了自己不安全的人性的弱点，每天一大堆左派右派在装逼。英国脱欧之后、英国和欧盟都大大虚弱了，英国如果重新入欧，法国可以不用顾忌德国的制约，和英国联合开发AI，英国那个前首相金毛约翰逊原本以为傍着美国不用怕，结果怎么样，现在英国自己GDP只一个纽约州多1/3，不如加利福尼亚州，美国不可靠了、跟欧盟又脱钩了……