007的忧思：人类永远恐惧科技之恶

本文来自微信公众号： 脑极体 ，作者：风辞远

提到007我们会想到什么？特工、美女、炫酷的装备、激烈的战斗、要摇匀不要搅匀的马提尼。
我是007全系列的忠实观众，但确实看到的也大体就是这些。

直到最近玩了最新的007游戏《007：初露锋芒》。
反派揭晓的时候我发现吃瓜吃到了自己行业。
剧透警告啊各位，这部游戏的反派赫然是一家AI大模型公司。

我琢磨着自己天天写AI公司，也没发现需要动用詹姆斯·邦德来打击啊？
一般来说资金链断了它们自己就会倒闭。

但这时回头看几十年来数十部007电影，却惊觉原来在特工的风花雪月故事之下，一直有一个鲜明的母题：科技之恶。

甚至可以这样说，每次一有新科技出来，都一定会在007里扮演一回反派。
我想聊聊这种忧思，以及其背后的逻辑机制和群体性心理。

如果光看007炫酷的外表与风流的故事，我们很容易忽略这其实是一个标准的科技悲观主义故事。

《007》系列的原著作者伊恩·弗莱明，曾经在二战时期亲自参与情报工作，见证了V-2火箭的恐怖威力，感受过德美之间的核武器角逐。
由此种下了对未知科技深深的忧虑与恐惧，并将这一母题带到此后的几乎每一篇007故事当中，进而也被电影和游戏吸收消化。

007对科技之恶的**重想象，就是冷战时期笼罩全球的原子能梦魇。
在原著《太空城》里，反派是英国的核武器专家，但包藏祸心准备将核弹射向伦敦。
在电影《金手指》里，反派准备用核武器攻击诺克斯堡的黄金储备，从而让全球金融体系崩溃。
这些对核武器的恐惧，与20世纪50、60年代冷战背景下的核军备竞赛紧密相关。
当时包括英国在内的全球主要国家，都宣传过如何面对核威胁，应对导弹突袭等内容。
这种紧张气氛渗透到社会文化中，形成了一种对核子技术的深层恐惧。

随着冷战疑云的散去，核恐惧的意味也逐渐降低。
但对科技作恶的想象已经根植到007为代表的大众流行文化深处。
70、80年代，接力核恐惧的是基因恐慌。
克隆、基因编辑、人类改造等话题崛起，重新唤醒了人们对科学怪人的恐怖记忆。
在《雷霆杀机》里，反派是一个纳粹基因实验的受害者。
他因此获得了超高智商与变态的性格，准备通过制造一场大地震来摧毁硅谷，从而让自己的公司垄断芯片市场。
而这些怪诞的阴谋，似乎都来自不受控制的基因改造。
对科技之恶的**猜想，从人类会不会炸穿地球，变成了人类会不会亲手培育怪物。

到了90年代，事情又发生了变化。
互联网崛起，全球化经济浪潮袭来。
007里的反派们也逐渐脱离纳粹身份。
毕竟二战已经过去几十年，纳粹总是不老不死也不太像话。
新反派们大多是资本家，他们一手掌握互联网话语权，一手是巨额财富，还总是止不住地要给人类文明使点坏心眼。
比如《明日帝国》里有句**台词“话语是新的武器，卫星是新的大炮”。
这部电影里的反派是传媒大亨，他利用卫星篡改GPS信号、制造假新闻，挑动国家开战，居然只是为了换取更高的收视率，从而达成媒体垄断。
可见做媒体的谁还没有个流量焦虑呢。

战后恐惧原子能与核武器，70年代恐惧基因编辑与人体改造，90年代恐惧互联网与全球化传媒。
007在几十年间一遍又一遍地审判、怀疑这点人类科技硕果。

那么到21世纪情况好起来了吗？
并没有，因为AI来了。

AI时代007的科技恐怖故事要怎么写？
《007：初露锋芒》里搞了一个让我大开眼界的答案。

在这部作品里，我们随处可见由量子计算机、无人机、人形机器人、硕大服务器串联起来的科技奇观。
这些冰冷巨大的科技物象之下，整个故事对科技之恶的怀疑角度更是令人咋舌。

怎么个事呢？
话说全球知名新能源科技巨头韦伯家族，斥巨资研发了一个AI大模型THEIA。
咱也不知道现实里有哪个AI公司还同时做新能源，反正这家就是这么做的。
韦伯家族把自己的大模型推销给了军情六处，说是能用它预测全世界各地可能爆发的威胁，比如哪里有恐怖袭击，哪里有非法交易等。
特工们只需要按照大模型的分析预测行动，可以做到百发百中，算无遗策。

但实际上AI哪里有那么准？
军情六处的大傻子们居然不知道世界上有种东西叫作大模型幻觉。
这个THEIA其实是经常预测不准的，很多所谓空袭、谋杀的预测都是它瞎编的。
一般遇见这种情况，AI公司都是选择重新训练模型，推出准确率更高的版本，但韦伯科技的脑回路不是这样的。
也可能是因为他们卖给英国政府的是个本地部署模型，签合同时，政府采购为了压价拒绝了后续的模型升级服务。

总之，韦伯科技的选择是在物理世界手动修复AI幻觉。
比如THEIA预测哪里有恐怖袭击，但其实根本没有。
老韦伯就派自己的儿子去那里制造恐怖袭击；THEIA预测哪个人被谋杀，但到日子了人家活得好好的，老韦伯就让自己儿子去谋杀TA。
可谓是为了AI的准确率，上演了一出父慈子孝的人间喜剧。

韦伯家族的**野心是，让算无遗策的自家大模型被全世界接受，部署到全球各个能源中枢、军事基地、民生基础设施当中。
他们认为人类不可信，最终所有权力都应该交给AI。
而为了实现这个**理想，他们愿意为自己研发的不靠谱AI搞到血流成河。

很难想象脑回路清奇成这样的人类，是怎么在竞争激烈的科技产业站稳脚跟的。
但这个故事确实展示了当前很多人对AI的根本性怀疑：AI告诉我的东西，如果是错的呢？
如果AI背后的人故意告诉我错误答案呢？
当AI能力越强，这种怀疑与阴谋论就会愈发沉重，变成无解的死循环。

这就指向了007对科技的基本态度：技术可能无罪，但谁也说不准手握技术的人心里藏着多大的恶意。

AI公司为了维持模型准确率，干脆兼职当恐怖分子。
这个故事放在科幻电影里都能算是很无厘头的设定。
但它却展示了一个007系列惯用的逻辑推演：我看不见手握技术的人，我不信任他们的善良。

事实上，007并不反对技术。
至少这个系列里非常喜欢通过Q博士的各种奇特发明来获得关注。
但他信任的是具体、微小、无伤大雅的炫酷技艺，不是威能大到可以影响公众安全，支配群体话语的技术集权。
换言之，007是低技术的爱好者，同时是高技术的疑心病人。

007的信条是，当科技的能力足够强，那么持有科技的具体的人，就绝对不值得任何信任。

这些人可以是企业家、资本家、政府机构的技术研究者，以及有权力使用技术的官僚。
他们掌握技术往往会经历三个阶段：
**阶段，见证技术的可怕性，开始相信技术即权力；
第二阶段，认为技术权力即自身权力的一部分，开始笃信享有技术权力的自己高人一等，凌驾于众生之上；
第三阶段，道德理性和人文主义彻底溃散，认为自己可以颠覆秩序，重塑世界。
甚至自身有义务去这样做，于是也就走向了反人类的极端化立场。

所有掌握了技术密码的人类，似乎不可避免都会步入这样的循环。

这只是007以及诸多类似作品的极端化推演。
但这种类似囚徒困境的博弈，却在现代社会一次次带来科技恐慌。
直到这种恐慌情绪变成电影票房，也变成互联网上无休无止的口水仗。

我们该警惕科技，恐惧AI吗？
从某种程度上来说是的，AI确实正在愈发体现出集权的一面。
Anthropic诡异如邪教，马斯克的狂言狂语令人窒息。
十年前就有很多人呼吁禁止将AI用在军事上，它现在已经赤裸裸地军用了。
很多声音都在提醒小心AI诈骗，但AI诈骗正越来越多，如野火燎原。

我们自然有理由担心AI变成某些狂人的无上权力，惧怕“每个人都觉得没事，于是出事了”的局面出现。

但另一方面，007的科技恐慌言论从来没有成功。
拉低世界平均水准的有很多东西，但唯独没有科技。
从核技术到基因技术，再到互联网、AI、新能源，世界在科技的飞驰下越来越好，甚至很多时候是科技这一个好东西，在跟诸多坏东西抵死对抗。

另一个问题在于，很多时候警惕科技之恶，真不是就差“就差我一个”，而是“也不多我一个”。
当我们的警惕超过合理界限，带来的就不是对科技的有效监管，而是给反复提醒我们科技作恶的人送上的流量与钞票。

确实要警惕科技之恶，但也要警惕过度焦虑。
当007故事只能用如此清奇的角度来编制AI公司的反派故事时，或许在某种程度上说明一切还都是乐观的。
至少编剧们没什么AI能毁灭世界的真实生活。

即使我们提供无穷无尽的担忧，科技树也会生长。
我们要当心这棵树绞住房屋，但也不妨在树下略微乘凉。