旧金山观察：人类将未来交给 AI，即使在最乐观的设想里自主权都所剩无几

据深潮 TechFlow发布，作者：Ruxandra Teslo 编译：深潮 TechFlow 深潮导读： 当人工智能的研发前沿在旧金山以惊人的加速度狂飙突进，技术奇点、递归自我改进与超级智能（ASI）的到来似乎已从科幻推演变成了实验室工程师们口中近在咫尺的既定日程。然而在这片狂热的震源地，一种奇特而致命的宿命论正在从业者之间悄然蔓延。 在这场关乎文明未来的博弈中，不仅存在令人胆寒的灭绝恐慌，更涌现出一种被美化为最佳出路的“移交主义”：即认定人类注定无法掌控终极智能，理应放弃主权与劳动价值，退居为机器神祇抚育的附庸。 作者从托克维尔、阿伦特与波普尔的思想脉络出发，尖锐拆解了这种将文明主权永久让渡给机器的乌托邦幻象，直言在历史的关键十字路口，我们绝不应轻易交出属于人类的未来与自由意志。 “这并非我最期待的结果，”一位在头部 AI 实验室从事前沿模型研发的工程师告诉我，“但一旦我们实现了超级智能，既然在现阶段已经无法阻挡，我实在看不出人类未来还能有其他出路。” 他口中所指的结果，是人类永久丧失自我掌控的权力，我们将共同受制于一位（但愿是仁慈博爱的）AI 神祇的绝对统治。 令人震惊的是，他在谈及这一宏大命题时显得异乎寻常的平静与随意，那种语气就像是在平淡陈述潮汐涨落一般自然。 稍作停顿后，他又补充道：“不过，这总比我真正最恐惧的结果要好得多，因为我最担心的其实是我们全人类都会走向毁灭。” 这番话之所以极具冲击力，是因为它绝非出自边缘的末日论者或天然抗拒技术的怀疑论者。相反，它恰恰来自正在一线亲手打造这套系统的大厂核心开发者。 他的言语间充斥着宿命般的顺从，仿佛“人类究竟还有何用处”这一存在主义终极问题，早已在其他地方被其他人盖棺定论。摆在我们眼前的，似乎只剩下坐以待毙，静候既定命运降临。 我搬到旧金山仅仅三周。按这里的普遍共识，当下正处于技术奇点全面爆发的前夜。在这短短时间内，我已真切意识到这种思维方式在圈内绝非孤例：事实上，将人类的终极控制权拱手让给一个仁慈的超级智能，已被许多人视作不可多得的较好结局。 之所以需要警惕，是因为呼啸而至的奇点正在展现出无比逼真的现实质感。其最关键的分水岭在于“递归自我改进”（RSI）的前景：AI 系统开始学会自我迭代与进化，下一代系统孕育出更强大的系统，直至彻底演化为超出人类掌控极限的超级智能。 在旧金山的诸多社交圈子里，人们谈论 RSI 的口吻，仿佛它距离我们仅仅剩下几个月的时间。甚至有人认为会更短。在这般节奏下，一个人甚至都来不及给自己的公寓挑选一套合适的家具。 按照常理，当我们依然对技术演进方向保有一定决定权时，理应清晰勾勒出我们究竟希望这些机器为人类文明服务的目标。既然开发者自身都在反复警告物种灭绝的极端风险，人们自然有理由期待一份更加清晰美好的远景承诺。 最悲观的极端图景早已人尽皆知：全人类或极大部分人口走向灭顶之灾。但在我看来，即便在那些号称最乐观的设想中，所能提供给普通人的宽慰也同样少得可怜。 其中一种广受推崇、表面上极具乐观主义色彩的设想被称为“移交主义”（Handover）：人类自愿将未来的主导权禅让给神祇一般的超级 AI，从此安居于一个不再由自己决定航向的舒适避难所中。 在这样的未来图景里，民主的实质意涵将彻底瓦解，绝大多数人类在面对这种制度性确立时，甚至从未有过表达同意的机会。 人类劳动被永久替代在这里被视作既成事实。然而，对于人类究竟如何继续在彼此之间发挥价值与意义，却没有给出任何令人信服的解答。甚至连人与人之间的真实关系也变得飘摇不定。 我不知道移交主义的愿景最终是否会成为现实。身处技术研发一线的造物者们认为它切实可行甚至。