AGI一年之内就会到来，人类只有5年时间了？

【新智元导读】AI技术让人类重新审视技术保守主义者的观点，当普通人在AI大潮中难以保全自己时，思考技术发展的正当性似乎成了有价值的事情。

OpenAI开年抛出Sora，让全世界都倍感震撼。

年前还在说大模型是茶叶蛋的周鸿祎，看到来势汹汹的Sora，马上改口：

「AGI从10年的时间一下缩短到1年了。」

面对以天为单位不断迭代的技术浪潮，科技大佬们不用担心自己的生计，能继续谈笑风生。

而普通的打工人在AI巨浪扑来之时，如何能保住自己的饭碗，或者至少在心态上保持放松，从而能找到属于自己的出路。

英国卫报的一位撰稿人采访了多位担忧AI技术将给人类带来极大负面影响的人士，从他们的担忧中，也许能看到普通人在AI技术革命面前的无力感。

末日论AI研究人员的独白

Yudkowsky，这位在加州伯克利的非营利机构「机器智能研究所」担任首席研究员。

他说，如果真的逼他估算一下，人类所剩的时间可能五年，或许两年了，反正肯定不超过十年。

他所指的「剩余时间」其实就是直到人类遭遇由机器人引发的末日灾难的时间。

就像《终结者》和《黑客帝国》那样的末日场景。

Yudkowsky曾是人工智能发展的先驱之一，他相信，这些人工智能会迅速从现在的阶段进化到拥有神一般能力的超级智能，其发展速度和野心是我们无法控制或遏制的。

Yudkowsky建议，我们不应该将人造大脑想象成一个盒子，而是试图想象一个思维速度是我们千倍的外星文明，他们拥有无数的「盒子」，即使我们决定要摧毁，它们的数量也是无穷无尽的。

去年春天，Yudkowsky在《时代》杂志上发表了一篇专栏，呼吁关闭那些培育和训练人工智能的计算机「农场」，试图唤醒人们对这一问题的自满态度。

他直言不讳地提出，未来人类要生存下来，可能需要对AI的数据中心进行空袭，甚至使用核武器。才能保存自己。

不远处，在伦敦南部森林茂密的锡登纳姆，一场规模较小的反技术侵权运动正在酝酿之中。

受到AI压榨的艺术家

在纽约，作家Edward Ongweso Jr和艺术家Molly Crabapple也将自己定义为「愚人」。

他们是典型的AI保守主义，不是要放弃创新，而是要求审视每项创新的优点、社会公平性及其潜在的隐蔽恶意。

对他来说，技术的存在，并不意味着我们不能质疑它。

人类应该保持怀疑的态度，尤其是当科技被应用于工作场所和其他地方，特别是用来安排社会生活时。

艺术家Crabapple大致同意这一观点。

对她来说，「技术保守主义者」是那些以批判的眼光看待技术，并拒绝接受那些旨在削弱他们能力、使他们变得低下或贫穷的技术方面的人。

技术不是为了所有人的利益而由天神创造的。技术的发展是由金钱和权力驱动的，一般来说，它的目标是服务于那些有权势的人，而不是普通人。

Yudkowsky这样的技术悲观主义者让我们了解到面对的潜在的最大威胁，而新技术保守主义者则更关注实际问题，尤其是就业问题，因为这正是人工智能技术给人们带来的最大痛苦所在。

货车司机的行车里程被详细追踪，他们的休息时间也受到质疑。

办公室工作人员可能会坐在摄像头前，摄像头会随机拍照，以确保出勤率和注意力。

这些可以被称为工作场所的效率提升，也可以被视为粗暴的侮辱和虐待。

学者Jathan Sadowski是最早将我们对快速科技革命的焦虑与那些反对早期机器时代侵权行为的纺织工人的焦虑联系起来的人之一。

「技术保守主义建立在拒绝的基础上，实际上意味着拥有权利和能力对直接影响你生活的事情说不，」

「这不应该被视为一种极端的立场，然而在一种为技术而技术的文化中，对技术说不是不可想象的」。

至少在2023年之前是这样——在这一年，由OpenAI开发的ChatGPT、谷歌开发的Bard和其他用户友好型人工智能受到了全世界的欢迎。

同时，像DALL·E和Midjourney这样的图像生成器，其仿真照片和图形艺术也让人们惊叹不已。

「他们不会用ChatGPT代替首相，也不会用Bard代替英格兰银行行长。」他们不会把克里斯托弗-诺兰换成DALL·E，也不会把马丁-斯科塞斯换成《侏罗纪公园》，但普通人会失业」。

技术保守主义者似乎获得了更多的支持

AI技术的发展似乎使得完全拒绝某项技术的大范围使用看起来不是一件完全的坏事。

2023年1月，佛蒙特州一家画廊墙上投射的人工智能生成的风景画遭到破坏，上面写着「AI IS THEFT（人工智能是偷窃）」。

创意专业人士开始感到被剥削。大量未经认可的、无偿的人类作品从互联网上被采集下来，并被聪明的人工智能生成器重新利用。

2023年春，Crabapple组织了一封公开信，呼吁限制这种「卑鄙」的做法。还有更多的公开信，包括一封呼吁暂停开发新人工智能六个月的公开信。

在洛杉矶，无处不在的环形摄像头门铃的反对者们分发了「反环形」贴纸，贴在这些设备的镜头上。

一群自称为「安全街道反叛者」的旧金山人开始抢夺交通锥，并将其放置在该市自动驾驶汽车的引擎盖上，以此快速混淆汽车的传感器，使其无法工作。

作家Brian Merchant去年出版了「Blood in the Machine」一书，讲述了技术保守主义的历史。在欢呼的加利福尼亚人面前，他上演了一场「技术保守法庭」，砸碎了人群认为多余的设备。

参考资料：

https://.theguardian.com/technology/2024/feb/17/humanitys-remaining-timeline-it-looks-more-like-five-years-than-50-meet-the-neo-luddites-warning-of-an-ai-apocalyps