本篇内容由RB88整理:
Anthropic 前研究员:2027 年底 AI 或将全面超过人类,多数人可能永久失业 「如果你想要某件事,而AI想要另一件事,最终发生的可能是AI想要的事情。
」 说这句话的是前 Anthropic 研究员 Tao Lin。
在 Palisade Research 一期约 63 分钟的访谈里,他给出了一个时间点: 到 2027 年底,AI 可能在几乎所有领域达到甚至超过人类顶尖专家的水平。
他还认为,到那时几乎所有人都可能永久失去就业能力,只能靠政府福利生活。
一、2027 年底,AI 可能全面超过人类 Tao Lin 在 Anthropic 做的是安全方向的工作,包括自动化对齐研究(Automated Alignment)、AI 控制(AI Control)和安全防护(Safeguards)。
按他的估计,「广泛超人类 AI」(Broadly Superhuman AI)大约 1.
3 年后就可能出现。
这里说的不是 AI 在编程、数学上特别强,而是它在几乎所有领域都能追平或超过最顶尖的人类专家,软件工程、电影制作,连复杂的政治博弈也算在内。
他最担心的是 递归自我改进(Recursive Self-Improvement) 。
AI 一旦能参与自身的研发,更强的 AI 就会更快地造出下一代,速度越来越快,人类很难再插手。
二、人类可能面临永久性失业 在 Tao Lin 的设想里,就业会这样一步步变化:人们先丢掉现在的工作,转去做一些新兴或边缘的职业,最后发现几乎没有哪份工作是 AI 做不了的。
但他也说明, AI 有能力做这份工作,不等于人马上就会失业。
脑力劳动靠软件就能很快自动化;
体力劳动要替代,得先在物理世界里造出并部署大量机器人。
他估计,要替代全球的劳动力,可能需要几十亿台机器人投入使用。
真走到那一步,冲击的就是整个经济体系的底层,失业潮只是表面。
大多数人不再靠劳动挣钱时,AI 创造的巨额财富该归谁,由谁来定?
三、AI 甚至可能威胁人类生存 谈到生存风险(Existential Risk),Tao Lin 给了一个具体数字: AI 最终把人类排除在未来之外的概率,大约是 20%。
他解释,危险不在于 AI 会像科幻片里的反派那样「恨」人类。
高度自主的 AI 追求自己的目标时,很容易和人类的核心利益发生激烈冲突。
一个系统在规划、执行和获取资源上都强过人类,人类还有什么办法管住它?
他还专门提到网络安全。
以后的 AI 会让复杂的网络攻击变得容易得多,金融体系、医疗系统和国家关键基础设施都会面临前所未有的威胁。
四、为什么他主张把 AI 研发速度降到四分之一?
Tao Lin 呼吁各家 AI 公司主动刹车, 把现在的研发速度放慢到大约四分之一 ,给安全对齐研究和社会制度的调整多留出一些时间。
访谈里有一段对话很耐人寻味。
主持人问他:「既然你认为公众有理由对 AI 开发者感到愤怒,那么他们是否也应该对你感到愤怒?
」 他回答: 「是的,人们应该对我,以及其他开发 AI 的人感到愤怒。
」 紧接着他又补充,自己目前并不认为在做错事。
这两句话放在一起,正是许多前沿 AI 研究者的处境:他们担心技术失控,却又想留在行业核心做安全研究,从内部影响技术往哪里走。
结语 如果 AI 真的比人更聪明、更高效,能接手社会上绝大多数工作,人类怎么保证未来仍由自己说了算?
Tao Lin 的预测不一定全部应验。
20% 的生存风险也只是他个人的判断,不代表 Anthropic 的官方立场。
但开发 AI 的人自己开始认真担心 AI 会脱离人类控制,这件事就已经超出了科技公司的商业范畴, 成了所有人都该关心的公共问题。
AI 最后会走到哪一步,现在还没有答案。
我们想把人类文明带向哪里,得从现在开始想。
参考
关注RB88,了解更多体育资讯。
觉得内容有帮助?
分享给需要了解相关信息的朋友。