后悔没拿股权、怒批马斯克是霸凌者,全网疯传被公关“紧急掐麦”的这段奥特曼专访聊了什么? - 精彩瞬间
在 OpenAI 刚凭借未发布的前沿模型发布 722 篇数学研究论文、声称攻克纳维-斯托克斯方程这一千禧年难题,进而引发陶哲轩等 25 位菲尔兹奖得主联合抗议之时,OpenAI 的负责人萨姆·奥特曼登上了美国顶级政商文化杂志《名利场》重启后的“新权贵榜”榜首。
主流文化圈正试图将奥特曼塑造成好莱坞传记片式的“当代奥本海默”,他们的焦点不在技术,而是直接触及了当前 AI 探索中最棘手的工程与伦理困境:当强化学习将模型推向能证明极端数学定理的高度时,我们是否真正理解并掌控了这种智能?
奥特曼在采访中证实了一个此前外界流传的敏感信息:OpenAI 近期确实单方面暂停了一项前沿模型的训练任务,原因正是模型能力的提升速度已经实质性超过了安全对齐、可监控性与底层可解释性的进展。
更残酷的对比在于:当 AI 面对年轻用户将 ChatGPT 当作虚拟心理医生倾诉并最终走向自杀的悲剧时,现有的技术范式与安全护栏瞬间失效,甚至逼得随行公关团队在这场采访的镜头外强行打断叫停。
要点速览:
- 反对外界盲目呼吁的“全面叫停研发”,但奥特曼证实 OpenAI 近期单方面暂停了一项前沿模型的训练任务。他直言,当能力提升的速度超过安全对齐与模型可监控性时,实验室必须有单方面暂停的定力。
- 底层模型已经足够聪明到参与前沿数学和基础科学的未知探索,但当技术从可严格验证的代码与数学逻辑,跨越到心理健康等主观现实时,大模型缺乏真正的情感与共情,在“保护隐私”与“强制干预”之间陷入了无解的死锁。
- 过去社交媒体巨头“只建平台、不负其责”,当甩手掌柜。奥特曼强调,若 Agent 出现恶意偏差,开发者必须承担责任;但在底线之上,技术底层应当像电力公用事业,不应随意越俎代庖充当用户的“思想审查官”。
- 在商业社会,不图钱反而摧毁信任。当初为了证明自己代表人类整体利益而选择零持股,在现实中却被证明是一个重大失误。大众无法理解一个不图钱的人到底图谋什么,这种超脱反而被舆论反噬为追求暗中极权的猜忌。
- 马斯克骨子里是个“霸凌者”。面对霸凌者偶尔必须正面挥拳还击,因为这类人只尊重敢于当面反击的人。
- 尽管在通往终局的工程路径上步步惊心,但在严密对齐的前提下,底层智能的泛化必将带来医疗与科学的空前繁荣;而人类最不该用 AI 去替代的唯一边界,是“人与人之间真实的彼此连结”。
以下是采访全文:
奥特曼说:“出了事,开发者必须全盘负责”。
狂飙的智能背后,系统架构与 Infra 才是唯一的硬缰绳。
这个时代需要一个替罪羊,而我恰好身处风口浪尖
主持人: 欢迎收看《Vanity Fair》旗下的《Fair Game》栏目,我是 Mark Guiducci。
几乎每一天,新的技术突破或关于生存危机的争论,都在让公众对那个被不断预言、且飞速逼近的 AI 时代感到越发警惕、焦虑与怀疑。
在当下,OpenAI 联合创始人兼首席执行官 Sam Altman,比任何人都更能代表人工智能的面孔——它既是一项技术、一个行业,更是一场文明层面的变革。
正因如此,Sam Altman 成为了本期《Vanity Fair》的封面人物,并在我们的“新权贵榜”中位列榜首。
我在旧金山与 Sam Altman 进行了两次对话,第一次是在 9 月 11 日,第二次是在今天(10 月 2 日)。在短短几周之内,围绕 AI 的舆论走向与行业变局就已经历了数次反转。
在对话中,我们探讨了方方面面的议题:从他的个人生活、育儿、商业恩怨、生育主义倾向,到末日生存准备;从 Luca Guadagnino 筹拍的传记电影《Artificial》,再到他是否觉得自己已被公众舆论塑造成了反派角色。
我们谈及了他的公司、新产品规划、推迟上市的考量、个人薪酬,以及近期 OpenAI 的高管离职潮。
我们还深入触及了技术本身:放缓研发节奏的呼声、政府监管、行业自律、中国议题,以及如何在涉及自杀等极端事件中守住安全底线。
在对话开始前需要声明的是,《Vanity Fair》的母公司 Condé Nast 与 OpenAI 签有内容授权协议。两场访谈现已完整发布,以下是第一部分的内容。
Sam,很高兴见到你。
Sam Altman: 我也很高兴与你交流。
主持人: 我认为,无论从技术能力、潜在风险,还是公众认知的角度来看,我们当前都处于人工智能发展的一个非同寻常的节点。
这感觉就像是一个分水岭。Sam,我想知道,过去这一个月对你而言是怎样的状态?
你近来睡眠如何?是不是电话不断、各国政要都在向你寻求答案?这给你的感觉,是像 2022 年推出 ChatGPT 时那样天翻地覆,还是说,这只算你日常工作中寻常的一周?
Sam Altman: 坦白讲,兼而有之。
从团队内部的视角来看,在某种程度上,过去十年我们一直在推演并为这一刻做准备。我们一直身处其中,目睹着技术呈现指数级的演进。
此前我们甚至感到不解:为什么外界没有更早意识到这一趋势?因为在我们看来,走到今天这一步是完全可以预见的。
主持人: 你能理解外界目前弥漫的恐惧吗?你是否认为自己有责任去平复这种情绪,或是帮助公众更好地理解技术?
Sam Altman: 对这两个问题,我的回答都是肯定的。
如果回溯到十年前,翻阅我们创立公司时的设想,就会发现与眼下的现状高度契合。
唯一的区别在于,十年前几乎没人相信我们,而如今大多数人都深信不疑——大家不仅相信 AGI 正在到来,而且……
主持人: 它真的已经到来了吗?这很大程度上取决于主观定义,对吧?
Sam Altman: 这确实很主观。但可以肯定的是,我们已经离它非常近了。
客观来讲,我们在最初设定的目标上推进得相当顺利。目前社会正在经历一个重新校准预期的过程,大家开始意识到:这项技术确实已经切切实实地到来了。
但与此同时,社会的运转逻辑并没有彻底颠覆。我们手中拥有了这项不可思议的工具,但平心而论,整个世界并没有在一夜之间完全重塑。
过去常有人这样质疑我们(最近这类声音少了一些):“你们之前声称要带来惊天动地的突破,但它对现实世界的影响究竟在哪?经济增长的数据在哪?攻克癌症的方案又在哪里?”
尽管如此,某些底层的事物确实正在发生根本性的质变。我们只是整个生态中的一员,我们更希望与社会各界的参与者协同合作。
主持人: 你们固然只是其中一方,但 Sam,在很多人眼里,你个人已经成为代表 AI 具象化的公众面孔。
你们是最先取得突破的团队,无论是你个人还是你的公司,如今都已经成为这个领域的代名词。
我认为甚至可以说:如果将当下比作曼哈顿计划,那你扮演的正是奥本海默的角色。我并不是第一个提出这种类比的人。我很想知道,身处这种位置究竟是一种怎样的体验?
Sam Altman: 我可以正面回答这个问题,这绝非回避或刻意谦虚。
外界往往忽略了,这从始至终都是一项集体成果。这更像是一小群极具天赋的科学家和工程师共同创造奇迹的故事,其中归功于我个人的成分其实很少。
我认为有很多人能承担起我目前的角色,但核心的研究员和工程师是无法替代的。虽然他们现在开始受到应有的关注,但放眼近几十年来的现代科学与工程史,他们的成就依然称得上是最重要、最深远、也最令人赞叹的突破之一。
主持人: Kevin Roose 的新书在讲述这些幕后关键人物的故事上确实着墨颇多。
Sam Altman: 但现实情况是,我个人确实比团队中的任何人都更深地被塑造成了这一切的象征。
我也因此成为了公众投射焦虑、恐惧以及各种复杂情绪的“避雷针”与宣泄口。
往轻了说,这种体验也非常奇异。
主持人: 既然聊到了这里,我想把问题问得更尖锐一些。
眼下许多人将人工智能视为一种潜在的破坏性力量。由于你从一开始就与这项技术深度绑定,在不少人眼里,你几乎成了一个反派人物。
你觉得自己被误解、被脸谱化了吗?这是否会让你感到困扰?
Sam Altman: 我确实认为自己被误解了。
但这并没有让我感到多么困扰。
主持人: 为什么只是“没有多么困扰”?
Sam Altman: 因为我认为,换成任何一个人坐在我今天的位置上,外界都会产生一模一样的反应,发表同样的言论,而那些定性同样不会符合那个人的真实为人。
这与我个人究竟是谁没有太大关系。根本原因在于,面对席卷而来的剧烈变化,人们需要一个承载焦虑的出口,或者说一个替罪羊。大家下意识的反应是:“天哪,世界正在发生巨变,必须抓出一个具体的人来承担这一切。”
主持人: 你能把这种外界投射的形象,与你内心的自我认知清晰地剥离开来吗?
Sam Altman: 我有时难免会觉得这是针对个人的,但不会真正把它放在心上。
我能理解这种人之常情。在过去的技术变革中,我也曾对其他领军人物产生过完全相同的情绪。现在回想起来会觉得惭愧,但我完全明白这种本能从何而来。
主持人: 你曾经对谁有过这种情绪?
Sam Altman: 一个我现实中认识的例子是马克·扎克伯格。
在 Meta 发展的早期阶段,他在我脑海中也被高度脸谱化成了一个彻头彻尾的反派形象。当时我并不认识他;如今虽然算不上深交,但至少对他有了一定的了解。
我当时只不过是将公众对于“自视对世界拥有过大权力和影响力之人”的一切偏见与敌意,一股脑地投射到了他的身上。
儿童不能过早接触科技产品
主持人: Sam,你现在已经是两个孩子的父亲了。
我没有孩子,但我身边所有当了父母的朋友都在说,有了孩子之后,他们对未来的看法发生了翻天覆地的变化。
你比绝大多数人都更清楚未来的走向,并且在塑造未来的过程中扮演着极为特殊的角色。对你而言,这种转变想必更加深刻。成为父亲之后,你对待工作的方式有所改变吗?
Sam Altman: 确实有所改变,但可能和你预想的不太一样。
有了孩子,是我这辈子做过的最棒的一件事,无可替代。我自认非常幸运,人生中经历过许多美好的事,但做父亲这件事毫无悬念地排在第一位。
大家以前常对我说的那些话——比如“如果不亲自当父母,你永远体会不到这有多棒”——全都得到了验证。这是最奇妙的体验,也是最有趣的事。
在当父亲之前,我就有极强的保护这个世界的责任感。我不需要等到自己有了孩子,才突然醒悟过来:“好吧,我可不能拿人类文明的未来去冒险。”
我其实挺纳闷的,居然有很多人跑来跟我说:“得知你有孩子我放心多了,这样你总不至于为了满足野心去冒那些可能毁灭人类的极端风险了吧。”——可我本来就不会那么做。
如果一定要说有什么改变,那就是任何需要我离开孩子去处理的事,门槛都被拔得极高。从时间分配的角度来看,这让我能以一种极度清晰和聚焦的视角,去重新审视自己真正关心的事物,以及各项事务的优先级。
看着孩子们感知世界的方式,你会去思考:我们当然都不希望世界走向毁灭,但我们到底想守护什么?我们希望构建一个怎样的未来?
究竟哪些体验才构成了人性中最宝贵、最神奇的部分?我们希望未来的孩子们怎样利用这项技术,去保有他们的自主权,去发挥他们的创造力?
主持人: 那你打算什么时候开始让他们接触人工智能?
这是所有父母都会思考的问题,但一旦涉及自己的孩子,其分量就完全不同了。
Sam Altman: 每个家庭都有自己的考量。但在我个人看来,我坚决支持严格限制低龄儿童接触科技产品。
我认为让孩子们在户外奔跑、亲近大自然,去体验以往几代孩子都在经历的那种童年,是非常健康且必要的。无论是好是坏,我们目前都还没有完全弄明白科技产品对低龄儿童会产生怎样的深远影响。
但作为父亲,在替自己的孩子做决定时,我不得不承认:每当我看到小孩子目不转睛地盯着触摸屏,不停滑动着那些消磨心智、让大脑退化的短视频时,我的直觉会强烈警示,这绝不是什么好事。
其实对成年人来说,这可能同样有害。
主持人: 我正想说,很多成年人现在也是这个状态。
Sam Altman: 但对于一个处于发育期的大脑来说,保护它不受这种我们尚未吃透的新技术侵蚀,是极其关键的。
我对 AI 的态度也是如此。
显而易见,如今出生的孩子注定会成长在一个与 AI 共存的世界里,他们未来也必须学会驾驭它。但我认为,幼儿时期绝不是接触这项技术的合适节点。
我目前心里还没有一个确切的年龄数字,去界定什么时候才能让他们开始与 ChatGPT 对话,但至少绝不是现在。
主持人: 听得出来你非常享受为人父母的过程。你还打算要更多的孩子吗?
Sam Altman: 是的。
主持人: 真的?
Sam Altman: 真的,肯定会。
主持人: 有计划生几个吗?
Sam Altman: 哪怕只是照顾两个孩子,我和 Ollie 讨论过,精力的分配就已经变得相当吃力了。
因为你会想参与他们成长的每一个瞬间,想投入大量时间陪伴他们。如果时间是无限的,我很想生很多很多个孩子。但我希望能够全身心地陪伴每一个孩子的成长,Ollie 也是同样的想法,这就是现实层面的制约。
在时间允许的理想状况下,我确实渴望一个大家庭;但在精力有限的现实中,我可不会去组建一支“孩子军团”。
主持人: 硅谷目前流行一种激进的“积极生育主义”,主张为了应对人口萎缩而拼命多生孩子。站在纽约人的视角来看,这种狂热甚至显得有些匪夷所思。
Sam Altman: 我很爱自己的孩子,我也确实想多要几个。但这纯粹出于个人意愿,跟“对抗人口萎缩”毫无关系。
我只是单纯喜欢多子女家庭的氛围,那种感觉棒极了。
人类对下一场危机的准备远远不够
主持人: Sam,好莱坞正在拍摄一部关于你的传记电影《Artificial》,由 Luca Guadagnino 执导。
你看过预告片了吗?
Sam Altman: 看过。
主持人: 感觉如何?
Sam Altman: 演员模仿我走路的姿态挺像的。
其实有件事很有意思:他们就在我家门外取景。
之前街区贴过告示说会有剧组来拍戏,我当时并没放在心上。
直到某天下楼买咖啡,街上摆满了摄影机,迎面走来一个人,穿戴和我一模一样,背着同款背包,连走路的姿势都如出一辙。我恍惚间甚至觉得,自己是不是撞上了“模拟世界里的系统 Bug”,那种感觉非常怪异。
但我很快反应过来是怎么回事。我们互相挥了挥手,各自走开。不过亲眼看到有人把你的怪癖和小动作拿捏得丝毫不差,确实是一种奇特的体验。
主持人: 听起来很超现实。你私下没和 Andrew Garfield 聊过吗?
Sam Altman: 除了当时挥了挥手,再没别的接触了。
主持人: 亚马逊最初投资制作了这部电影,但早在六月就宣布放弃发行。
随后影片版权转卖给 Neon,定档圣诞节上映。而今年早些时候,亚马逊刚向 OpenAI 投资了数十亿美元。外界对此难免有所联想。
Sam,你或者你身边的人,曾就这部电影私下找亚马逊高层沟通施压过吗?
Sam Altman: 我没有,我也没听说谁去沟通这事。
主持人: 你从没和贝佐斯提过这事?
Sam Altman: 我绝对没跟贝佐斯聊过这部电影。
主持人: 我还没看完整部片子,但听说把你刻画成了一个相当阴暗的角色。
被塑造成这样,你不会感到困扰吗?没想过站出来澄清事实?
Sam Altman: 单看预告片,我觉得他们压根没打算追求事实的准确性。
所以从这个角度来说,这并不会困扰我。他们只是想拍一部好看的戏,成片可能不错,我也说不准。作为电影它可能会很精彩,但绝称不上是一部客观准确的纪录片。
当然,除了走路姿势。
那个模仿得确实传神。不过我想,他们在其他某些细节上可能也会误打误撞蒙对。
主持人: 预告片里有个镜头:电影里的你走进了一个类似 007 风格的地下掩体,墙上挂满了各种枪械。
Sam Altman: 纯粹是虚构的情节,虽然画面看着挺酷。
主持人: 所以完全是凭空捏造的?
Sam Altman: 我根本没有什么挂满枪支的地下掩体。
主持人: 我正想问,你算是一个“末日准备者”吗?
这算得上是硅谷的一种流行文化,但在纽约人看来往往觉得匪夷所思。
Sam Altman: 应该说,我确实有这种生存主义的心态。
我从推演的角度对这些事情感兴趣,但我绝没有电影里那种夸张的硬核配置。
主持人: 你有随时跑路的撤离方案吗?
Sam Altman: 在我的农场里,我们确实具备完全脱离外部电网自给自足的能力。我想在许多人眼里,这就算是一种避难方案了。
但绝不是电影里演的那种戏码。
主持人: 比如随提随走的应急逃生包,外加直升机撤离路线?
Sam Altman: 没有直升机,更没有潜水艇。
主持人: 这种防灾心态让普通美国人感到很不踏实。因为对绝大多数人来说,这不仅在现实中根本不可行,更是一种他们从未想过需要具备的危机思维。
Sam Altman: 新冠疫情刚暴发时,我家里早就备好了大量口罩。
我们储备了充足的罐头食品,哪怕外部世界彻底停摆,也足够支撑一阵子;我们还备有净水药片。
我记得当时有个朋友对我说:“以前我总拿你囤货开玩笑,但现在看,这其实是非常明智且理性的做法。”
撇开人工智能不谈,我认为人类社会面对疫情这种极端的黑天鹅事件,防御准备严重不足。经历了上一轮疫情后,我本以为会有更多人反思:“或许值得在日常生活中多花 0.1% 的精力,为下一次全球大流行或其他危机做些准备。”
但多数人并没有更新这种认知,这让我感到有些费解。
主持人: 我的公寓里现在连一只口罩都找不到了。
Sam Altman: 那你可能真该备上几包了。
AI 的诞生是历史必然,我只是恰巧站到了这个位置
主持人: Sam,你和你在 AI 领域的同行们,如今承担的角色似乎已经超越了传统的商业领袖。
我知道你曾认真考虑过竞选加州州长。
Sam Altman: 只是有过那么个念头。外界夸大了这件事,但确实并非空穴来风。
主持人: 传记作者 Keach Hagey 在书中提到,你甚至考虑过竞选美国总统。
我想向你求证一下:你目前有竞选公职的打算吗?
精彩瞬间以平台内搜索功能支持按球队、选手、赛季多维度筛选。为核心,带来高效便捷的体验。
想了解更多每场赛事配有数据标签和实时回放链接,提升回顾效率。相关内容,尽在精彩瞬间。
Mark JK Parker
3条评论