《OpenAI风波:从ChatGPT到AGI的动荡之旅》

AIGC与创业5mos agoupdate lida
262 0 0

文章主题:OpenAI, 风波, 反转, 《继承之战》

666ChatGPT办公新姿势,助力做AI时代先行者!

每当我(一次又一次地)天真地认为 OpenAI 风波即将画上句号时,它总能以一种超乎想象的方式反转剧情,如同《继承之战》的编剧也无法预料到的那样。

在绝大多数OpenAI员工公开要求董事会解散,并邀请Sam Altman回归的情况下,董事会的反应依然坚决。令人惊讶的是,他们甚至找到了竞争对手Anthropic,企图推动两公司的合并。

董事会被推荐Dario Amodei作为Anthropic的联合创始人以及现任CEO,希望他能接替四位CEO,从而创造一个历史性的记录,即在短短四天内更迭四位CEO。

Dario Amodei曾担任OpenAI高管,离职后,他创立了Anthropic公司,专注于推动安全人工智能的发展。该公司主打产品为ChatGPT的竞争对手Claude。

在分析人士看来,OpenAI 和 Anthropic 的合并将标志着人工智能领域的一次重大动荡。这不仅是因为这两家明星创业公司背后隐藏着 several 科技巨头在 AI 领域的布局力量,而且这两家公司的合并也将进一步加剧行业竞争格局。

微软与OpenAI形成了一股强大的力量,而Anthropic则与亚马逊和Google签署了数十亿美元的云计算协议。此外,这两家巨头也向Anthropic进行了投资。

在当前的科技环境中,OpenAI正面临着前所未有的挑战。这家曾经引领潮流的AI巨头如今已陷入风雨飘摇之中,其内部竞争愈发激烈,使得公司陷入了分崩离析的边缘。与此同时,众多优秀的人才纷纷加入了其他公司的招聘队伍,如Anthropic、微软以及Google等,这无疑给OpenAI带来了更大的压力。OpenAI的大客户们也开始考虑改变立场,他们对于Anthropic、微软或Google等竞争对手表现出了浓厚的兴趣。这种趋势表明,OpenAI如果无法有效应对竞争压力,很可能会失去现有的市场份额。面对这样的挑战,OpenAI必须加快创新步伐,提升技术实力,以重新赢得客户的信任。

在追踪事件发展动态的同时,我们也需要回溯这场变革的起点——OpenAI 内部的矛盾冲突。《大西洋月刊》最新一篇报道中,揭示了该公司内部长期隐藏的理念分歧。

OpenAI 的混乱,从 ChatGPT 发布那天就开始了

1. OpenAI 原本没打算发布 GPT-3.5。2022 年秋季,OpenAI 原本在筹备发布 GPT-4。但有传言称 Anthropic 也要发聊天机器人,于是 OpenAI 管理团队在 11 月宣布几周后就要发布产品,选用了当时相对完善的 GPT-3.5。

2. 没人料到 ChatGPT 的成功。ChatGPT 的发布很低调,低调到公司里好些员工都不知道 OpenAI 发布了它。当时知情的员工还在赌能引来多少用户,最多只猜到一万用户。结果,上线五天用户数就突破了一百万。

3. ChatGPT 不仅让服务器宕机,也让检测工具失效。团队做了一个流量监测工具,可追踪用户行为,理解用户在如何使用这个工具,协调潜在危机和滥用。ChatGPT 的爆火让这个工具重复崩溃。

4. OpenAI 的安全团队劝产品团队减缓产品更新速度。ChatGPT 发布后用户数快速增长,安全团队未能跟上应对安全隐患和恶意使用。随后,产品团队不顾安全团队提醒,坚持乘胜追击,接连推出了付费版 ChatGPT 和开放 API 接口。

5. 诈骗危机。随着 ChatGPT 和 GPT-4 的广泛应用,也有人找到了漏洞。有用户开始大规模创建新账号,以获取每个新账号带来的 20 美元优惠。阻止这些诈骗成为了 OpenAI 当时的首要任务,原本被分配到不同领域的小支安全团队成员被安排专注于解决这个问题。

6. 压力之下,一些员工甚至出现了精神健康问题。公司内部的沟通情况很糟糕,员工只有在发现同事在 Slack 上消失时才知道他们被解雇了。

7. 「感受下 AGI(feel the AGI)」。技术进步之快,首席科学家 llya Sutskever 愈加确信 AGI 终会实现,他的行为也越来越像某种「精神领袖」,口头禅是「感受下 AGI」,意指大家已经很接近实现 AGI 的目标了。Sutskever 曾在社交媒体发文「如果你能感受到 AGI,你就应聘 OpenAI」。在 OpenAI 的 2022 节日派对上,Sutskever 甚至带领员工齐声高呼「感受下 AGI!感受下 AGI!」员工还在 Slack 上做了「感受下 AGI」的 emoji。

8. 信念的另一面,是对 OpenAI 在安全方面不够重视的担忧。今年 7 月,Sutskever 和 Jan Leike 带领成立了「Superalignment(超级对齐)」团队,研发更多上游 AI 安全技术,独占公司 20% 现有计算芯片,准备迎接在这个十年内即将到来的 AGI。「对齐」的意思是让 AI 只做人们想让它们做的事。

9. 今年的一次内部活动中,Sutskever 甚至还定制了一个木雕像以代表「不对齐的 AI」,然后一把火烧了,代表 OpenAI 做对齐 AI 的决心。

10. 今年 10 月,矛盾升温。知情人士称,Altman 意在削弱 Sutskever 在公司的影响力,引发了和董事会间的冲突。

11. 11 月 6 日开发者大会,Altman 宣布推出可定制 GPT 功能 ,Sutskever 彻底怒了,带着忧虑去找董事会。

12. 11 月 17 日,Altman 在线上会议被董事会辞退。

13. 面对众多 Altman 将回归的传闻,马斯克在 X 上表示如果 Altman 真的回归,他会很担心。因为「 Ilya 有很好的道德准则,不会追寻权力。如果不是觉得必须要动手的话,Ilya 不会有这样极端的行为。」

14. 11 月 20 日,Sutskever 对员工表示,Altman 并不会回归 OpenAI 担任 CEO。亚马逊旗下直播平台 Twitch 的联合创始人 Emmett Shear 将担任 OpenAI 临时 CEO。

混乱背后:Sutskever 和 Altman 的理念冲突

1. 主导 OpenAI 前沿技术发展的首席科学家   llya Sutskever 师从「AI 教父」Geoffrey Hinton,主张谨慎地应对 AI 和 AGI 的安全隐患。‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍

2. Sutskever 的表现一直很出色。他加入 Hinton 团队早期,Hinton 给了他一项很复杂的任务,Sutskever 厌倦了编写过程要做的计算,告诉 Hinton 自己写一个程序语言来完成更简单。当时 Hinton 听到有点生气,警告他这可能会耗一整个月且无果而终。Sutskever 坦白说:「我今早其实就做完了。」

3. 业内地位极高。Sam Altman 称 Sutskever 是其中一位全球最受尊敬的研究者,并认为把他请来了,能吸引更多 AI 人才。马斯克直言认为他是 OpenAI 成功的关键人物。

4. 为了把 Sutskever 从 Google 挖到 OpenAI,马斯克和 Google 的联合创始人 Larry Page 闹翻了。

5. Sutskever 的 AI 观:技术就像是一种自然力量。把控 AGI 的初诞生至关重要,否则它会遵循类似「适者生存」的法则,优先保住自身存在。就和人与动物一样,人不恨动物,但当人类要发展,我们就会把建造高速公路的需求放在动物生存之上。

6. 当那篇历史性论文 「Attention Is All You Need」出来时,Sutskever 是为数不多能看出其重要性的人:「我们在等的就是这个。」

7. Sutskever 主张将特定价值观「刻」在超级 AI 中,让 AI 像动物一样拥有一些类似「天性」的「铭印」:「最终,AI 将变得非常、非常、非常强大。我们将无法理解他们。他们会比我们聪明得多。到那个时候,强烈的铭印至关重要,只有这样,他们对我们的感觉才会像我们对自己的孩子一样。」

8. AGI 争夺战无益。Sutskever 认为如果有多支团队争先做出 AGI,他们用来保证 AGI 安全性的工作就更少空间了。与之相比,Altman 称自己更像一个「中间派」,既要保证速度,也要确保其安全性。

9. Sutskever 心中的第一批 AGI 看起来就像超级巨大的数据中心,内置专有神经网络,极度耗能,耗能约等于上千万个家庭用电量。这些 AGI 肯定会深度影响社会,但我们不确定谁会受益。

10. OpenAI 前员工说 Sutskever 在内部有很多追随者,称他是备受尊敬且亲力亲为的领袖,对于建设 OpenAI 前沿技术至关重要。OpenAI 前总裁 Greg Brockman 则擅长于将 Sutskever 的研究成果转化成可用的 AI 产品。

Sam Altman 被罢免事件时间线:

当地时间 11 月 16 日周四晚

Sam 收到 Ilya 发来的信息,要求于周五中午进行对话。Ilya 告诉 Sam 他被解雇了,并且新闻很快就会发布。

当地时间 11 月 17 日周五

OpenAI 宣布 CEO Sam Altman 将离开公司,首席技术官 Mira Murati 被任命为临时 CEO,这一人事任命立即生效。

OpenAI 董事会在博文中表示,「Altman 先生与董事会的沟通中没有保持坦诚,阻碍了董事会履行其职责的能力。董事会不再对他继续领导 OpenAI 持有信心」。

Altman 在 X 平台上发文称,我很喜欢在 OpenAI 的时光,这对我个人来说是具有变革性的,希望对世界也有一点变革。最重要的是,我喜欢和这么多有才华的人一起工作。

OpenAI 总裁、董事会主席 Greg Brockman 宣布辞职,他表示对董事会的决定感到震惊和难过。

OpenAI 三名高级研究人员于当地时间周五晚辞职。

当地时间 11 月 18 日周六

Sam Altman 告诉投资者,他计划推出一家新的 AI 企业。Greg Brockman 预计将加入这一企业,该项目仍在开发中,目前尚不清楚该合资企业的确切性质。

OpenAI 董事会正在与 Altman 讨论重返 CEO 岗位。他对回归感到「矛盾」,并希望对治理进行重大改变。

当地时间 11 月 19 日周日

Sam Altman 与 Greg Brockman 抵达 OpenAI 公司旧金山总部与高管们会面。

OpenAI 临时 CEO Mira Murati 计划重新聘请 Sam Altman 和 Greg Brockman,而同时,董事会成员仍在寻求一位新的 CEO。

OpenAI 董事会选择聘请亚马逊游戏直播平台 Twitch 的前 CEO Emmett Shear 担任首席执行官,Altman 回归失败。

得知 Altman 不会回归,数十名 OpenAI 员工在内部宣布他们将退出公司。

微软 CEO Satya Nadella 宣布:OpenAI 创始人 Sam Altman 和 Greg Brockman 及其同事们将加入微软,领导一个新的高级人工智能研究团队。

当地时间 11 月 20 日

710 多名 OpenAI 员工要求董事会辞职,否则可能集体投奔微软

未完待续……

OpenAI, 风波, 反转, 《继承之战》

© Copyright notes

Related posts

No comments

No comments...