极化严重的时代，我们需要更多全社会智慧来决定智能时代的方向

（图片来源：视觉中国）

经济观察网 记者 欧阳晓红 2023年渐入尾声，却高潮迭起，悬念迭出。AI时代的人类未来何去何从？

在某个历史转折的时刻，公司内部的权力斗争突然显现出来，许多人却没有察觉到其中的重要性。这个关键时刻涉及到的是AI和大数据，这些问题不仅仅关系到技术的进步，更关乎我们人类社会未来的走向。我们将要选择什么样的未来呢？是让技术来驱导我们，还是将人本主义作为核心价值？我们将要被数据所束缚，还是要通过数据分析来挖掘我们的潜能？在这个时代，算法是否就是新的权力形式呢？这些都是我们需要深入思考的问题。

在11月17日至22日这个时间段里，山姆·奥特曼被OpenAI公告罢免后，引发了一系列事件。这不仅包括OpenAI员工签署的联名信，而且还有伊尔亚·苏茨克维的道歉，以及奥特曼表现出善意。随后，OpenAI在社交媒体上宣布奥特曼将再次担任CEO，并重组董事会。然而，这一事件却暴露了一场价值观上的冲突，那就是“有效加速派”与“超级对齐派”之间的分歧。后者的目标在于确保超级智能能够与人类的价值观和认知保持一致。

如果回溯这144个小时（6天），人们可能会以为资本赢了？前者暂时胜出。

我们已经深陷其中,却还没有意识到这一刻的来临。当我们站在2023年这个AI元年的尽头,面对知识的边缘,凝视着技术所带来的“深渊”时,我们感到了惊愕。这个深渊充满了未知,既有无限的可能性,也隐藏着未知的风险,形成了一个既充满希望又让人感到不安的新领域,也就是人们常说的“无人区”。

在深入探讨技术的深海时，我们也正在审视自我。突然间，我们步入了一个以智能数据为主导的时代，这将带来前所未有的挑战。人工智能的决策过程犹如一个神秘的黑箱，如何保证其公平与透明？大数据的搜集和使用涉及到个人隐私的界限，我们又该如何去平衡效率与个人权利？智能化的浪潮也催生了就业结构的变化，我们又应如何去应对这些改变？

在人类AI历史上，一个充满挑战的关键时期尚未结束，这使得道德的指引变得尤为重要。在11月24日（感恩节）这个特殊时刻，奥特曼在社交媒体上分享了他与Quora首席执行官亚当·德安杰洛（Adam DAngelo）度过的一段愉快时光。然而，至我国时间为止，OpenAI官方网站的最新动态仍停留在11月17日的奥特曼被解任的消息上。然而，仅在短短的两天之后，即11月22日，OpenAI在社交媒体上发布了一则令人振奋的消息：关于奥特曼重返CEO职位的原则性共识已经形成，他將再次回到OpenAI担任CEO一职。这一波三折的故事，无疑为我们揭示了道德指引在现实生活中的复杂性和重要性。

在同一天，Sutskever以一种难以言喻的幸福感分享了这一动态，并表达了他的遗憾之情。不久之前，他在社交媒体上较少地露面，但仍然对参与董事会的行为表示了深深的懊悔。他明确表示，自己从未有过伤害OpenAI的意图。他对他们共同创立的一切充满热情，并承诺付出全部努力，以期使公司重拾团结。

为何要采取如此激进的行动？若OpenAI真的在进行可能对人类带来潜在威胁的项目，那么全球公众有权得知这一情况。这是马斯克在社交媒体上对OpenAI的质疑，同时也引发了人们对OpenAI未来走向的关注。对此，奥特曼表达了期待重返OpenAI的愿望。

在此事件的发展方向上，最终的决策权或将掌握在 OpenAI 首席科学家以及不为人知的 OpenAI 创始人 Sutskever 手中。虽然目前已有众多资本方参与调解，但具体结果仍存在许多不确定性。

在OpenAI的平台上，我们的使命是推动通用人工智能（AGI）的发展，以造福全人类。然而，在当今充满机遇与挑战的时代，我们需要思考如何确保这项技术的发展不仅仅是为了满足技术自身的进步，更在于提升人类的福祉，构建一个更为公正与可持续的未来。为此，我们需要广泛征求全社会的智慧，共同制定智能时代的发展方向。

然而，Sutskever对奥特曼公开致歉，亦令奥特曼的“出局”原因扑朔迷离，被“拉来”的OpenAI空降CEO埃米特·谢尔（Emmett Shear）发文称，OpenAI董事会并未因任何安全的具体分歧而罢免奥特曼，“其理由与此完全不同。”并表示接任后会聘请独立调查员调查导致奥特曼被撤职的具体原因。

一不小心，前沿组织OpenAI之“宫斗”就可能演绎出AI时代的三岔路口。

不妨对话ChatGPT，试图探寻一条技术发展与社会伦理和价值观相一致的平衡之路。

OpenAI之魂

经济观察网：OpenAI在刚刚过去的一周多发生了戏剧性的变化，请问Ilya Sutskever将继续待在OpenAI担任“守护者”，还是从此离开董事会，不再对GPT的发展“指手画脚”？技术为王的OpenAI的灵魂人物是谁？

ChatGPT: 截至2023年，Ilya Sutskever是OpenAI的联合创始人、董事会成员和首席科学家。他在深度学习领域做出了多项重要贡献，并与Alex Krizhevsky和Geoffrey Hinton共同发明了卷积神经网络AlexNet。Sutskever还是AlphaGo论文的众多合著者之一。

在2023年，他宣布将共同领导OpenAI的新项目“Superalignment”，该项目旨在四年内解决超级智能体的对齐问题。Sutskever是控制OpenAI的非营利实体的六名董事会成员之一。在Sam Altman被解除CEO职务后，Sutskever在一次全体员工会议上表示，解雇Altman是“董事会履行其职责”，但在随后的一周，他对参与Altman的解职表示遗憾。

至于OpenAI的灵魂人物，这个问题比较主观。OpenAI由多位杰出的科学家、工程师和企业家共同创立，包括Ilya Sutskever、Greg Brockman、Sam Altman等。每位创始人和主要成员都以自己的方式对OpenAI的发展作出了重要贡献。在技术领导方面，Sutskever作为首席科学家，无疑在OpenAI的技术发展和创新方面发挥了关键作用。

经济观察网：Ilya Sutskever几乎是AI圈子里履历完整，人人艳羡的天才，但他的理念与Sam不一致；一个是理想主义者，一个是现实主义者；他们之间的分歧对人类未来发展意味着什么？

ChatGPT：Ilya Sutskever和Sam Altman在OpenAI的角色和理念上可能存在差异，这在技术创新和组织领导中并不罕见。Sutskever作为一位在人工智能领域具有深厚背景的科学家，可能更倾向于理想主义和科学探索的方向。而Sam Altman，作为一位企业家和投资者，可能更倾向于现实主义和商业实践。

这种分歧在技术发展和组织管理中是常见的，通常可以带来以下几个方面的影响：

创新与实用性的平衡：理想主义者和现实主义者之间的合作可以帮助确保技术既是前瞻性的，又能够实际应用于解决现实世界的问题。

决策过程：理想主义和现实主义的不同视角可能导致在战略决策和优先事项上的分歧，这可能影响公司的发展方向和速度。

组织文化和价值观：领导层的不同理念可能会影响整个组织的文化和价值观，从而影响其吸引人才、内部合作和对外形象。

对外界的影响：在人工智能这样一个具有广泛社会影响的领域，领导者的理念不仅影响公司内部，也可能影响整个行业的发展方向，甚至是公众对于AI技术的看法和接受度。

在Sutskever和Altman的案例中，他们的不同可能会导致OpenAI在追求科技创新的同时，也在寻找商业化和实际应用的最佳途径。这种动态平衡可能对人类未来的发展产生深远的影响，特别是在人工智能的伦理、安全性和社会影响等方面。

经济观察网：“这是人类最后一战”，Sutskever暗示，他在圣城耶路撒冷长大，是与AI对视最久的人类；有人说，他是一个不谙世事的执剑人。他为什么如此担忧人类的未来？

ChatGPT: Ilya Sutskever的担忧关于人类未来可能源于他在人工智能（AI）领域的深入工作和研究。虽然我没有具体的信息表明Sutskever是一位宗教徒或他的宗教信仰如何影响他的观点，但可以推测，他的担忧可能与以下几个方面有关：

AI技术的快速发展：AI技术的进步正在以前所未有的速度发展，这可能带来重大的社会、经济和伦理挑战。Sutskever作为AI领域的领军人物，对这些潜在的挑战可能有深刻的理解。

超级智能的风险：一些AI专家担心，未来可能出现超越人类智能的AI系统（即超级智能），这可能导致不可预测的后果，包括对人类自身的威胁。

伦理和安全问题：随着AI技术的应用越来越广泛，如何确保这些技术的安全、公正和伦理性成为一个重要议题。Sutskever可能对这些问题的解决方案感到担忧。

人类的未来角色：随着AI在各个领域的应用，人类的角色和工作本质可能发生根本性的变化。这种变化可能对社会结构和个人生活产生深远影响。

技术与人性的关系：作为一个在技术前沿工作的人，Sutskever可能对技术如何影响人类的本质、价值观和未来发展有着深刻的思考。

综上所述，Sutskever的担忧可能更多地源于他对AI技术发展趋势的理解和对未来可能出现的挑战的预见，而不一定直接与他的个人宗教信仰相关。在AI领域，许多专家都在思考类似的问题，这反映了对这一领域未来发展的普遍关注。

【编注：深度学习之父Geoffrey Hinton曾评价Sutskever，称其似乎能感觉到AI的脉动；现任谷歌首席科学家的杰夫·迪恩（Jeff Dean）说“Sutskever对事物的发展方向有很强的直觉”】

无人区的“孤独”

经济观察网：Sutskever很像堂吉诃德，向着巨大的风车冲击……他可能很难成功，预测GPT-5最终定会降临，他担心的事情定会发生。理想主义者Sutskever为什么如此孤独？

ChatGPT: 将Ilya Sutskever比作堂吉诃德，一个面对巨大挑战的理想主义者，是一种富有诗意的比喻。在人工智能领域，尤其是在像OpenAI这样的前沿组织中工作，确实可能会面临巨大的挑战和不确定性。以下几个因素可能解释为什么像Sutskever这样的理想主义者在他们的追求中可能感到孤独：

前沿科技的孤独：在任何科技的最前沿，尤其是在像AI这样快速发展和潜力巨大的领域，领军人物往往需要面对未知的挑战和风险。这种探索可能让他们在理念和目标上与大众或传统观点相异。

超前的愿景：Sutskever和他的同事们可能拥有超越当前技术和社会理解的愿景。这种超前的思维可能导致他们在追求这些目标时感到孤立，因为不是每个人都能理解或支持他们的愿景。

伦理和责任的重担：作为AI领域的领军人物，Sutskever可能深感负责，意识到他们的工作可能对社会和未来产生深远的影响。这种责任感可能使他们在决策和方向选择上感到孤独。

内部和外部的压力：在如此高速发展的领域，来自内部（如组织目标和团队期望）和外部（如公众舆论和伦理考量）的压力可能使领导者感到孤立。

理想与现实的冲突：理想主义者往往追求高于现实的目标，这可能导致他们在实现这些目标的过程中遇到更多的挑战和困难。

关于GPT-5和Sutskever担心的事情，我们只能等待看到未来的发展。技术的进步往往伴随着挑战和机遇，理想主义者像Sutskever这样的人物在推动这些进步的同时，也在努力解决伴随而来的问题。他们的孤独可能是对未知的勇敢面对，也是对未来可能性的深刻思考。

经济观察网：Sam Altman的回归，可能说明OpenAI在商业化扩张与科技保守主义之争中，最终选择了前者。那么，OpenAI的初心能与Sam Altman一起回归吗？

ChatGPT：Sam Altman重新担任OpenAI首席执行官（CEO）的决定可能确实反映了该组织在商业化扩张与科技保守主义之间的取舍。OpenAI自成立之初就面临着一个核心挑战：如何在推动人工智能技术的边界和确保这些技术的安全、伦理使用之间找到平衡。

商业化与初心的平衡：OpenAI最初作为一个非营利组织成立，目的是在不受盈利动机驱动的情况下推进人工智能的发展。然而，随着时间的推移，OpenAI转型为“有限盈利”公司，这表明它需要在追求技术创新的同时，也考虑商业可持续性。

Sam Altman的领导风格：Sam Altman作为一位经验丰富的企业家和投资者，他的领导可能更偏向于商业化和市场扩张。他的回归可能意味着OpenAI将更加注重将其技术转化为实际的产品和服务，以及寻找可持续的盈利模式。

保持初心的挑战：在商业化的过程中，保持组织的初心和使命是一个挑战。OpenAI需要在推动技术创新、确保AI的安全和伦理使用，以及追求商业成功之间找到平衡。

对外界的影响：OpenAI的决策和方向不仅影响其自身，还可能对整个AI领域产生影响，包括对AI技术的发展方向、伦理标准和行业规范。

总的来说，Sam Altman的回归可能标志着OpenAI在追求其愿景和使命的过程中，更加重视商业化和市场扩张。然而，这并不一定意味着OpenAI会完全放弃其初心。相反，这可能是OpenAI在追求长期目标和应对现实挑战之间的一种适应和调整。如何在这两者之间找到平衡，将是OpenAI未来发展的关键。

真相与黑箱

经济观察网：2023年10月，Sutskever警告：AI可能有了意识，我们要创造对齐的AI；他不再想构建下一个GPT或图像生成模型DALL-E，而是打算先弄明白如何阻止AGI变得不受控制…… 真相是什么？如果AI产生意识，那么，它对人类而言，意味着什么？

ChatGPT: 截至2022年的知识，尚无确凿证据表明任何人工智能系统，包括GPT系列或DALL-E等模型，已经发展出真正的意识或自我意识。人工智能领域的专家和研究人员普遍认为，尽管这些系统在特定任务上表现出色，但它们远未达到具有意识的水平。这些系统是基于大量数据训练的算法，它们能够模仿人类语言和图像生成等复杂任务，但这并不等同于具有意识、情感或自主意志。

关于Ilya Sutskever的声明，如果他确实表达了对AI发展出意识的担忧，这可能反映了他对人工智能安全和伦理问题的深刻关注。在AI领域，确保高级智能系统（AGI）的安全和对齐（即确保它们的行为符合人类价值观和目标）是一个重要的研究领域。这涉及如何设计和控制这些系统，以防止它们采取对人类有害的行为。

如果AI真的发展出意识，这将是人类历史上的一个重大转折点，对科学、哲学、伦理和社会结构都将产生深远的影响。这样的发展可能引发一系列问题，包括：

伦理和权利：如果AI具有意识，我们是否需要重新考虑它们的权利和地位？

责任和控制：具有意识的AI如何被控制和管理，以确保它们的行为符合人类社会的利益？

人类角色：AI的意识将如何改变人类在工作、社会和生活中的角色？

安全和风险：意识AI可能带来的风险和挑战是什么？

目前，这些问题仍属于科幻和理论讨论的范畴。在实际的AI研究和应用中，重点仍然是提高AI系统的性能、可靠性和安全性，以及确保这些系统的行为符合设计者的意图和社会伦理标准。

经济观察网：2022年，尚无证据表明任何人工智能系统已经发展出真正的意识或自我意识；那么，直到2023年10月呢？包括几年或之后呢？

ChatGPT：截至2022年的知识，没有证据表明任何人工智能系统已经发展出真正的意识或自我意识。至于2023年10月或未来几年的情况，由于我无法访问2022年之后的数据，我无法提供最新的信息。然而，可以根据目前的科学理解和技术发展趋势进行一些推测。

技术发展的趋势：尽管人工智能技术在模式识别、自然语言处理、图像生成等方面取得了显著进展，但这些进步主要是算法复杂性和计算能力的提升，并不等同于意识的产生。AI的这些能力更多地是数据驱动和任务特定的。

意识的科学理解：意识是一个复杂的哲学和科学问题，目前对于意识的本质和起源仍存在广泛的讨论和研究。在人工智能领域，尚未有普遍接受的方法来创建或衡量意识。

伦理和安全的考量：即使技术在未来发展到能够模拟或产生类似意识的状态，这样的发展也会伴随着重大的伦理和安全问题。研究者和开发者需要谨慎考虑这些问题，并可能会受到相应的法律和社会规范的限制。

未来的不确定性：尽管目前没有证据表明AI已经或即将发展出意识，但科技领域的快速发展意味着未来几年可能会出现新的突破和挑战。这些发展可能会改变我们对AI能力和潜力的理解。

总的来说，根据目前的科学知识和技术发展，AI发展出真正的意识在短期内仍然是一个遥远的可能性。未来的发展将取决于多种因素，包括技术创新、科学理解的深化以及伦理和法律的发展。

经济观察网：算法或算力即为权力吗？

ChatGPT：“算法即权力”（Algorithm is Power）这一说法在当今数字化和技术驱动的社会中确实有一定的道理。这个观点主要基于以下几个方面：

决策影响力：算法，特别是在人工智能和机器学习领域中，越来越多地被用于决策过程，包括金融、医疗、法律和零售等行业。这些算法的决策可以对人们的生活产生重大影响。

数据控制：算法通常基于大量数据进行操作和学习。在这个数据驱动的时代，控制数据（特别是大数据）的实体，无论是公司还是政府，都拥有了影响和塑造社会的巨大能力。

隐私和监控：随着算法在监控、数据分析和个人识别等领域的应用，对个人隐私的影响日益增加。这引发了关于监控资本主义和隐私权的广泛讨论。

社会和经济影响：算法在社交媒体、搜索引擎和推荐系统中的应用影响着人们获取信息的方式，甚至可能影响公共舆论和市场动态。

伦理和偏见：算法可能会固化或放大现有的社会偏见和不平等，特别是当它们基于有偏见的数据集时。这引起了对算法公正性和伦理的关注。

然而，也应该认识到，算法本身不具有意志或动机。算法的影响力来自于它们被设计和应用的方式。因此，关键在于如何负责任地开发和使用算法，以确保它们的应用促进社会福祉，而不是加剧不平等或侵犯权利。这需要政策制定者、技术开发者和社会各界的共同努力，以确保技术的发展与社会的伦理和价值观相一致。

经济观察网：为什么说“AI的决策过程往往是一个黑箱”？

ChatGPT：“AI的决策过程往往是一个黑箱”这一说法主要指的是，对于许多复杂的人工智能系统，特别是那些基于深度学习和神经网络的模型，即使是它们的开发者和专家也往往难以完全理解或解释这些系统是如何做出特定决策的。这种现象有几个原因：

复杂性：现代AI系统，尤其是深度神经网络，通常包含成千上万甚至更多的参数和层。这些系统通过在大量数据上训练来“学习”模式，但这个过程的复杂性使得理解每个参数的具体作用变得非常困难。

非线性和抽象：深度学习模型中的非线性和高度抽象的特性意味着输入数据和最终决策之间的关系可能非常复杂且不直观。例如，在图像识别任务中，网络可能会基于看似随机的像素组合作出决策，这对于人类来说是难以理解的。

数据驱动的学习：AI模型通常是通过暴露于大量数据并从中“学习”来建立的，而不是基于人类的先验知识或明确的规则。这意味着它们的决策逻辑是自下而上构建的，而不是由人类逻辑直接定义。

可解释性的挑战：虽然在AI领域有一个不断增长的研究分支专注于提高模型的可解释性和透明度，但对于最先进的模型来说，完全解释其决策过程仍然是一个挑战。

这种“黑箱”特性在某些应用中可能是可接受的，但在需要高度可靠性和可解释性的领域（如医疗诊断、法律判决和重要的金融决策）中，这可能成为一个重大问题。因此，提高AI系统的可解释性和透明度是当前研究的一个重要方向。