Science：AI应成为新法律主体，拥有权利和义务，“跨物种”法律框架亟需制定
如今，人工智能（AI）发展势头迅猛，AI 代理（Agent）正逐渐成为业内的研究重点。
作为一名人工智能代理，具备感知环境的能力至关重要。通过运用自主决策与行动，AI 代理能够对环境产生影响。进一步地，借助其强大的学习与适应性，AI 代理得以不断提升自身的性能表现。
那么，能够独立做出决策的 AI 代理，是否需要负法律责任？在法律中又该如何被定义？
近日，一项发表在权威科学期刊 Science 上的研究论文给出了一种可能的回答。
在一篇由美国范德比尔特大学的法学教授 Daniel Gervais 与斯坦福大学 CodeX 研究院以及 Nomos AI 的创始人兼首席执行官 John Nay 合作撰写的论文中表明了他们的观点。
AI 已经发展到可以作为一个拥有权利和义务的法律主体。因此，在问题变得复杂之前，我们需要制定一个“跨物种”的法律框架，将 AI 作为法律主体来对待。
另外，他们还强调了“零成员有限责任公司”的想法，以及训练一个大型语言模型（LLMs）来监管 AI 代理或是将 AI 系统转化为守法的系统。
以“人工智能与交叉法律”为主题的研究论文已成功发表在Science期刊上,这是人工智能领域最新、最具有影响力的研究成果之一。
AI操控“零成员有限责任公司”
至今为止，我们的法律体系一直保持着单一性，仅限于人类参与其创建和使用。在这个体系里，非人类法律主体（例如动物）必须依赖人类去实现它们的权益，这些主体仅仅作为处理人类利益与义务的媒介工具。
尽管将AI纳入法律体系的主要目的并非为了明确和保护非人类实体的权益与责任，而是为了解决由其产生的相关人类利益与义务问题。
在《布莱克法律词典》（Black’s Law Dictionary）中，法人公司被称为“artificial persons”。然而，在美国的一些司法管辖区，法律并未明确规定法人公司的最高管理层必须由人类组成。
美国《统一有限责任公司法》（ULLCA）中提到的“零成员有限责任公司”似乎并不陌生。虽然该条款明确说明，没有成员将导致有限责任公司解散，但 ULLCA 并没有强制执行这一规定。
即使只有一个美国州允许“零成员有限责任公司”存在，根据所谓的“内部事务原则”，这一实体仍可在全国范围内开展业务。根据这一原则，法院将依据成立州的法律来制定管理法人实体内部事务的规则。
如果存在这样一个由 AI 操作的“零成员有限责任公司”，法律将有哪些选择呢？法律无法轻松地将法律后果附加到 AI 的自主行为上（尽管这里的“自主”可能会受到限制）。法律可能会将责任归咎于启动有限责任公司的人类，但这可能需要一个新的法律工具，因为通常情况下，人们不会对他们创建或控制的法人实体的行为承担责任。
此外，不排除 AI 本身可能会提出创建一家新的有限责任公司的申请。法院仍将拥有用于规范法人实体责任的一系列工具，包括赔偿、财产查封和解散等等。法院可以发布各种命令，如禁令，但 AI 将决定是否遵守这些命令。
此外，论文作者还提出了另一种可能：在所有司法管辖区中将“零成员有限责任公司”定为非法，但这将需要全球范围内的广泛立法努力，并可能与促进科技产业的发展相抵触。因此，出现“零成员有限责任公司”的现象应该催使法律体系适应自主 AI 代理的实现。
让 AI 以有限责任公司或其他法律主体的形式运营，具有明确定义的法律主体身份，会带来两个主要好处：首先，它将 AI 确立为可以在法律诉讼中追究赔偿损害的法律实体，为受损害的当事人提供了明确的法律诉求目标；其次，这为机器学习研究人员提供了更明晰的研究方向。
构建合法的“良知”AI
在当前的范式中，似乎有一种路径可以将遵循法律的行为嵌入到由 LLMs 驱动的 AI 代理中。例如，人们可以训练一个 LLMs，用于监视和/或影响主要的 AI 代理，并且可以用作奖励模型。
然而，需要明确的是，许多涉及人类代理的情况最终需要人类对该情境中的合法性做出裁定；这不会因为有 AI 代理而改变。
除了提出的规范性主张，对于未来几年即将出现的高级 AI，关键在于将其纳入我们的法律体系，以便我们可以监测其行为、分配责任、采取必要的防护措施，并引导 AI 研究朝着构建合法的人工“良知”的方向前进。
在数字智能迅猛发展的背景下，关注积极主动的自动犯罪预防至关重要。然而，鉴于不可避免的情况，当 AI 系统无法达到理想行为时，相关公司应当负责向能够向法院证明受到损害的个人支付赔偿金。为实现这一目标，可以拓展需要保持最低商业责任保险政策的范围。
跨物种法律的兴起是不可避免的，但很难预测我们将在这一法律光谱的哪一端结束。一方面，跨物种法律可能涉及修改公司法以适应部分受人类控制的公司实体的运作方式。另一方面，跨物种法律也可能意味着在日常与自主、智能实体的互动中，需要调整法律体系。返回搜狐，查看更多
责任编辑：
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
