文章ChatGPT国内运营遇阻：合规风险与创业难题

113 0 0

文章主题：苹果, 中国区, ChatGPT, 规定

近期，苹果公司发布了一则官方公告，明确表示我国区的应用程序商店禁止提供与ChatGPT相关的服务。对于已经提供此类服务的应用程序，必须进行下架处理，待整改完成后方可重新上架。这一政策旨在加强监管，确保我国区的应用程序商店合规运营。

众多被关闭的APP都涉及到对ChatGPT的使用，这些应用程序主要是AI聊天工具、图像生成、音频生成以及文本生成等辅助软件。据网络传播的照片显示，这些平台向用户发布的声明称，由于未能获取在我国运营所需的手续批准，因此这些应用在我国无法正常运行。

此次苹果平台下架APP，赶在《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）8月15日生效之前行动，苹果平台出于合规考虑的意图十分明确。结合更早生效的《互联网信息服务深度合成管理规定》（以下简称《规定》，2023年1月10日生效），由美国OpenAI公司开发的ChatGPT在中国合规难的现实得到印证。

可以预期的是，如果本次APP的下架现象扩展到安卓平台，那么众多依赖于ChatGPT技术的初创项目将需要在短期内进行相应的调整。

一、境外生成内容，难以满足境内监管要求

苹果平台所提及的许可证要求，来自于《互联网信息服务管理办法》的第四条对经营性互联网信息服务实行许可制度的规定。根据该规定，在中国大陆地区运营类ChatGPT服务应取得第二类增值电信业务经营许可证。

《规定》对于那些利用ChatGPT技术提供AI合成文本、图像、音频、视频、虚拟场景服务的商家提出了严格的合规要求。其中，对AI合成内容的管控被视为重中之重。根据规定，商家禁止传播虚假新闻，所有新闻的转载必须来自于新闻信息稿源单位。

根据《规定》，深度合成服务提供者需采用“人机融合”的方法来审核输入数据及合成成果，同时需构建特征库以辨识违法和不良信息。

在《暂行办法》的规定中，对于内容的合法性和真实性有着明确的要求。其中明确规定，禁止生成任何可能煽动颠覆国家政权、推翻社会主义制度的言论，这类内容将直接危害国家的安全与利益。同时，也禁止生成包含暴力、淫秽色情等不良信息。除此之外，服务商还需采取一切必要手段，以确保内容的生成不产生任何形式的歧视，包括但不限于民族、信仰、国别、地域、性别、年龄、职业、健康等方面，同时也严禁侵犯他人的肖像权、名誉权、荣誉权、隐私权和个人信息权益。

《暂行办法》还要求服务提供者采取措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。在生成式AI技术研发过程中进行数据标注的，服务提供者应当制定清晰、具体、可操作的标注规则，抽样核验标注内容的准确性。

ChatGPT的服务基于OpenAI对全球语料库的深度学习和训练，如果境内AI服务提供商只是简单把ChatGPT接入境内，不对ChatGPT生成的内容进行审查，将很难满足中国政府对内容合法性、真实性的监管要求。

二、境外数据训练，难以保护境内权益

《规定》与《暂行办法》对生成式AI的规范不仅体现在对生成结果的要求，更追溯到人工智能训练的过程。个人信息保护、知识产权保护、数据安全，是两文件以及各相关法律法规的共同要求。

对于在境外进行数据训练的ChatGPT而言，很难实现符合中国监管要求的运营合规。

根据《个人信息保护法》，个人信息处理者需取得个人信息主体的同意或其他合法理由，才可以处理其个人信息，并且遵循收集个人信息的“最小范围”原则。然而， OpenAI公布的隐私政策，只描述了个人访问OpenAI及其关联公司的网站或使用其相关产品和服务时对个人信息的处理，并未提及其收集训练数据环节的个人信息保护政策。这显然与《规定》与《暂行办法》中对个人信息的保护存在差距。ChatGPT的预训练模型基于大量受著作权法保护的第三方文字作品内容作为其数据库的训练素材，其是否符合中国《著作权法》对第三方作品的保护要求存在疑问。

《规定》要求，运营商需采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。

《暂行办法》规定，生成式人工智能服务提供者进行AI训练，应当使用具有合法来源的数据和基础模型；不得侵害他人依法享有的知识产权；应当取得个人同意或者符合法律、行政法规规定的其他情形。服务提供者还需要采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

对于使用者输入内容，OpenAI声称，“作为持续改进的一部分，当您通过我们的API使用OpenAI模型时，我们可能会使用您提供给我们的数据来改进模型。”

《暂行办法》要求服务提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。该规定与OpenAI对用户输入信息的搜集和再利用也可能存在冲突。

此外，利用境外ChatGPT服务，还有固有的合规问题。

目前OpenAI并没有在中国大陆提供有关ChatGPT的服务，也没有设立相应的公司运营ChatGPT。在中国大陆地区使用ChatGPT的服务商，或需通过“翻墙”访问，或使用“中间商”提供的ChatGPT服务。通过“翻墙”软件访问ChatGPT属于行政违规行为。

另外，根据ChatGPT的工作原理，用户在输入端提出问题后，该问题信息会被传输到美国的OpenAI公司。在此过程中便涉及数据出境、入境的跨境问题。若用户所提问题涉及到个人信息、敏感信息甚至涉及国家安全、公共健康和安全等方面的重要数据，也存在着风险。

由于无法要求ChatGPT的服务商能够遵循中国大陆境内的合规要求，目前通过接入ChatGPT技术为境内客户提供服务的APP，事实上一直处于合规的灰色地带。

三、合规风险难避，ChatGPT创业面临难题

《规定》对发布AI应用的互联网平台的责任有明确要求：互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

《暂行办法》也明确要求，对来源于境外向境内提供不合规的生成式AI服务，国家网信部门应当通知有关机构予以处置。

因此，苹果、安卓应用商店对上架APP的合规承担责任，对不符合《规定》要求的APP予以下架，在落实合规要求上无可厚非。