警惕ChatGPT生成内容的安全性问题

ChatGPT的“创作”有著作权吗？归谁？内容安全、可靠吗？律师详解三大热点问题

◎对于利用ChatGPT写作论文的情况，有较大可能会出现侵权问题。

每经记者 文巧 蔡鼎 郑雨航 每经编辑 高涵

随着ChatGPT等自然语言处理技术的不断发展，许多人开始将其应用于各种领域，包括写作业、写论文、写演讲稿等。这种技术的高效性和快速性让人们不禁感叹，内容创作是否要被AI取代了呢？

人们在使用ChatGPT生成技术生成内容的同时，应该思考的问题包括：该技术生成的内容是否有著作权？其“创作”的版权又该归谁？以及这项技术的使用是否安全可靠。对于ChatGPT生成技术生成的内容是否有著作权，目前并没有明确的法律规定。虽然有些观点认为，基于计算机程序生成的文本应该享有著作权，但是在实践中，对于计算机程序的著作权归属问题并没有统一的规定。因此，在使用该技术生成内容时，需要自行承担风险。其“创作”的版权又该归谁？这个问题涉及到版权的归属原则，即“创作人原则”和“使用人原则”。根据这些原则，作品的版权通常应该归作者所有，或者归作品的使用者所有。对于ChatGPT生成技术，其生成的内容应该被视为由该技术的使用者——计算机程序本身所生成的，因此，版权应该归计算机程序的开发者或使用者所有。这项技术的使用真的安全可靠吗？虽然ChatGPT技术在理论上可以生成高质量的内容，但是在实践中，该技术仍存在一些潜在的风险。例如，该技术可能受到模型训练数据中存在的偏见和错误的影响，导致生成的内容存在错误或不准确的信息。此外，ChatGPT技术还受到模型训练数据量、模型架构和训练时间等因素的影响，因此，其性能可能随着时间的推移而下降。综上所述，人们在使用ChatGPT生成技术生成内容的同时，需要自行承担风险。虽然该技术可以生成高质量的内容，但是需要谨慎使用，并确保其内容的准确性和可靠性。

对于上述问题，2月11日，《每日经济新闻》记者对话奋迅律师事务所（贝克·麦坚时联营律所）合伙人周整、泰和泰律师事务所首席合伙人程守太、安杰世泽律师事务所合伙人于雯竹以及上海明伦律师事务所律师王智斌，进行了探讨。

有没有著作权？

在淘宝商家的评价中，有购买者表示希望能够使用ChatGPT写论文，而每经的报道则显示，国内高校已经开始有学生使用该软件。

今年1月初，美国北密歇根大学的学生利用ChatGPT写作论文的事件还历历在目，ChatGPT给美国教育体系带来的冲击显而易见：许多大学正在对课堂进行大规模的调整，纽约和西雅图等学区已禁止在其设备和网络中使用ChatGPT。

用ChatGPT写代码 图片来源：OpenAI

随着越来越多的人使用该技术来生成内容，一个问题是，ChatGPT生成的内容会产生著作权吗？

安杰世泽律师事务所合伙人于雯竹向《每经》记者表示，在中国，根据相关判决，一个作品享有著作权的前提之一是由自然人创作。“因此，如果ChatGPT生成内容的创作过程中表现出了自然人作者(即ChatGPT的用户)的个性化判断、取舍、风格等写作安排，且ChatGPT生成内容满足了著作权法的其他要求(比如独创性)，则ChatGPT生成的该内容可认为是著作权法意义上的作品，享有著作权。”

不过，奋迅律师事务所合伙人周整则告诉记者，关于AI创作的作品是否具有独创性，目前尚无定论。他给出了两个案例，“我国司法实践中存在不同的观点。在腾讯诉盈讯案中，腾讯利用智能写作Dreamwriter创作的文章被盈讯发布在互联网上，深圳南山区法院认可了该文章著作权人为腾讯。”

在菲林律所诉百度公司案中，菲林利用某家智能可视化软件自动生成报告，但北京互联网法院拒绝承认菲林对该报告享有著作权，并称在自动生成报告中简单的数据选择和图像选择并不足以具有独创性。

“创作”的版权属于谁？

另一个问题是，对于ChatGPT生成的论文，其著作权应当属于谁？对于这一问题，律师们存在不同的看法。

周整认为，可以参考腾讯案中的观点，即AI软件生产的作品的著作权应归属于该软件的所有者。他表示，“因为ChatGPT生成内容的原理是参考现有互联网内容并按照用户指令生成解答，而ChatGPT这个软件本身就是作品，具有著作权，我们可以认为其形成解答内容的过程是通过内部的无数模板完成的，这些模板本身也可能构成具有独创性的表达，受到著作权保护。”

在于雯竹看来，根据OpenAI的使用条款中规定，在用户遵守相关条款和法律法规的前提下，OpenAI 将其对ChatGPT 所输出内容的所有权利、所有权和利益转让给用户，这其中就包括了著作权。“当然，前提是ChatGPT生成的内容被认定为‘作品’，享有著作权，这需要用户自行进行认定。”她补充说道。

程守太表示，ChatGPT 是由人工智能技术构建的，并非属于我国著作权法意义上的作者，对于其生成的内容是否享有著作权、由谁享有著作权，目前仍存在争议。

人工智能生成的内容是否享有著作权，存在着争议。程守太指出，根据《著作权法》的规定，AI生成的内容具有独创性并能以一定形式表现的即享有著作权。然而，根据ChatGPT的服务条款可知，只有该聊天软件独有的‘输出内容’才发生著作权的转让，这使得用户无法确定生成的输出内容是否已经侵犯了他人的著作权，也无法确定权利链条是否清晰。因此，该规定在一定程度上保护了ChatGPT，但对于用户来说增加了极大的不确定性。在后续传播过程中，也会出现权利链条不清晰，权利人不清晰的问题。

不过，对于利用ChatGPT写作论文的情况，前述三位律师都认为，有较大可能会出现侵权问题。

AI生成内容的基础是海量分析互联网上的现有信息和内容，其中当然包括受到著作权法保护的作品。基于他人作品，并通过模仿他人表达方式生成的结果，具有侵权风险的可能性较大。但随着人工智能技术的发展，可能以后会绕开跟现有作品同样的表达，规避侵害著作权的风险。

生成内容安全可靠吗？

ChatGPT的强大令许多人啧啧称奇，关于其生成内容的安全性也开始引发思考。

新的组织方式如下：ChatGPT的生成内容存在准确性问题，用户上传的数据来源不够真实准确，因此无法完全保障内容的准确性。此外，ChatGPT在用户海量信息提取的过程中自主学习进化，因此其生成的内容可能会存在不同的情况。如果用户将虚假信息上传到平台，这些虚假信息可能会误导商业应用，造成严重后果，甚至可能会有法律风险。

鉴于此，ChatGPT极容易被虚假信息误导。据《纽约时报》2月8日报道，研究人员测试了ChatGPT在被问及充满阴谋论和虚假叙述的问题后会写些什么，结果非常令人不安。NewsGuard的联合首席执行官Gordon Crovitz表示：“该工具能够以超乎想象的规模生成虚假信息，而且频率很高，它可能将成为互联网有史以来最强大的错误信息传播工具。”

ChatGPT的优势在于其可以回答各种类型的问题，并且可以自动识别和筛选不同的搜索结果，用户因此失去了自行查阅不同搜索结果并自行判断的机会。从这个角度而言，ChatGPT更容易实现信息和答案的垄断，也更容易成为舆情的操纵工具。

据《纽约时报》，提供网络威胁情报的组织Check Point Research发现，网络犯罪分子已经在尝试使用ChatGPT创建恶意软件。该组织工程主管Mark Ostrowski表示，虽然黑客攻击通常需要高水平的编程知识，但ChatGPT为新手程序员提供了帮助。

第三还可能存在数据安全的问题。程守太表示，“ChatGPT将网络交互获取的数据转化为自己的知识图谱或者存入知识库，并上传至相应运营公司数据平台。其数据获取途径和获取方式是否合法合规，数据的合理使用范围、使用边界问题、恶意利用问题，还需结合不同地区法律具体分析。”

同时，他认为，“用户与ChatGPT交互的过程中，ChatGPT会获取大量用户或业务相关数据。如果用户在聊天时输入了涉密信息，ChatGPT会将其识别并存储在后台，这可能会导致侵犯个人信息、隐私、商业秘密以及国家机密。”

在程守太看来，ChatGPT生产的内容是基于全网的数据和算法分析处理所得到的，与我国主流媒体的话语体系存在一些不兼容之处，尤其是互联网企业、媒体使用时更需要考虑背后价值导向。因此，在使用ChatGPT时需要注意其生产的内容是否符合社会价值观，这关系到其是否能够被社会广泛接受。

如需转载请与《每日经济新闻》报社联系。

未经《每日经济新闻》报社授权，严禁转载或镜像，违者必究。