生成式人工智能服务管理办法：合规与安全的挑战与对策

90 0 0

文章主题：AI, 生成式人工智能, ChatGPT, 数据安全

类似于 ChatGPT 的 AI 技术因其合规性和安全性而受到了广泛关注。为了推动此类技术的健康发展并规范其应用，国家网信办于 4 月 11 日正式发布了《生成式人工智能服务管理办法（征求意见稿）》。

美国拜登政府已经着手探讨是否需要对ChatGPT等人工智能助手实施审查。在此之前，意大利、德国的监管机构已对ChatGPT实施了禁令，同时，法国、爱尔兰、西班牙等国家也纷纷考虑加强针对AI聊天机器人的监管措施。

近年来，随着人工智能技术的迅速发展，尤其是聊天机器人（如ChatGPT）等应用的广泛推广，人们对于数据和隐私信息的保护问题日益关注。有行业专家在接受采访时指出，针对这类AI的严格监管实际上反映了大众对于信息泄露问题的担忧。他们认为，如果在大规模运用网络公开数据来训练模型的话，可能会不小心泄露个人的隐私信息。这些专家还强调，在ChatGPT等AI技术的发展过程中，不仅会面临虚假信息等问题，还有数据安全、知识产权合规以及伦理等方面的挑战。因此，我们需要在推动AI技术发展的同时，也要注意防范可能出现的风险。

数据、隐私信息泄露受诟病

ChatGPT 等 AI 工具因其可能存在的数据和隐私信息泄漏问题而备受质疑。据中国支付清算协会于4月10日发布的《关于支付行业从业人员谨慎使用 ChatGPT 等工具的倡议》显示,这些工具已经揭示出跨境数据泄露等潜在风险。

博通咨询金融行业首席分析师王蓬博在接受采访时指出，像ChatGPT这样的工具必须不断更新数据库，并通过持续训练以实现进化。然而，这一过程中可能会涉及到个人信息的泄露。

无可否认，ChatGPT在其发展历程中，面临着诸如虚假消息、数据安全、知识产权遵守以及伦理等方面的诸多挑战。据萨摩耶云科技集团创始人林建明透露。

金融壹账通人工智能研究院总工程师徐亮在接受记者采访时表示，目前，ChatGPT存在事实性错误、实时性差、缺乏稳定和可重复性等不足，通过OpenAI放出的训练核心步骤可以发现，ChatGPT更像是一个组合了数种新技术模块的基本框架，这个框架自身的每个部分都还有广阔的改进空间。

冰鉴科技董事长顾凌云也对记者表示，类似ChatGPT的AI技术目前确实还存在不少风险。比如大规模使用网络公开数据训练模型，可能会使得意外泄漏的个人隐私信息留存在神经网络中，存在隐私风险。

顾凌云进一步指出，ChatGPT模型使用人类的反馈来对模型进行调优，但这些反馈无法代表所有的人，这也给模型带来了统一的有偏好的价值判断，存在一定的道德风险。

ChatGPT类AI监管正当时

为了促进生成式人工智能技术健康发展和规范应用，中国国家网信办发布的意见稿指出，提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

用于生成式人工智能产品的预训练、优化训练数据，不但要符合《中华人民共和国网络安全法》等法律法规的要求，还不能含有侵犯知识产权的内容。如果数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形。此外，还要能够保证数据的真实性、准确性、客观性、多样性。

中国支付清算协会发布的《倡议》表示，支付行业从业人员要遵守所在地区的网络使用规定，正确认识ChatGPT等工具的机遇和风险，全面评估使用ChatGPT等工具处理工作内容的风险，依法合规使用ChatGPT等工具。在使用ChatGPT等工具时，要严格遵守国家及行业相关法律法规要求，不上传国家及金融行业涉密文件及数据、本公司非公开的材料及数据、客户资料、支付清算基础设施或系统的核心代码等。

不单单是中国在抓紧对ChatGPT类AI的监管，据外媒报道，美国拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查，美国AI巨头将共同商议并制定AI相关安全协议。

此前的3月31日，意大利个人数据保护局宣布，从即日起禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息。同时个人数据保护局开始立案调查。

意大利个人数据保护局认为，ChatGPT泄露了用户对话数据和付款服务支付信息，没有告知用户将收集处理其信息，缺乏大量收集和存储个人信息的法律依据，同时缺乏年龄验证系统，因此未成年人可能接触到非法信息。OpenAI公司必须在20天内通过其在欧洲的代表，向意大利个人数据保护局通报公司执行保护局要求而采取的措施，否则将被处以最高2000万欧元或公司全球年营业额4%的罚款。

随后，德国监管机构也宣布禁止使用ChatGPT，法国、爱尔兰、西班牙等欧洲国家也开始考虑对AI聊天机器人采取更严格的监管。加拿大隐私专员办公室在当地时间4月4日宣布对聊天机器人ChatGPT开发公司OpenAI展开调查，该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。

本文源自：国际金融报