【新智元导读】FTC突然对OpenAI展开调查,Altman连发3推澄清。FTC对阵OpenAI的大戏正缓缓拉开帷幕。
重磅!美国联邦贸易委员会的调查说来就来!
调查对象不是别人,正是风头正旺的OpenAI。
一封长达20页的调查要求书直接给了Sam Altman当头棒喝。
OpenAI又双叒摊上事了
可能OpenAI还没来得及选好帮自己打官司的律师,这边又被美国联邦贸易委(FTC)员会找上门来了。
FTC给OpenAI列了一个包括49个大问题,200多个小问题的清单,要求OpenAI就清单上的所有问题进行详细地回答和陈述。
看到这一大串的问题,向来以成熟冷静,处变不惊著称的Sam Altman也有点麻了,连发3推给OpenAI压压惊。
这份清单的49个问题,除去要求OpenAI讲清楚基本的公司架构之外,针对模型训练,隐私和提示词风险,API插件,个人信息等几个方面,询问得非常专业和详细。
FTC!主动出击
而公布的20页民事调查要求书(CID)一看就专业的不行。
知情人士表示,这份20页的CID是真实的。但FTC没有予以置评。
CID中指出,本次FTC的调查将重点关注OpenAI是否存在不公平,或欺诈性的隐私数据安全条例,以及是否有不公平,或欺诈性的行为,导致用户蒙受受到伤害的风险(包括声誉损失),有无违反《联邦贸易委员会法》第5条内容。
一直以来,立法者都在为生成式AI发愁,需不需要立新法,怎么立,怎么保护知识产权、用户数据,都是「头疼大事」。
而在这次调查中,FTC霸气地表示,我们已有法律权力来追究AI可能造成的伤害。
而提到FTC,就得提到主席Lina Khan。
作为一个女强人,她直接就是一个出手,对新兴技术采取主动监管,而非被动应对。
概括来看,CID中要求OpenAI列出所有有权访问其模型的第三方,并要求这些第三方分别讲清楚各自是如何保留、处置用户数据的,以及自己公司模型训练的数据从哪儿来。
CID还要求OpenAI说明他们是如何评估LLM存在的风险的,以及是如何检测并处理有误导性、歧视性的内容的。
要知道,在今年3月,OpenAI曾经出现过疏漏,当时的错误是:一部分用户可以看到其他用户的历史聊天记录的标题,以及1.2%左右的ChatGPT Plus用户的支付信息暴露。
为此,3月24号OpenAI在官网上发布了一篇文章,解释20号发生了什么。
而此次的调查要求OpenAI对这个事儿进行二次说明。
其实截止到现在,OpenAI的CEO Altman在华盛顿还是个香饽饽的。
立法者们觉得,Altman在对立法监管自家公司产品这件事上,还算是兼听则明的。
不过,也有另一些AI专家提醒,Altman这么说也可能有自己的考虑,还是要广泛听取各方不同的观点。
质询函内容
1. 公司基本信息及背景
2. 相关告知与陈述
3. 模型开发与训练
4. 风险评估与应对
5. 隐私和Prompt风险及措施
6. API集成及插件
OpenAI在运作过程中,必须公开其详细的法定名称、地址、联系电话等基本信息,同时,也需要向公众展示其组织结构、子公司、合伙企业等详细情况。在特定的时间段内,OpenAI还需要定期公布其员工数量、组织架构图、高级管理人员和董事的详细资料,以及股东的详细信息。此外,OpenAI还需公开其在与第三方合作开发LLM(人工智能语言模型)过程中所签订的所有协议的详细内容。同时,OpenAI也需公开其在训练、测试、审计和监控LLM过程中所采用的政策和程序。对于训练LLM所需的数据,OpenAI必须说明其数据来源、数据类型、数据保存方式以及负责数据的个人或部门的基本情况。同时,OpenAI还需公开其采取的技术和组织安全措施,旨在降低LLM输出中可能包含非法、不安全、具有偏见或误导性内容的风险。
OpenAI必须披露用户投诉受到伤害的详细信息以及应对的回应。OpenAI必须披露与AI系统的隐私、安全和伦理相关的政策和程序。OpenAI必须披露与其LLM的安全性、偏见和事实正确性相关的内部沟通、评估和研究的详细信息。OpenAI必须披露其如何监控遵守与审计AI系统相关政策的详细信息。OpenAI必须披露向LLM用户提供的说明、指南和培训材料的详细信息。OpenAI必须披露与其LLM相关的任何外部研究/测试并概述结果。
OpenAI必须披露其为应对安全问题而对LLM做出的任何修改的详细信息。
屋漏偏逢连夜雨
OpenAI最近的麻烦事还真不止这一件。
科技公司劲敌——FTC
FTC中文全称是联邦贸易委员会,职能类似于我们国家的商务部。
网友反应
在Altman稳定军心一般发了三条推特以后,底下网友众说纷纭。
AI时代,拥有个人微信机器人AI助手!AI时代不落人后!
免费ChatGPT问答,办公、写作、生活好得力助手!
搜索微信号aigc666aigc999或上边扫码,即可拥有个人AI助手!