人工智能聊天机器人和协作工具的潜在风险

财联社4月19日讯（编辑 潇湘）年初以来，围绕ChatGPT等最新的人工智能聊天工具的投资热潮，可谓“一浪高过一浪”。不过随之产生的安全性、透明度和公平性等监管话题，也开始越来越受到人们的高度重视。虽然当前人工智能技术正掀起新一轮技术革命，但也引发了人们对潜在新型攻击和内容合规等安全风险的疑虑……

本周，以色列网络安全公司Team8在一份最新报告中就表示，使用ChatGPT等生成式人工智能工具的公司，可能会将客户信息和商业机密置于危险之中。

报告表明，随着人工智能聊天机器人和协作工具的广泛推广普及，一些公司可能会面临数据泄露和法律风险。黑客可以利用这些聊天机器人和协作工具来获取敏感的企业信息或对企业发动攻击。此外，目前投喂给聊天机器人的机密信息未来也可能被AI公司所利用，这给公司带来了潜在的风险。

Team8是一家成立于2014年的以色列网络安全公司，在全球网络安全领域享有盛誉。该公司由前以色列国防军精英部队“8200部队”的成员创立，专注于网络安全、数据分析和人工智能等领域。Team8与多家全球巨头企业有合作和投资关系，包括巴克莱银行、微软、沃尔玛和思科等。

多类风险不容小觑

大型科技公司，包括微软和谷歌母公司Alphabet，都在争相通过生成式AI技术改进聊天机器人和搜索引擎。他们利用从互联网上抓取的数据训练其AI模型，为用户提供一站式服务。

对此，Team8在报告表示，如果企业使用机密或私密数据来投喂这些工具，今后将很难删除相关信息。

Team8写道：“使用AI聊天工具的企业，其敏感信息、知识产权、源代码、商业机密和其他数据，可能会通过用户直接输入或API等渠道被其他人获取。”

Team8目前将这一风险标记为“高风险”。不过他们也表示，如果采取适当的防范措施，该风险将能降为“可控”。

Team8在报告中还强调，目前对聊天机器人的查询尚不会被输入大型语言模型中来训练AI，这与最近关于这些信息有可能被他人看到的报道相悖。不过，该报告也指出，在训练未来版本的大语言模型时，未必不会采取这种实时接入的方式。

该报告还提到了其他几项与整合生成式人工智能工具有关的“高风险”问题，并指出信息正越来越多地面临通过第三方应用程序共享的威胁。

微软在必应搜索引擎和Office 365工具中，已经嵌入了一些人工智能聊天机器人的功能。Team8报告表明，第三方应用程序正在利用生成式人工智能的API，如果这些应用程序遭到黑客攻击，攻击者可能会失去电子邮件和网络浏览器权限，并且攻击者还可以冒充用户进行行动。

报告还罗列了一些AI聊天工具存在的“中风险”问题，例如：使用人工智能有可能加剧歧视、损害公司声誉或导致企业遭遇侵权诉讼等。

多位权威人士为报告“背书”

以下是重新组织后的内容：据媒体所知，微软公司副总裁Ann Johnson参与了起草这份报告。此外，微软公司还向ChatGPT的开发者Open AI投资了数十亿美元。

微软发言人表示，“微软鼓励就安全和人工智能领域不断发展的网络风险进行透明讨论。”

此外，数十名美国公司的首席信息安全官也被列为这份报告的撰稿人。Team8的报告还得到了前美国国家安全局局长兼网络战司令部司令迈克尔·罗杰斯(Michael Rogers)的认可。

目前，ChatGPT聊天机器人的火爆已经引发了全球范围内监管呼声。不少国家的政府已担心，在人们试图利用这项技术提高效率时，这种创新也有可能会被用于不法行为。

美国联邦贸易委员会(U.S. Federal Trade Commission)的领导人周二表示，最新的人工智能工具，如ChatGPT，可能导致诈骗行为激增。该机构将追究滥用人工智能技术来进行欺诈的公司。