澳大利亚国防部数千次未经授权使用人工智能聊天机器人ChatGPT

本文概要:

1. 澳大利亚国防部工作人员在未经批准的情况下，使用人工智能聊天机器人 ChatGPT 数千次。

为了确保数据安全和隐私保护，澳大利亚国防部采取了一项临时措施，限制了 ChatGPT 所有者 OpenAI 对某些网络域的访问。

3. 缺乏政府范围的政策来管理在政府部门中使用生成式人工智能产品的安全问题。

站长之家 8月21日 消息:根据 Crikey 的信息自由请求文件显示，澳大利亚国防部工作人员在未经批准的情况下使用人工智能聊天机器人 ChatGPT 数千次。

根据相关文件的内容，我们可以得知，为了防止数据或隐私泄露，该国国防部已经采取措施限制了ChatGPT的所有者OpenAI对其网络域的访问。

在2022年12月1日至2023年6月30日这段时间内，澳大利亚国防部设备总共与OpenAI.com网站的5630个接口建立了连接。这些连接均通过在线网页界面实现，从而排除了通过第三方服务或OpenAI的智能手机应用程序建立的连接。

我国国防部指定的决策者David Evans在一封附有信件中，为国防部ChatGPT政策提供了更多信息。他在信中强调，国防部并未批准使用OpenAI的产品，同时已经限制在国防设备上应用”在线AI服务”，例如ChatGPT。

他强调，这一举措是为了防止机密或敏感信息意外泄露。国防部已确认收到Crikey的采访请求，但未回应关于在限制实施前哪些链接受到限制、何时采取的控制措施，以及是否列出了”合法业务或运营需求”以允许绕过限制进行访问的问题。

目前，澳大利亚联邦各部门尚无关于使用生成式人工智能产品（如 ChatGPT）的政府范围指导意见。虽然今年早些时候，数字转型局表示公共服务部门对这些服务的实验 “不被阻止”，但警告应对潜在风险进行全面评估。澳大利亚内政部曾试验使用 ChatGPT，但另一份信息自由请求显示，该部门没有记录其对 OpenAI 产品的输入。

澳大利亚新南威尔士州的绿党参议员兼数字权利发言人David Shoebridge指出，大量证据表明，在采取行动之前，国防部已经无法掌控局势。这一情况再次突显了我国在处理新兴技术安全问题方面亟需一个具备可信政策的政府。

Shoebridge 强烈建议，在向这些服务提交更多数据之前，有必要制定新的规定和监管措施，以解决政府在运用生成性人工智能方面所面临的问题。他指出：“尽管国防部拥有大量机密信息，但在未建立完善安全控制措施的情况下，却选择使用可能涉及明显隐私问题的平台，这无疑让人感到担忧。”