科技云报道原创。
毫无疑问，AIGC正在给人类社会带来一场深刻的变革。
而剥开其令人眼花缭乱的华丽外表，运行的核心离不开海量的数据支持。
ChatGPT的“入侵”已经引起了各行各业对内容抄袭的担忧，以及网络数据安全意识的提高。
虽然AI技术是中立的，但并不能成为规避责任与义务的理由。
🌟🚨警惕！新兴科技挑战：ChatGPT与AI聊天机器人的潜在安全风险🔥🔍 GCHQ近期发布警示，指出这些人工智能聊天工具可能成为未来网络安全的新漏洞。随着技术的快速发展，它们的普及和影响力不容忽视，黑客可能会利用其智能特性进行恶意操作。保护个人信息和数据安全，我们需要对这一新兴威胁保持高度警觉，并持续关注其动态更新。🛡️💻
尽管ChatGPT的概念出现没有多久，但对网络安全和数据安全带来威胁的问题已经成为业内关注的焦点。
对于目前还处于发展初期的ChatGPT，如此担忧是否杞人忧天？
安全威胁或正在发生
🌟🚀去年年末，创新引领者OpenAI掀起了人工智能领域的风暴，以ChatGPT为起点，开启了对话新时代。随后，全球科技巨头微软紧随其后，将这股热潮转化为实际行动，推出了自家基于ChatGPT技术的革命性聊天机器人——”必应聊天（Bing Chat）”🌟🌈这款聊天机器人凭借ChatGPT的强大技术支持，以其卓越的智能交互和个性化服务，迅速吸引了全球的目光。它不仅延续了OpenAI的创新精神，更将微软的技术实力与用户需求无缝对接，为用户提供了一种全新的、高效的信息获取方式。🌍💻作为一款基于先进算法的搜索引擎优化工具，”必应聊天”无疑在提升用户体验的同时，也推动了搜索引擎行业的技术革新。它的出现，预示着未来人工智能将在搜索领域发挥更大的作用，引领一场信息革命。🔥🔍
由于此类软件能够提供酷似人类的对话，目前这项服务已风靡全球。
🌟了解最新动态💡了吗？ChatGPT背后的秘密曝光🔍！这款热门AI聊天机器人，尽管以其流畅的人工智能对话而闻名，但你可能不知道，它的数据安全一直是业界关注焦点。👀GCHQ的网络安全部门揭示，像ChatGPT这样的AI服务商，理论上能获取到用户与之互动的敏感信息。这其中包括用户的查询内容，OpenAI——其创造者——理论上就有权限查看这些数据。🔍然而，值得注意的是，如何平衡技术进步与隐私保护，是每个科技巨头都需要面对和解决的问题。💡在享受智能化服务的同时，我们也需对数据安全保持警惕。🌍
ChatGPT通过大量文本语料库进行训练，其深度学习能力很大程度上依赖于背后的数据。
出于对信息泄露的担忧，目前已有多家公司和机构发布“ChatGPT禁令”。
🌟律师警告勿将客户信息输入ChatGPT🔍——Mishcon de Reya律所近日发布声明，坚决阻止其团队成员将客户的私人数据输入人工智能聊天机器人ChatGPT，理由是潜在的法律风险。这项举措旨在保护那些在金融城享有高度隐私权的敏感资料，防止其因技术滥用而遭受泄露的风险。律师们被明确指示，遵守相关法规，确保客户信息的安全与机密性。
🌟埃森哲全球70万员工注意啦！💡关于ChatGPT的使用建议来了！🚀尽管这款人工智能工具因其创新和便捷备受推崇，但公司强烈建议大家在处理客户敏感信息时要谨慎。🚫担心ChatGPT可能无意间泄露机密，对业务安全构成潜在风险。记住，保护数据安全是每个专业人士的责任！🛡️保持警觉，让技术为信任服务！🌟
🌟💡英国科技巨头Arm的母体——日本软银集团近期发出了重要提醒——所有员工务必谨慎！别轻易将你们的身份资讯甚至是公司的核心秘密，透露给那些看似友善的人工智能聊天机器人哦！🛡️💻这种信息安全意识至关重要，尤其是在数字化时代，每个环节都可能成为数据泄露的潜在风险。Arm作为业界领头羊，深知保护知识产权和商业机密的重要性，他们正通过这样的内部警告来强化网络安全防线。👩💼🤖记得，每一次点击、输入都要确保背后的安全防护，即使是与AI交流也不例外。让我们的网络对话更加安全，为公司的数据资产保驾护航！🌍🌐
今年2月，摩根大通成为第一家在工作场所限制使用ChatGPT的华尔街投行。
花旗集团和高盛集团紧随其后，前者禁止员工在整个公司范围内访问ChatGPT，后者则限制员工在交易大厅使用该产品。
而在更早些时候，亚马逊和微软为防备员工在使用ChatGPT的过程中泄密，禁止他们向其分享敏感数据，因为这些信息可能会被用作进一步迭代的训练数据。
事实上，这些人工智能聊天机器人背后是大型语言模型（LLM），用户的这些查询内容将会被存储起来，并且会在未来某个时候被用于开发LLM服务或模型。
这就意味着，LLM提供商能够读取到相关查询，并可能以某种方式将它们合并到未来的版本中。
尽管LLM运营商应该采取措施保护数据，但不能完全排除未经授权访问的可能性。因此，企业需要确保他们有严格的政策，提供技术性支持，来监控LLM的使用，以最大限度地降低数据暴露的风险。
另外，尽管ChatGPT本身尚不具备直接攻击网络安全和数据安全的能力，但是由于它具有自然语言生成和理解的能力，可以被用于伪造虚假信息、攻击社交工程等方面。
此外，攻击者还可以使用自然语言来让ChatGPT生成相应的攻击代码、恶意软件代码、垃圾邮件等。
因此，AI可以让那些原本没有能力发起攻击的人基于AI生成攻击，并大大提高攻击成功率。
在自动化、AI、“攻击即服务”等技术和模式加持下，网络安全攻击呈现出暴涨趋势。
在ChatGPT火爆之前，已发生了多次黑客使用AI技术进行的网络攻击。
事实上，人工智能被用户调教“带偏节奏”的案例并不鲜见，6年前，微软推出智能聊天机器人Tay，上线时，Tay表现得彬彬有礼，但不到24小时，其就被不良用户“带坏”，出言不逊、脏话不断，言语甚至涉及种族主义、色情、纳粹，充满歧视、仇恨和偏见，只好被下线结束了短暂的生命。
另一方面，距离用户更近的风险是，用户在使用ChatGPT等AI工具时，可能会不经意间将私密数据输入到云端模型，这些数据可能成为训练数据，也可能成为提供给他人答案的一部分，从而导致数据泄露和合规风险。
AI应用要打好安全底座
ChatGPT作为大语言模型，其核心逻辑事实上是海量数据的收集、加工、处理和运算结果的输出。
总的来说，这几个环节可能会在技术要素、组织管理、数字内容三个方面伴生相关风险。
虽然ChatGPT表示，存储训练和运行模型所需的数据会严格遵守隐私和安全政策，但在未来可能出现网络攻击和数据爬取等现象，仍存在不可忽视的数据安全隐患。
特别是涉及国家核心数据、地方和行业重要数据以及个人隐私数据的抓取、处理以及合成使用等过程，需平衡数据安全保护与流动共享。
除了数据与隐私泄露隐患外，AI技术还存在着数据偏见、虚假信息、模型的难解释性等问题，可能会导致误解和不信任。
风口已至，AIGC浪潮奔涌而来，在前景向好的大背景下，关口前移，建立数据安全防护墙也至关重要。
尤其是当AI技术逐渐完善，它既能成为生产力进步的有力抓手，又易沦为黑产犯罪的工具。
奇安信威胁情报中心监测数据显示，2022年1月份-10月份，超过950亿条的中国境内机构数据在海外被非法交易，其中有570多亿条是个人信息。
因此，如何确保数据存储、计算、流通过程中的安全问题，是数字经济发展的大前提。
从整体看，应该坚持顶层设计与产业发展齐头并进，在《网络安全法》的基础上，要细化风险与责任分析体系，确立安全问责机制。
同时，监管部门可开展常态化监查工作，安全领域企业协同发力，构建全流程数据安全保障体系。
对于数据合规和数据安全的问题，特别是在《数据安全法》推出后，数据隐私越来越重要。
如果在应用AI技术的过程中无法保证数据安全和合规，可能会给企业造成很大风险。
特别是中小企业对数据隐私安全方面的知识比较匮乏，不知道应当如何保护数据不会受到安全威胁。
数据安全合规并不是某个部门的事情，而是整个企业最为重要的事情。
企业要对员工进行培训，让他们意识到每个使用数据的人，都有义务保护数据，包括IT人员、AI部门、数据工程师、开发人员、使用报表的人等，人和技术要结合在一起。
面对前述潜藏风险，监管方和相关企业如何从制度和技术层面加强AIGC领域的数据安全保护？
相较于直接针对用户终端采取限制使用等监管措施，明确要求AI技术研发企业遵循科技伦理原则会更具成效，因为这些企业能够在技术层面限定用户的使用范围。
在制度层面，需要结合AIGC底层技术所需数据的特性和作用，建立健全数据分类分级保护制度。
例如，可根据数据主体、数据处理程度、数据权利属性等方面对训练数据集中的数据进行分类管理，根据数据对于数据权利主体的价值，以及数据一旦遭到篡改、破坏等对数据主体的危害程度进行分级。
在数据分类分级的基础上，建立与数据类型和安全级别相配套的数据保护标准与共享机制。
目光投向企业，还需加快推动“隐私计算”技术在AIGC领域的应用。
这类技术能够让多个数据拥有者在不暴露数据本身的前提下，通过共享SDK或者开放SDK权限的方式，在进行数据的共享、互通、计算、建模，在确保AIGC能够正常提供服务的同时，保证数据不泄露给其他参与方。
此外，全流程合规管理的重要性愈加凸显。
企业首先应关注其所运用的数据资源是否符合法律法规要求，其次要确保算法和模型运作的全流程合规，企业的创新研发还应最大限度地满足社会公众的伦理期待。
同时，企业应制定内部管理规范，设立相关的监督部门，对AI技术应用场景的各个环节进行数据监督，确保数据来源合法、处理合法、输出合法，从而保障自身的合规性。
AI应用的关键在于部署方式与成本间的考量，但必须注意的是，如果没有做好安全合规、隐私保护，对企业来说或将蕴含“更大风险点”。
AI是把双刃剑，用得好让企业如虎添翼；用不好疏忽了安全、隐私和合规，会给企业带来更大损失。因此，在AI应用前，需要构筑更加稳固的“数据底座”，正所谓，行稳方能致远。
【关于科技云报道】
专注于原创的企业级内容行家——科技云报道。成立于2015年，是前沿企业级IT领域Top10媒体。获工信部权威认可，可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。
AI时代，掌握AI大模型第一手资讯！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
扫码右边公众号，驾驭AI生产力！
Related posts
