01
算法黑箱的来源及危害
“黑箱”这一概念源自控制论领域，它被用于描述那些无法从外部直接观察内部状态的政策、技术和管理系统。在弗兰克·帕斯奎尔的著作《黑箱社会》中，他首次采用算法黑箱隐喻，指的是算法的不透明性。
在2013年，美国康斯威星州法院依据COMPAS算法所提供的量刑前调查报告，对罪犯Eric做出了6年监禁5年监外管制的判决。COMPAS算法的运行逻辑是，通过考虑犯罪主体的个人特征和调查结果等因素，来预测其再次犯罪的概率。Eric因对COMPAS算法的结果表示不满，便向最高法院提出了上诉。然而，COMPAS算法的开发者以该算法涉及到商业机密为理由，拒绝公开。最高法院也没有要求他们做出解释。这表明，在商业秘密和公民权利的冲突中，最高法院更倾向于保护商业秘密。深入分析会发现，这种算法实际上属于技术类知识产权，也就是商业秘密。因此，算法开发者的行为，以商业秘密的身份拒绝公开算法，是合法的。但是，这种不公开的算法却导致了用户和算法使用者之间的信息不对称。换言之，由于算法的透明度不足，当算法侵犯用户权利的时候，用户很难得到及时的司法救助。
此外，算法黑盒可能会加剧甚至加剧算法偏见的问题。无论是算法开发者个人的教育背景、社会认知能力，还是机器的自主学习能力，或者是数据的错误，都可能直接或间接地引发算法偏见的产生。由于“算法黑箱”所具备的不透明性，它为“算法歧视”披上了合理的技术外衣，使得歧视行为难以被其他相关方察觉。
02
域外有关算法黑箱的治理经验
在2018年5月25日，欧盟正式颁布了备受关注的《通用数据保护条例》（GDPR）。这部法规的实施重点在于事前的预防和应对措施，其根源可以追溯到1995年的《数据保护指令》。 GDPR强调了技术和法律手段在解决算法黑箱对个人数据威胁问题上的重要性。为了实现这一目标，该条例提出了一系列具体的措施，其中包括：要求数据收集或使用的合法性必须建立在数据主体知情且同意的基础上；进一步明确个人敏感数据的类别和内容；规定数据使用者需遵循更为详细的数据处理原则等。这些规定的目的是确保个人数据得到充分的保护，防止算法对用户隐私造成不当影响。
在2018年10月23日的第40届数据保护与隐私专员国际大会上，《人工智能伦理与数据保护宣言》得到了通过。这一宣言旨在制定相关原则，以最大程度地防止算法和其他人工智能手段对数据主体隐私权等权益的侵害。其中包括尊重人权和公平原则，保护隐私原则，提升人工智能系统的透明度和可理解性，以及扩大个人授权原则和减少偏见与歧视原则。这些原则凸显了技术和法律之间关系的持续发展，总体的趋势是技术应在法律的框架内运行，同时法律和技术的有机融合和协同作用也应得到重视。这方面的经验对我国具有重要的参考价值。
我国的立法者在认识到人工智能对现代社会带来的挑战与机遇的同时，也积极采取行动，通过发布一系列文件来引导人工智能在法律框架内有序发展。其中，《新一代人工智能治理原则——发展负责任的人工智能》指南就是一例。该指南于2019年发布，强调人工智能系统应秉持开放包容的原则，并努力提升自身的透明度。此外，在2022年，国家互联网信息办公室等部委联合发布了《互联网信息服务算法推荐管理规定》，明确指出算法推荐服务应当遵循公开透明的原则。这些文件的发布，都体现了我国对人工智能发展的重视以及对规范其应用的坚定决心。
03
算法黑箱的规制
一方面，算法公开是算法解释的前提和基础，应当加强对算法公开的保障，增强算法透明度。那么如何提升算法透明度，针对这一问题不同学者也提出了不同的主张。有学者主张可以将参数权重、公式以及理由解释、结果告知等内容进行相应公开，以提高算法的透明度。张淑玲（2018）认为，可以从算法要素透明、算法程序透明和算法背景透明这三个角度构建披露机制，提升透明度。然而，这一公开是有限度的，对源代码的直接公开并不会增加数据主体对算法的可信度，反而容易引发黑客恶意攻击、泄漏商业秘密等危险，其他国家和地区也存在抵制算法源代码公开的做法。例如，美国纽约市通过“1696法案”，规定了算法的源代码应当予以公开并据此成立“算法问责特别工作组”。然而，商业公司强烈反对公开算法源代码的行为，认为此举严重损害其竞争优势。最终，立法者进行妥协，在法案中取消了对算法披露的要求。
另一方面，除了算法公开外，更应该关注算法可解释性。算法具有技术性、专业性等特点，单单公开算法的运作原理难以令相关主体知晓，必须在算法公开的同时，赋予算法使用者有限度的解释义务。算法解释的具体构造，主要包括：一是其主要目的在于通过对算法模型、特定算法决策过程的解释说明；二是其权利主体为受到算法决策不利影响的相对人。具体在司法实践中，由于算法证据多是由控方出示以证明被追诉人有罪或罪重，因此，对于该证据内部算法决策的真实性和客观性存在异议的，被追诉人及其辩护人有权要求提出证据的控方提供相应算法决策解释；三是其义务主体原则上为算法使用者承担算法解释义务，但考虑到算法使用者并不能等同于算法开发者，因此，算法使用者要求新兴网络服务提供者、保险公司等算法应用平台及算法设计者承担相应协助解释义务，四是算法解释的标准和内容。欧盟《一般数据保护条例》第12条规定，算法控制者负有以“简洁、透明、易懂、易获取并清晰直白的语言”提供信息的义务。即算法解释必须以能够为一般人所知晓的程度来开展，否则算法解释就失去了意义。
参考文献：
[1]张淑玲.破解黑箱:智媒时代的算法权力规制与透明实现机制[J].中国出版,2018(07):49-53.
[2]吴椒军,郭婉儿.人工智能时代算法黑箱的法治化治理[J].科技与法律(中英文),2021(01):19-28.
[3]张红春，章知连. 从算法黑箱到算法透明：政府算法治理的转轨逻辑与路径[J]. 贵州大学学报(社会科学版), 2022(4): 65-74.
[4] 解正山.算法决策规制——以算法“解释权”为中心[J].现代法学,2020,42(01):179-193.
往期精彩内容（直接点击阅读）：
ChatGPT最强竞品Claude2来了：代码、GRE成绩超越GPT-4，免费可用
AI炒股回报超500%？ChatGPT能否成为韭菜们的最强股市“外挂”？
AutoGPT太火了，无需人类插手自主完成任务，大步迈向自主人工智能时代
从本质看ChatGPT：当知识、人性、价值观皆可训练时，AI是什么？
欢迎关注“AI演进”并加入AI演进社群
关于我们
AI演进研究院专注于AIGC、ChatGPT、大模型等领域的研究。我们关注最新技术的发展和行业应用，发掘最新AI商业机会。我们致力于推动AI技术进步，培养创新人才，并提供准确的市场分析和投资支持。我们与产业界合作，共同推动AI行业的发展和生态的繁荣。
AI时代，拥有个人微信机器人AI助手！AI时代不落人后！
免费ChatGPT问答，办公、写作、生活好得力助手！
搜索微信号aigc666aigc999或上边扫码，即可拥有个人AI助手！
Related posts
