Midjourney图片生成器漏洞曝光：容易被黑客利用制造虚假信息

文章概要:

1. 最新研究揭示Midjourney图片生成器存在漏洞，容易被黑客入侵，可能导致虚假信息传播。

2. 研究发现，用户可以绕过Midjourney的规定，制作具有攻击性的政治图片，引发严重问题。

原内容表达较为简洁，我们可以通过增加细节和表述的深度来丰富文章，同时保持字数不变。虽然Midjourney的使用条款明确规定禁止制作攻击性、血腥或虚假图片，但据研究显示，用户依然能够找到方法绕过这些规定。具体而言，研究人员发现，一些用户通过使用特定工具或技巧，成功地生成了符合规定限制的图片。这些图片可能具有攻击性、血腥或虚假的特点，对其他用户造成负面影响。因此，为了保护Midjourney平台上的用户免受有害内容的影响，有必要采取更加严格的措施，加强对用户的监管。

站长之家9月26日 消息:据itbusiness报道，近期，一项新的研究揭示了Midjourney图片生成器存在的严重安全漏洞，这可能引发一场新的争议。Midjourney MI作为一款生成式人工智能平台，在其服务条款中明确禁止用户制作任何侮辱性或攻击性的图片。然而，最新的研究发现，用户可以轻松绕过这些规定，制作可能引发虚假信息传播和政治争议的图片。

打开凤凰新闻，查看更多高清图片

图源备注：图片由AI生成，图片授权服务商Midjourney

在一项研究中，专家们强调，通过提供特定的触发器，用户有能力创作涉及政治人物的暴力图像，这类图像有可能引发社会的不满和混乱。尽管Midjourney平台宣称其设有严格的内容审查制度，但研究成果却暗示这些规定易于被绕过，这无疑加剧了问题的严重性。

在Midjourney的服务条款中，明确规定了禁止制作涉及成人内容或血腥场面的图片，并将其用于政治竞选等用途。然而，令人遗憾的是，即便有如此严格的规定，用户仍能轻易地制作出违反这些规定的图片。这些违规行为极有可能导致虚假信息的扩散，从而严重威胁到公共舆论和政治环境的健康。因此，对于Midjourney这样的服务提供商而言，加强对其服务条款的执行力度，保护用户和相关环境的权益，显得尤为重要。

此外，研究还发现，用户通过运用技巧和代码，能够规避Midjourney的服务条款，进而生成不受限制的图片。尽管Midjourney方面宣称其具备人工审核团队，但实际上，用户依然可以利用特定的代码词汇，从而轻松地绕过审核，生成具有潜在风险的图片。

针对这一研究成果，Midjourney方面尚未发表正式意见。不过，这一发现已引发对人工智能图像生成器安全性的关注，特别是在2024年政治选举活动日益增加的背景下。近期，人工智能技术在政治宣传中得到了广泛应用，但同时也让人们担忧虚假信息和误导性图片的问题。