微软起诉一组织非法入侵其AI服务,绕过安全防护生成有害内容

理想主义者 19 0

《任天堂明星大乱斗》这个名字很好理解,但原版《大乱斗SmashBrothers》这个名字就有点不知道是怎么来的,任天堂之前也从未正式解释过为什么选这个名字,特别是“Brothers”这个词,明明游戏中的格斗角色中只有极少部分是兄弟关系,但现在有了比较正式的解释。

IT之家 1 月 12 日消息,据 TechCrunch 报道,微软公司已对一组织提起法律诉讼,指控其故意开发并使用工具绕过云 AI 产品的安全防护措施,非法访问并生成有害内容。该诉讼于 2024 年 12 月由微软向美国弗吉尼亚东区联邦地区 提交,涉及 10 名未具名的被告。

微软起诉一组织非法入侵其AI服务,绕过安全防护生成有害内容

根据诉讼文件,微软指控这些被告通过使用窃取的客户凭证和定制软件,了 Az e OpenAI 服务。Az e OpenAI 是微软基于 OpenAI 技术开发的全托管服务,提供包括 Ch GPT 在内的多种 AI 模型。微软称,被告违反了《计算机欺诈和滥用法》《数字千年版权法》以及联邦反敲诈勒索法,利用其软件和服务器生成“攻击性、有害且非法”的内容。微软并未提供这些内容的具体细节。

微软在诉讼中表示,公司于 2024 年 7 月发现,部分 Az e OpenAI 服务的客户凭证(特别是 API 密钥,即用于验证或用户的 字符串)被用于生成违反服务使用政策的内容。经过调查,微软确认这些 API 是从付费客户处窃取的。微软指出,被告通过系统性的 API 密钥 行为,从多个客户处获取了密钥,并利用这些密钥实施非法活动。

据微软指控,被告利用窃取的 API 密钥创建了一种“即服务”模式,并开发了一款名为“de3u”的客户端工具。该工具允许用户利用被盗的 API 密钥,无需编写代码即可通过 DALL-E 模型生成图像,同时试图绕过 Az e OpenAI 服务的内容过滤机制。例如,当用户输入的文本提示包含触发内容过滤的词汇时,de3u 会阻止服务修改提示内容,从而生成可能有害的图像。

微软还提到,被告通过非法编程访问 Az e OpenAI 服务,逆向工程了微软的内容和滥用防护措施,导致服务遭受损失。目前,托管在 GitHub(微软旗下公司)上的 de3u 项目代码库已无法访问。

IT之家注意到,在周五发布的一篇博客文章中,微软表示, 已授权其查封一个对被告运营“至关重要”的网站,以便收集证据、分析其盈利模式,并 其技术基础设施。微软还表示,已针对观察到的非法活动采取了“反制措施”,并在 Az e OpenAI 服务中增 额外的安全防护机制,但未透露具体细节。

标签: #微软 #密钥 #被告