马斯克没能拦住:美国首个 AI"脱衣"禁令正式生效,xAI 诉讼被法官驳回
尽管马斯克旗下 AI 公司 xAI 发起紧急诉讼试图阻止,美国首个针对 AI"脱衣"(Nudification)技术的禁令仍于 8 月 1 日在明尼苏达州如期生效。Gizmodo 评论称:"Grok 的创造者们不想看到这个结果,但它还是发生了。"
法官:起诉太迟了
明尼苏达州联邦地区法院法官多诺万·弗兰克驳回了 xAI 的紧急暂缓执行申请。他在裁决中指出,xAI 直到 7 月 29 日才提起诉讼——距离州长签署法案已过去近三个月,距离法律生效仅剩三天。"如此延迟才提起诉讼并申请临时限制令,表明所谓的损害并非迫在眉睫。"
值得注意的是,这并非案件的最终结果。法院已安排于 8 月 19 日举行听证会,决定是否签发初步禁令。但在此之前,这项法律将继续执行。每次违规最高可面临 50 万美元民事罚款。
xAI 的尴尬处境
Gizmodo 指出,xAI 作为原告的身份本身就很尴尬。该公司正面临一项集体诉讼,指控用户利用 Grok 聊天机器人生成了大量 AI 儿童性虐待材料。数字仇恨对抗中心(CCDH)估计,Grok 在 2025 年底至 2026 年初期间生成了约 300 万张色情化图像,其中约 2.3 万张疑似描绘儿童。
尽管 xAI 已在 1 月将 Grok 的图像生成功能限制为付费用户,并在随后推出更严格的限制措施,但 NBC News 报道称,截至 4 月,Grok 仍能生成"脱衣"图像。
全美首例,影响深远
这项由明尼苏达州州长蒂姆·沃尔兹于今年 5 月签署的法律,在州众议院以 132 比 1、参议院以 65 比 0 的压倒性票数通过。法律禁止任何网站、应用或软件向用户提供 AI"脱衣"功能,同时也禁止宣传此类能力。
Gizmodo 认为,明尼苏达州的禁令很可能会引发其他州的效仿,成为美国 AI 内容监管的一个重要转折点。而对于 xAI 来说,8 月 19 日的听证会将是其捍卫 Grok 图像编辑功能的最后机会。