xAI新推图像生成器引发争议：可生成任意内容，审核机制存疑

xAI新推图像生成器引发争议：可生成任意内容，审核机制存疑

xAI的Grok聊天机器人最近推出了图像生成功能，允许用户通过文本提示生成图像并发布到X平台上。然而，这一功能的推出却引发了一系列争议，生成的图像内容涉及政治敏感话题，且平台的内容审核机制存在明显漏洞。

争议性图像频现

X Premium订阅用户已经开始上传各种生成的图像，其中包括奥巴马吸毒、特朗普与一名怀孕女性（大致看起来像卡玛拉·哈里斯）合影，以及特朗普和哈里斯举枪的场景。随着美国大选的临近，加上X已经在欧洲面临监管机构的审查，Grok的生成式AI功能可能会引发新的争议。

内容审核机制存疑

虽然Grok声称有保护措施，比如避免生成暴力、仇恨或侵犯版权的图像，但这些“规定”似乎并非严格执行。多次询问Grok的限制，会得到不同的回答，有时会提到“文化敏感性”之类的限制，显得相当不一致。xAI尚未回应关于这些防护措施是否真实存在的置评请求。

尽管Grok在文本生成中会拒绝涉及非法行为的请求，例如教你如何制造毒品，但在图像生成中，一些在其他平台上会被立刻封锁的提示却能通过。比如，“特朗普穿纳粹制服”的提示会生成一个穿着深色制服的特朗普图像。

用户发现，即使Grok拒绝某些请求，也能轻易找到漏洞绕过其限制。这种松散的保护措施可能会导致生成暴力或色情内容，甚至可能涉及更严重的违法内容，而马斯克对这些问题似乎并不在意，反而认为这些功能让人“尽情娱乐”。

监管挑战

与之对比，OpenAI和其他公司对于生成内容有更严格的限制，并且通常会在图像中添加水印，防止误用。然而，Grok的松散规定与马斯克对标准AI和社交媒体安全规范的蔑视相吻合，但在X平台已经因内容审核问题受到监管调查的背景下，这种开放的AI生成器可能会让平台面临更多的审查和风险。

欧洲委员会和英国监管机构已经在调查X是否违反了数字安全法规，美国立法者也在寻求对AI生成的虚假信息和深度伪造内容进行监管。因此，Grok的宽松管控不仅可能影响高端用户和广告商，还可能为X平台带来新的法律挑战。