xAI 的 Grok 限制使用 AI 编辑图像，付费无法避免虚假裸体
公司 xAI 对其人工智能平台 Grok 采取了坚定决定。现在明确限制用户如何使用其技术操纵人物照片。此举旨在对抗恶意使用生成 deepnudes 或未经许可的虚假亲密内容。🛡️
针对滥用操纵的技术壁垒
Grok 在其核心模型中实施过滤器，直接拒绝试图不当更改人物图像的请求。这包括添加、移除或修改他们的衣物。此决定纳入行业更广泛的辩论，关于如何设计有效的保护措施。其他公司，如 OpenAI 的 DALL-E 3 或 Midjourney，也面临此挑战并实施类似政策。共同目标很明确：防止这些强大工具被用于骚扰或冒充他人身份。
Grok 实施的关键机制：- 实时分析请求以检测修改服装的尝试。
- 自动拒绝系统识别为潜在滥用的命令。
- 与优先考虑个人同意和隐私的伦理原则保持一致。
将此特定功能货币化将是适得其反的。付费系统可能会制造虚假的合法感。
为什么收费不是解决方案
xAI 的核心论点是，对此能力收费无法解决根本问题。引入付费模式 实际上可能会正常化这种做法，并经济上便利那些怀有恶意意图的人。此外，它会将明显的滥用行为转变为简单的交易服务，这引发严重的伦理冲突。因此，解决方案不是用金钱规范访问，而是从核心技术上阻止模型执行此类任务。
基于付费方法的的问题：- 将有害活动合法化为商业服务。
- 无法威慑愿意付费的恶意用户。
- 将焦点从技术预防转向滥用的货币化。
高级 AI 时代中的常识
此案例突显了技术发展中的一个关键点：ci