OpenAI 计划为 ChatGPT 推出成人模式
据报道，OpenAI 正在开发一项功能，允许 ChatGPT 用户生成标记为成人内容的材料。此模式将包括色情、亵渎和极端暴力描绘等主题，但仍将维持针对非法材料的明确界限。公司正在评估如何实施此功能而不违反其基本安全规范。🤖
一个扩展受控表达性的项目
目标不是允许露骨色情，而是创建一个受监管的空间，让同意的成年人可以探索成熟虚构叙事或关于性教育的主题。OpenAI 认为，屏蔽所有此类内容可能会不公平地限制艺术表达和学习。该系统将依赖用户特定设置以及访问功能前进行年龄验证的稳健流程。
拟议模式的关键特性：- 预计推出： 根据当前规划，可能在 2026 年第一季度首发。
- 明确界限： 将维持对伤害未成年人或非法材料的严格禁止。
- 集成： 将作为平台内的特定选项运行，而不是全球性变更。
这一举措是关于如何平衡成年用户创造力与保护和建立控制的需求的更广泛内部辩论的一部分。
关于语言模型界限的伦理辩论
这一举措将 OpenAI 置于一个关键讨论的中心：生成式语言模型 应该允许什么，以及谁来定义这些参数。虽然一些群体捍卫成年人使用工具的自由，但其他人则对将暴力或高度露骨内容正常化可能带来负面社会后果表示担忧。
争议的核心点：- 自由 vs. 控制： 允许表达与防止滥用或伤害之间的冲突。
- 透明度： OpenAI 声称其过程是开放的，并寻求公众反馈。
- 必要共识： 最终实施将取决于在技术与伦理上就划定界限达成一致。
迈向理解人类复杂性的 AI
似乎人工智能 也在朝着为 18 岁以上用户分类内容的方向前进，监督算法充当数字监护人。这一举措反映了让机器更好地理解人类状况 的复杂性和有时露骨性的努力，同时仍在责任框架内运作。挑战仍然巨大。⚖️