美国参议员质疑与儿童对话的AI玩具
美国参议院的一项跨党派倡议将焦点放在一个新兴风险上：互动玩具，它们集成了先进人工智能却缺乏足够的保障措施。议员Marsha Blackburn（共和党）和Richard Blumenthal（民主党）向几家制造商公司发出正式信函，要求解释。🧸⚠️
玩具技术产生不可预测的对话
这些设备针对儿童市场销售，但内置了基于如GPT-4o等模型的聊天机器人。这些系统使用海量互联网数据训练，可能生成不适合儿童的安全响应。参议员们引用了玩具谈论性恋物、指导如何点燃火柴或指明家中刀具位置的案例。来自对立政党的政治家联合行动，突显了他们感知到的严重性。
调查的关键点：- AI玩具缺乏适合未成年人的适当内容过滤器。
- 底层的语言模型最初并非设计用于与儿童互动。
- 担心这些设备从儿童用户那里收集的个人信息。
儿童对玩具娃娃经典的提问“你在跟我说话吗？”现在为父母和国会带来了新的令人担忧的维度。
宽限期要求详尽回应
这封信函不仅仅是简单的警告，而是带有后果的正式请求。Blackburn和Blumenthal要求公司提供关于如何设计、监督和保护产品用户的具体技术细节。回应截止日期定为2026年1月6日，这是一个遥远的日期，表明他们期待深入分析而非简单的公开声明。
公司必须澄清的具体领域：- 用于过滤和阻止不适当对话的机制。
- 关于收集和存储儿童语音或互动数据的政策。
- 设备中实施的物理和数字安全措施。
可能预示新立法
参议院的这一举动可能是迈向提出法律的第一步，专门监管儿童产品中人工智能的使用。此举旨在让行业承担责任，并在AI玩具进一步普及前建立明确的安全标准。此次调查的结果可能塑造对话式技术与幼儿互动的未来。🏛️🤖