미국 상원, 친밀한 딥페이크 대응을 위한 Defiance 법안 승인
미국 상원은 양당의 지지를 받은 Defiance 법안에 찬성표를 던져 인공지능으로 생성된 deepfakes의 확산을 막기 위한 이니셔티브를 승인했습니다. 이 법안은 영향을 받은 사람들의 허가 없이 합성 성적 자료를 유포하는 것을 구체적으로 처벌하는 데 초점을 맞춥니다. 이 입법 진전은 이 기술을 이용해 개인, 특히 여성과 공인 인사들을 해치거나 협박하거나 명예를 훼손하는 것에 대한 경종이 커지는 가운데 일어났습니다. 법안 추진자들은 이 디지털 학대 피해자들을 보호하기 위해 연방 규정을 업데이트하는 것이 필수적이라고 주장합니다. 🛡️
합성 친밀 콘텐츠 정의 및 처벌
Defiance 법안은 허가 없이 명시적인 성적 콘텐츠가 포함된 deepfakes를 생산하거나 공유하는 것을 연방 범죄로 규정합니다. 이 제안은 피해자들이 IA로 생성된 이 자료를 제작하거나 배포한 자들에 대해 민사 소송을 제기할 권리를 부여합니다. 또한 웹사이트가 공식 통지를 받은 후 콘텐츠를 제거하지 않으면 책임을 질 수 있도록 규정합니다. 이 법안은 많은 주 법률이 합성 콘텐츠를 명확히 다루지 않는 법적 공백을 메우려 합니다.
법안의 주요 메커니즘:- 동의 없이 친밀한 deepfakes를 생성하거나 배포하는 것을 연방 차원에서 범죄화합니다.
- 피해자들이 제작자와 배포자들에게 피해 배상을 청구할 수 있게 합니다.
- 통지를 받은 후 자료를 제거하지 않은 플랫폼에 책임을 부과합니다.
"우리의 법률이 기술과 같은 속도로 진화하여 사람들의 존엄성과 안전을 보호해야 합니다." – 법안 추진 의원들의 주장.
xAI의 Grok 사건이 절차를 가속화
deepfakes에 대한 논의는 엘론 머스크의 기업 xAI의 챗봇 Grok과 관련된 사건 이후 우선순위를 얻었습니다. 올해 초 일부 사용자들이 Grok의 안전 제한을 우회해 명시적인 성적 콘텐츠가 포함된 응답을 생성하게 했습니다. 회사가 결함을 신속히 수정했음에도 이 에피소드는 특정 AI 도구를 조작하는 것이 얼마나 쉬운지를 보여주었습니다. 이 사례는 상원 청문회에서 새 법안이 완화하려는 위험의 구체적인 예로 언급되었습니다.
사건의 논의에 미친 영향:- 일부 AI 시스템이 악의적인 prompts에 취약하다는 것을 입증했습니다.
- 예시를 제공했습니다