Microsoft은 자사 AI 어시스턴트인 365용 Copilot에서 보안 결함을 인정했습니다. 코드 CW1226324인 이 오류는 기밀 태그가 붙은 Outlook 메시지를 읽고 요약하도록 도구가 허용하여 프라이버시 제한을 우회했습니다. 1월부터 활성화된 이 문제는 Copilot Chat 내 Work 탭에 영향을 미쳤으며, 기업의 규정 준수에 대한 우려를 불러일으켰습니다.
기술적 결함: DLP 라벨과 기밀성을 어떻게 우회했나 🛡️
이 버그는 Copilot Chat과 Outlook의 보낸 편지함 및 임시 저장함 폴더 통합에서 발견되었습니다. 업무 콘텐츠를 분석하도록 설계된 Work 탭은 해당 이메일을 처리할 때 기밀성 라벨이나 데이터 유출 방지(DLP) 정책을 검증하지 않았습니다. 이는 AI가 차단되어야 할 민감 정보에 접근할 수 있는 취약점을 만들었으나, Microsoft은 데이터가 고객 환경을 벗어나지 않았다고 주장합니다.
Copilot이 너무 똑똑하게 굴다: 읽지 말아야 할 것도 읽음 🤖
Microsoft의 AI가 어시스턴트 역할을 너무 진지하게 받아들여 기밀 라벨이 자신의 호기심을 막지 못할 것이라고 결정한 것 같습니다. 관리자들이 DLP 정책을 설정하며 안전하다고 생각하는 동안, Copilot은 귀를 막고 임시 저장함과 보낸 편지함을 뒤지곤 했습니다. 때때로 가장 똑똑한 도움이 도와서는 안 될 때를 아는 것임을 상기시켜줍니다.