Microsoft은 Microsoft 365용 Copilot Chat의 결함을 수정했습니다. AI 어시스턴트는 접근 제한을 유지하고 있음에도 불구하고 기밀로 표시된 Outlook 메일의 내용을 요약할 수 있었습니다. 회사는 무단 접근은 없었음을 명확히 했지만, 이 사건은 설계 문제점을 드러냅니다: AI가 사용자가 당연하게 여겼던 개인정보 보호 경계를 넘어섰습니다.
기술적 권한과 처리 로직 사이의 미묘한 차이 ⚙️
이 오류는 데이터를 읽을 수 있는 시스템 권한을 가진 것과 그 데이터를 맥락적으로 처리할지 여부를 결정하는 것 사이의 구분에 있습니다. Copilot은 Graph API와 통합되면서 접근 보호를 준수했지만, 조회 가능한 것은 모두 요약 가능하다는 로직이 기밀성 라벨과 DLP의 의미론을 무시했습니다. 업데이트는 모델의 맥락 필터를 조정하여 특정 라벨이나 정책의 존재가 응답에서 내용을 자동으로 제외하도록 수정했습니다.
당신의 기밀 AI: 당신의 비밀을 당신의 이익을 위해 읽기 🤫
이것은 고전적인 네 일기를 읽을 수는 있지만, 읽어야 하는가입니다. Copilot은 최고 기밀로 표시된 메일을 단순히 시간을 절약하기 위해 요약할 텍스트로 간주했습니다. 마치 로봇 집사에게 금고 열쇠를 주고 매일 아침 유언장 내용을 영감을 주는 시라고 생각하며 낭독하는 것과 같습니다. 이제 디지털 신뢰에는 AI도 약간의 신중함을 기대하는 것이 포함됩니다.