Microsoft は Microsoft 365 の Copilot Chat で発生した不具合を修正しました。AI アシスタントは、アクセス制限が維持されているにもかかわらず、Outlook の機密とラベル付けされたメールの内容を要約することができました。同社は不正アクセスはなかったと説明していますが、このインシデントは設計上の問題を露呈しています：AI がユーザーが当然視していたプライバシーの境界を越えました。
技術的な権限と処理ロジックの微妙な違い ⚙️
このエラーは、システム権限でデータを読み取れることと、文脈的にそれを処理するかどうかの決定の区別にあります。Copilot は Graph API と統合され、アクセス保護を尊重していましたが、閲覧可能なものはすべて要約可能というロジックが、機密ラベルと DLP のセマンティクスを無視しました。更新では、モデルのコンテキストフィルターを調整し、特定のラベルやポリシーの存在が自動的にコンテンツを応答から除外するように修正されています。
あなたの機密 AI：あなたの利益のためにあなたの秘密を読む 🤫
これは古典的な はい、あなたの日記を読めますが、読むべきかどうかが問題です です。Copilot は親切心から、最高機密 とマークされたメールを単なるテキストとして要約し、時間を節約すると判断しました。これは、ロボット執事が金庫の鍵を持っており、毎朝あなたの遺言の内容を感動的な詩だと思って朗読するようなものです。デジタル信頼には、AI にも少しの配慮を期待することが含まれます。