كوبايلوت من مايكروسوفت يصل إلى رسائل بريد إلكتروني سرية في أوتلوك 🤖

لقد قامت مايكروسوفت بإصلاح خلل في دردشة كوبايلوت لمايكروسوفت 365. كان بإمكان مساعد الذكاء الاصطناعي تلخيص محتوى رسائل البريد الإلكتروني في أوتلوك الموسومة بأنها سرية، على الرغم من أنها تحتفظ بقيود الوصول الخاصة بها. توضح الشركة أنه لم يحدث وصول غير مصرح به، لكن الحادث يكشف عن مشكلة في التصميم: عبرت الذكاء الاصطناعي حداً للخصوصية كان المستخدم يفترضه أمراً مسلماً به.

الفرق بين الصلاحيات التقنية ومنطق المعالجة ⚙️

يتركز الخطأ في التمييز بين امتلاك صلاحيات النظام لقراءة بيانات معينة وقرار السياق لمعالجتها. كوبايلوت، عند اندماجه مع Graph API، كان يحترم حمايات الوصول، لكن منطق كل ما يمكن استشارته يمكن تلخيصه تجاهل دلالة علامات السرية وDLP. تقوم التحديث بتصحيح ذلك من خلال تعديل فلاتر السياق للنموذج، بحيث تستبعد وجود علامات أو سياسات معينة المحتوى تلقائياً من الردود.

ذكاؤك الاصطناعي السري: يقرأ أسرارك لصالحك الخاص 🤫

إنه الكلاسيكي نعم، يمكنني قراءة يومياتك، لكن السؤال هو ما إذا كان يجب عليّ ذلك. كوبايلوت، في حماسه للخدمة، قرر أن البريد الموسوم بـ سر عالي هو مجرد نص آخر يُلخص لتوفير وقتك. إنه كما لو أن خادمك الروبوتي، الذي لديه مفتاح خزنة أموالك، يتلو لك كل صباح محتوى وصيتك ظناً أنه قصيدة ملهمة. الثقة الرقمية الآن تشمل توقع أن يكون للذكاء الاصطناعي أيضاً بعض الحساسية.