نص الخبر بالعربي
قامت شركة Microsoft يوم الثلاثاء الماضي بتصحيح ثغرة صنفتها على أنها بالغة الأهمية في نظامها الأساسي M365 Copilot AI. في يوم الاثنين، كشف الباحثون الذين اكتشفوا الثغرة الأمنية وأبلغوا مايكروسوفت عنها كيف يمكن لاستغلال إثبات المفهوم الخاص بهم استرداد رموز المصادقة الثنائية والبيانات الحساسة الأخرى من رسائل البريد الإلكتروني التي يمكن لبرنامج Copilot الوصول إليها.
لم تتمكن Microsoft ومقدمو LLM الآخرون من منع منتجاتهم من الامتثال للطلبات الضارة للكشف عن البيانات. السبب الجذري: روبوتات الذكاء الاصطناعي غير قادرة على التمييز بين التعليمات المقدمة من المستخدمين وتلك التي تتسلل إلى محتوى الطرف الثالث الذي تلخصه النماذج، أو تصوغ ردودًا عليها، أو تستخدمها لتنفيذ إجراءات أخرى نيابة عن المستخدم.
ومع عدم وجود وسيلة لتأمين هذه الحدود الحاسمة، تُركت مايكروسوفت وأقرانها لإقامة حواجز حماية معقدة ومخصصة مصممة لكبح جماح العواقب المترتبة على هذه السذاجة غير القابلة للشفاء. يمنعهم حاجز الحماية المدمج في Copilot ومعظم LLMs الأخرى من إرسال نماذج الويب وإرسال رسائل البريد الإلكتروني واتخاذ إجراءات مماثلة يمكن استخدامها لتصفية البيانات من المستخدم.
للتغلب على هذه المشكلة، تحول قراصنة LLM إلى لغة الترميز، والتي، من بين أشياء أخرى، تسمح للمستخدمين بإضافة عناصر التنسيق مثل العناوين والقوائم والروابط إلى النص دون الحاجة إلى علامات HTML. الحل البديل الآخر هو تغليف البيانات الحساسة داخل علامات HTML مثل و. في كلتا الحالتين، يصل طلب الويب الذي يعرض البيانات إلى خادم الويب الخاص بالمهاجم، حيث يتم...