استخدم باحثو الأمن ChatGPT كمستمر مشارك لنهب البيانات الحساسة من صناديق الوارد Gmail دون تنبيه المستخدمين. تم إغلاق الثغرة الأمنية المستغلة بواسطة Openai ، لكنها مثال جيد على المخاطر الجديدة الملازمة للوكيل الذكاء الاصطناعي.
اعتمد سرقة ، التي تسمى Shadow Leak ونشرها شركة الأمن Radware هذا الأسبوع ، على quirk في كيفية عمل وكلاء الذكاء الاصطناعى. وكلاء الذكاء الاصطناعى هم مساعدون يمكنهم التصرف نيابة عنك دون إشراف مستمر ، مما يعني أنه يمكنهم تصفح الويب والنقر على الروابط. تقوم شركات الذكاء الاصطناعى بتشغيلها كصهر كبير بعد أن يسمح المستخدمون بوصولهم إلى رسائل البريد الإلكتروني الشخصية ، والتقويمات ، ومستندات العمل ، إلخ.
استغل باحثو Radware هذه المساعدة من خلال شكل من أشكال الهجوم يسمى الحقن السريع ، وهي التعليمات التي تجعل الوكيل يعمل بشكل فعال على العمل للمهاجم. من المستحيل منع الأدوات القوية دون معرفة مسبقة باستغلال العمل وقد نشرها المتسللون بالفعل بطرق إبداعية بما في ذلك تزوير مراجعة الأقران وتنفيذ عمليات الاحتيال و
