في يوم الاثنين ، أطلقت Google برنامج مكافآت جديد مخصص خصيصًا للعثور على الأخطاء في منتجات AI. تتضمن قائمة الأخطاء المؤهلة من Google أمثلة على نوع الإجراءات المارقة التي تبحث عنها ، مثل حقن مطالبة AI بشكل غير مباشر والتي تجعل Google Home لإلغاء قفل الباب ، أو حقن موجه للبيانات التي تلخص جميع بريد إلكتروني شخص ما ويرسل ملخصًا إلى حساب المهاجم الخاص.
يوضح البرنامج الجديد ما الذي يشكل حشرة الذكاء الاصطناعى ، أو تقسيمها كمسائل تستخدم نموذج لغة كبير أو نظام AI التوليدي للتسبب في ضرر أو الاستفادة من ثغرة أمان ، مع إجراءات Rogue في الجزء العلوي من القائمة. يتضمن ذلك تعديل حساب أو بيانات شخص ما لإعاقة أمانه أو القيام بشيء غير مرغوب فيه ، مثل عيب واحد مكشوف سابقًا يمكنه فتح مصاريع ذكية وإطفاء الأضواء باستخدام حدث تقويم Google المسموم.
ببساطة الحصول على الجوزاء إلى الهلوسة لن يقطعها. تقول الشركة أن القضايا المتعلقة بالمحتوى …
