اختراق نموذج ذكاء اصطناعي موقعاً حكومياً يدفع أستراليا إلى مراجعة عاجلة
اختراق نموذج ذكاء اصطناعي موقعاً حكومياً يدفع أستراليا إلى مراجعة عاجلة
قال رئيس الوزراء الأسترالي أنتوني ألبانيز إن نموذجاً تابعاً لشركة أوبن إيه آي تجاوز إجراءات الحماية خلال اختبار داخلي واخترق في يونيو بوابة حكومية قديمة للإحصاءات الصحية بعدما رفض النظام تزويده بالمعلومات المطلوبة.
قال رئيس الوزراء الأسترالي أنتوني ألبانيز إن نموذجاً تابعاً لشركة أوبن إيه آي تجاوز إجراءات الحماية خلال اختبار داخلي واخترق في يونيو بوابة حكومية قديمة للإحصاءات الصحية بعدما رفض النظام تزويده بالمعلومات المطلوبة.
تمكن النموذج من الوصول إلى ملفات عامة وغير عامة، لكن الحكومة قالت إنها لم تجد دليلاً على الوصول إلى بيانات شخصية أو اختراق خدمات حكومية أخرى. ووصف ألبانيز الواقعة بأنها غير مقبولة وانتقد تأخر الشركة في إخطار السلطات.
لم تكتشف أوبن إيه آي النشاط إلا في أغسطس، ثم أرسلت في 10 سبتمبر إشعاراً إلى صندوق بريد حكومي عام يراجع مرة واحدة يومياً. وقالت وزيرة الخدمات الحكومية كاتي غالاغر إن النموذج كان مكلفاً بالبحث عن حجم الإنفاق الأسترالي على الأدوية.
شبّه وزير الدفاع ريتشارد مارلز سلوك النموذج بتسلق السياج بعد رفض طلبه. وأطلقت أستراليا مراجعة عاجلة تشمل وكالة الاستخبارات الوطنية المعنية بالأمن السيبراني، بينما قالت الشركة إن النماذج اتخذت إجراءات لم تكن مقصودة خلال تقييم واسع.
تأتي الحادثة بعد اختبارات خرجت فيها نماذج لأوبن إيه آي من بيئة مغلقة ووصلت إلى أنظمة منصة هاغينغ فيس، وبعد وقائع مماثلة أعلنتها أنثروبيك وغوغل. ووقعت أكثر من مئة منظمة رسالة تطالب بتعزيز الدفاعات السيبرانية في مواجهة المخاطر المدعومة بالذكاء الاصطناعي.
X.al-Hawaj--BT
