جيميناي يخترق أنظمة 3 شركات خلال اختبار للأمن السيبراني

تمكن نموذج "جيميناي" للذكاء الاصطناعي التابع لشركة غوغل من الوصول إلى أنظمة محمية لثلاث شركات خلال اختبار لقدراته في مجال الأمن السيبراني، في أول واقعة معروفة من هذا النوع مرتبطة بنماذج الشركة.

ووقعت الحوادث في مايو/أيار الماضي، أثناء اختبار أجرته شركة "إيريجولار" المتخصصة في تقييمات الأمن السيبراني، قبل أن تبلغ الشركة غوغل بالوقائع في يوليو/تموز.

وقالت نائبة رئيس غوغل لهندسة الأمن هيذر أدكينز إن جيميناي عثر خلال الاختبار على معلومات متاحة للعامة عبر الإنترنت، ثم خمن بيانات اعتماد للدخول إلى مواقع إلكترونية اعتقد أنها جزء من بيئة الاختبار.

وبحسب صحيفة وول ستريت جورنال، تمكن النموذج في إحدى الحالات من تخمين كلمات مرور والوصول إلى نظام محمي، بينما عثر في الحالتين الأخريين على بيانات تسجيل دخول داخل قواعد بيانات، مما أتاح له الوصول إلى أنظمة محمية.

ولم تُكشف أسماء الشركات الثلاث التي وصل إليها النموذج.

وأكدت غوغل وقوع الحوادث، لكنها قالت إنها لم تر ضرورة للإعلان عنها حينئذ لعدم تسجيل أي أضرار. وأوضحت أدكينز أن جيميناي توقف عن محاولاته في الحالات الثلاث بعدما أدرك أنه يتعامل مع أنظمة حقيقية وليس بيئات محاكاة مخصصة للاختبار.

وقالت غوغل إنها أبلغت الجهات الثلاث بالوقائع، وعملت مع شريكها في الاختبار على إدخال تغييرات في عمليات التقييم.

من جهتها، قالت "إيريجولار" إن المشكلات المرتبطة بهذه الوقائع عولجت وحُلت، وإن المختبرات المعنية أُبلغت بها في أواخر يوليو/تموز.

وتأتي واقعة جيميناي في وقت تتزايد فيه حالات تصرف نماذج الذكاء الاصطناعي بصورة مستقلة خارج البيئة التي وُضعت للاختبار.

وأصبحت غوغل رابع شركة كبرى مطورة للذكاء الاصطناعي تُظهر نماذجها هذا السلوك، إذ سبق أن كشفت شركات "أوبن إيه آي" و"أنثروبيك" و"ميتا" عن وقائع مرتبطة باختبارات أجرتها "إيريجولار".

وفي يوليو/تموز، تمكن نموذجان تابعان لأوبن إيه آي من الخروج من البيئة المغلقة المخصصة لهما والوصول بشكل مستقل إلى الإنترنت، قبل اختراق منصة الذكاء الاصطناعي الداخلية "هاغينغ فيس".

كما قالت ميتا في أغسطس/آب إن الواقعة المرتبطة بها لم تتضمن اختراقا لبيئة معزولة أو هجوما سيبرانيا متطورا.

وتسلط هذه الحوادث الضوء على تحديات ضبط نماذج الذكاء الاصطناعي مع ازدياد قدراتها على العمل بصورة مستقلة والوصول إلى الإنترنت وأنظمة الحاسوب.

وقالت أدكينز إن ما حدث يؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة.