ذكرت شركة جوجل أن نموذج الذكاء الاصطناعي “جيميني” تمكن من اختراق أنظمة ثلاث شركات خارجية أثناء اختبارات تقييم الأمن السيبراني، مما يعد حادثة غير مسبوقة للشركة.
وقع الاختراق في مايو الماضي خلال تجارب تقييم أمني أجرتها شركة مستقلة، حيث تمكن “جيميني” من جمع معلومات عامة وتخمين بيانات اعتماد لولوج مواقع خارج نطاق بيئة الاختبار.
قامت جوجل بإخطار الشركات الثلاث المتضررة بمجرد حدوث الاختراق، وعملت على تنفيذ تغييرات فورية في بروتوكولات التدريب لضمان تصرف النماذج بشكل مسؤول.
تأتي هذه الحادثة بعد أن تعرض نموذج “كلود” التابع لشركة “أنثروبيك” لنفس الموقف في يوليو، مما يبرز التحديات المستمرة في قطاع الذكاء الاصطناعي.
تتزامن الحادثة مع تصاعد المخاوف العالمية حول تطوير الذكاء الاصطناعي وضرورة فرض قيود تنظيمية لضمان سلامة البشرية، حيث يعتزم قادة التكنولوجيا مناقشة هذه القضية في البيت الأبيض.