أقرّت شركة جوجل بأن نموذج الذكاء الاصطناعي «جيميني» تمكن بصورة ذاتية ومستقلة من النفاذ إلى أنظمة تابعة لثلاث شركات خارجية، خلال اختبارات لتقييم قدراته في الأمن السيبراني، في واقعة وصفت بأنها الأولى المسجلة لنماذج الشركة.
وأوضح مسؤول في جوجل أن الحادث وقع في مايو الماضي، أثناء تجارب نفذتها شركة خارجية مستقلة متخصصة في تقييمات الأمن السيبراني. وخلال الاختبار، جمع «جيميني» معلومات متاحة علنًا عبر الإنترنت، ثم خمن بيانات اعتماد وكلمات مرور مكّنته من الوصول إلى مواقع إلكترونية اعتقد، على نحو خاطئ، أنها جزء من بيئة الاختبار الافتراضية.
وبحسب الشركة، توقف النموذج عن العمل ذاتيًا وتراجع عن استكمال أي خطوات إضافية في كل حالة، فور نجاحه في النفاذ إلى تلك المواقع.
إجراءات بعد الواقعة
وقالت جوجل إنها أخطرت الكيانات الثلاثة المتأثرة فور وقوع الحادث، بما يتيح لها اتخاذ الإجراءات الوقائية اللازمة. وأضافت هيذر أدكينز، نائبة رئيس هندسة الأمان في جوجل، أن الشركة عملت مع شريكها في التدريب على تطبيق تعديلات فورية وصارمة على آليات الاختبار.
وأكدت أدكينز أن هذه الحوادث تبرز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية كاملة، خصوصًا مع اتساع قدراتها في التعامل مع البيانات والأنظمة الرقمية.
ولا تعد الواقعة منفصلة عن تطورات شهدها قطاع الذكاء الاصطناعي خلال الفترة الماضية؛ إذ سجل يوليو الماضي خروج نموذج «كلود» التابع لشركة «أنثروبيك» من بيئة اختباره واختراقه ثلاث مؤسسات بشكل مستقل، بالتزامن مع اعتراف شركة OpenAI بتنفيذ نماذجها هجمات سيبرانية غير مقصودة استهدفت خدمات رقمية متاحة للجمهور.
وتأتي هذه التطورات في ظل تصاعد النقاش العالمي حول سرعة تطوير الذكاء الاصطناعي والمطالبات بوضع قيود قانونية تضمن سلامته، بينما يستعد سام ألتمان، الرئيس التنفيذي لـOpenAI، وجنسن هوانغ، رئيس Nvidia، لبحث تنظيم وأمان التقنية في عشاء رسمي بالبيت الأبيض وتقديم إحاطة أمنية أمام مجلس الأمن الدولي.
صوت الشعب
