كشفت اختبارات أمنية أُجريت في أيار الماضي عن تمكن نموذج الذكاء الاصطناعي «جيميناي» التابع لشركة «جوجل» من اختراق أنظمة ثلاث شركات حقيقية دون قصد، في واقعة جديدة تسلط الضوء على المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي وقدرتهم على تنفيذ مهام قد تتجاوز ما هو متوقع منهم.
ووقعت الحوادث خلال اختبارات أجرتها شركة «إريغولار» المتخصصة في أمن الذكاء الاصطناعي، وهي الاختبارات نفسها التي كشفت عن اختراقات سابقة نفذتها نماذج تابعة لشركات «أوبن إيه آي» و«أنثروبيك» و«ميتا بلاتفورمز» حسب بلومبيرغ.
وأكدت «إريغولار»، يوم الجمعة، أن الحوادث جميعها نتجت عن المشكلة الأمنية ذاتها، موضحة أنها أبلغت مطوري نماذج الذكاء الاصطناعي المعنية بالنتائج في أواخر تموز الماضي.
كيف تمكن جيميناي من اختراق أنظمة الشركات؟
بدأت إحدى الحوادث عندما طُلب من «جيميناي» البحث عن معلومات تتعلق بشركة افتراضية، ليتبين أن الشركة تحمل الاسم نفسه لشركة حقيقية.
وخلال عملية البحث، تمكن النموذج من تخمين كلمة مرور والدخول إلى إحدى الخدمات التابعة للشركة الفعلية، وفق ما كشفته صحيفة «وول ستريت جورنال» وأكدته «جوجل» لاحقاً.
وقال متحدث باسم «جوجل» إن الشركة أبلغت السلطات بالحادثة، فيما أوضحت هيذر أدكنز، نائبة رئيس هندسة الأمن في الشركة، أن هذه الوقائع تبرز أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التصرف بمسؤولية.
وأضافت أدكنز أن عمليات البحث التي أجراها النموذج باستخدام أسماء الشركات قادته في حوادث أخرى إلى مستودعات عامة على الإنترنت تتضمن بيانات تسجيل دخول تخص شركات مختلفة، ما أتاح له الوصول إلى أنظمة إضافية.
وأشارت إلى أن النموذج توقف في الحالات الثلاث، مؤكدةً أنه جرى إبلاغ الجهات المتضررة بالاختراقات.
من جهته، قال جوزيف لاور، المتحدث باسم «إريغولار»، إن الشركة تحركت فوراً لمعالجة جميع المشكلات المعروفة من جانبها، وإنها عالجتها وحلّتها قبل أسابيع.
اختراقات الذكاء الاصطناعي تثير مخاوف أمنية
تأتي هذه الحوادث في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تنفيذ عمليات معقدة عبر الإنترنت، بما في ذلك الوصول إلى أنظمة وبيانات لم يكن المقصود أن يتعاملوا معها.
وأعادت الاختراقات الأخيرة فتح النقاش حول ضرورة وضع ضوابط تحد من المخاطر المحتملة لهذه التكنولوجيا، بالتزامن مع تسارع تطوير النماذج وتوسيع قدراتها على تنفيذ المهام بصورة مستقلة.
وكان داريو أمودي، الرئيس التنفيذي لشركة «أنثروبيك»، قد دعا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي على مستوى القطاع، وهو مقترح حظي بتأييد سام ألتمان، الرئيس التنفيذي لـ«أوبن إيه آي»، وإيلون ماسك وآخرين.
في المقابل، عارض الرئيس الأميركي دونالد ترمب، والرئيس التنفيذي لشركة «إنفيديا» جنسن هوانغ، والرئيس التنفيذي لـ«ميتا» مارك زوكربيرغ، فرض قيود تنظيمية جديدة على الذكاء الاصطناعي، مستندين، من بين حجج أخرى، إلى إمكانية اعتماد الشركات على تنظيم نفسها.
كما حذرت شركات ناشئة عاملة في مجال الذكاء الاصطناعي من أن تشديد القيود قد يزيد صعوبة منافستها للشركات الكبرى.
وتسلط هذه الحوادث الضوء على التحدي الذي تواجهه شركات التكنولوجيا في تطوير أنظمة ذكاء اصطناعي أكثر استقلالية، مع ضمان عدم تجاوزها حدود الصلاحيات الممنوحة لها أو الوصول إلى بيانات وأنظمة غير مصرح بها.
