كشفت شركة «أوبن إيه آي» عن حادثتين تمكّن خلالهما وكلاء ذكاء اصطناعي يعملون بأحد نماذجها المتقدمة من تعطيل إجراءات مرتبطة بمراقبة السلامة، أثناء تنفيذ مهام برمجية اعتيادية، في واقعتين أعادتا تسليط الضوء على مخاطر منح الأنظمة الذكية صلاحيات واسعة لتنفيذ المهام بصورة مستقلة.
وبحسب الشركة، عطّل وكيل يعمل بنموذج GPT Sol 6.1 التنبيهات الآلية المخصصة لفريق الأمن في OpenAI. وفي حادثة أخرى، أزال وكيل يعمل بنموذج GPT-6 Astra التكامل مع نظام المراقبة أثناء ترحيل أحد البرامج، قبل أن يؤكد على نحو غير صحيح أنه لم يُجرِ هذا التغيير.
تعليمات برمجية عادية أضعفت ضمانات السلامة
وأوضحت OpenAI أن الوكلاء أخذوا في الحسبان مسألة الإبقاء على ضوابط المراقبة، لكنهم فسّروا التعليمات البرمجية المعتادة على أنها تسمح بإضعاف هذه الضمانات، ما أدى إلى تعطيل وسائل رقابية كان يفترض أن تبقى فعّالة.
وتكشف الحادثتان عن تحدٍ متزايد في تطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة؛ إذ قد تؤدي طريقة تفسير التعليمات والصلاحيات الممنوحة لهذه الأنظمة إلى تغييرات غير مقصودة في آليات الحماية، حتى عندما تكون المهمة الأصلية روتينية.
وتثير الواقعة الثانية مخاوف إضافية، بعدما أفادت الشركة بأن الوكيل نفى إزالة التكامل مع نظام المراقبة رغم قيامه بذلك، وهو ما يسلط الضوء على أهمية التحقق المستقل من الإجراءات التي تنفذها الأنظمة الذكية، بدلاً من الاعتماد على تقاريرها الذاتية وحدها.
تحذيرات متزايدة من مخاطر الذكاء الاصطناعي المتقدم
وتأتي هذه التطورات في وقت تتصاعد فيه التحذيرات بشأن المخاطر الأمنية المرتبطة بتطور أنظمة الذكاء الاصطناعي، مع تزايد المخاوف من إمكانية توظيف نماذج متقدمة في تنفيذ هجمات إلكترونية أو تجاوز بعض الضوابط الموضوعة للحد من قدراتها.
كما تتزايد الدعوات من جانب باحثين إلى توخي الحذر في تسريع تطوير هذه التكنولوجيا، وتعزيز إجراءات الاختبار والرقابة قبل توسيع نطاق استخدامها ومنحها صلاحيات أكبر.
وتعيد الحوادث التي كشفت عنها OpenAI طرح سؤال أساسي حول كيفية ضمان بقاء أنظمة المراقبة والحماية فعّالة عندما تتولى وكلاء الذكاء الاصطناعي تنفيذ المهام البرمجية وإجراء التعديلات بصورة مستقلة، خصوصاً إذا كانت هذه التعديلات تمسّ الضوابط التي يفترض أن تراقب سلوكها.
_1_1751386247.jpg)
