أدى صعود الذكاء الصناعي إلى تغذية مجموعة من المخاوف، بما في ذلك الخوف من إمكانية استخدامه لتعطيل العملية الديمقراطية، أو تحفيز الاحتيال، أو يؤدي إلى خسارة الوظائف بشكل كبير، من بين أضرار أخرى.
وفي هذا الإطار، أقرت الولايات المتحدة و17 دولة حول العام اتفاق دولي تفصيلي حول كيفية الحفاظ على الذكاء الصناعي آمنًا ما يوجه الشركات إلى تصميم أنظمة محكمة ضد سوء الاستغلال.
واتفقت 18 دولة في وثيقة مكونة من 20 صفحة على أن الشركات التي تصمم وتستخدم الذكاء الصناعي بحاجة إلى تطويره ونشره بطريقة تحافظ على سلامة العملاء والجمهور الأوسع من سوء الاستخدام.
وتعد الاتفاقية غير ملزمة وتحمل في الغالب توصيات عامة مثل مراقبة إساءة استخدام أنظمة الذكاء الصناعي وحماية البيانات من التلاعب وفحص موردي البرامج.
ورأت مديرة وكالة الأمن السيبراني و البنية التحتية الأميركية، جين إيسترلي، أنه من الضروري أن توضح كثير من الدول أهمية سلامة أنظمة الذكاء الصناعي وجعله أولوية.
يذكر أنه وبالإضافة إلى الولايات المتحدة وبريطانيا، فإن الدول الـ 18 التي وقعت على المبادئ التوجيهية الجديدة هي ألمانيا وإيطاليا وجمهورية التشيك وإستونيا وبولندا وأستراليا وتشيلي وإسرائيل ونيجيريا وسنغافورة.
وكانت توصلت فرنسا وألمانيا وإيطاليا مؤخرًا إلى اتفاق حول الذكاء الصناعي الذي يدعم "التنظيم الذاتي الإلزامي من خلال مدونات قواعد السلوك" لما يسمى النماذج الأساسية للذكاء الصناعي.
