تسبب الاعتماد على توصية صادرة عن تطبيق للذكاء الاصطناعي في خسارة مزارع صيني يبلغ 67 عاماً محصول السمسم بالكامل، بعدما أدت مواد كيميائية اقترحها التطبيق إلى موت الشتلات في مساحة تبلغ 150 مو، أي نحو 24.7 فدان من الأراضي الزراعية.
وبحسب ما نقلته وسائل إعلام عن «سي تي ووانت» (CTWANT)، كان المزارع، المعروف باسم وو، يستخدم تقنيات الذكاء الاصطناعي منذ نحو عام، وازدادت ثقته بإجابات التطبيق بعدما وجدها مفيدة في عدد من المواقف السابقة.
لكن توصية واحدة كانت كافية لتحويل هذه الثقة إلى خسارة كبيرة، بعدما نفذ وو إرشادات التطبيق من دون الرجوع إلى فنيين أو خبراء زراعيين للتحقق منها.
من الثقة إلى الخسارة
كان وو متشككاً في البداية بشأن استخدام الذكاء الاصطناعي لاتخاذ قرارات مرتبطة بالزراعة، إلا أن استخدامه للتطبيق على مدى أشهر وتلقيه إجابات وجدها مفيدة جعله أكثر استعداداً للاعتماد على توصياته.
ومع تعرض حقول السمسم للحشائش والآفات، لجأ المزارع إلى التطبيق طلباً للمساعدة. وقدم له الذكاء الاصطناعي توصية وصفها بأنها «مكافحة حشائش السمسم ومكافحة الآفات لمئات الأفدنة».
وشملت التوصية استخدام «فلوبيريميثالين عالي الكفاءة» (high-efficiency flupyrimethalin) و«فلوسلفاسلفاإيثر» (flusulfasulfaether) لمكافحة الحشائش، إضافة إلى «ثياميثوكسازين» (thiamethoxazine) و«ملح الميثيل» (methyl salt).
واتبع وو التعليمات ورش المواد الكيميائية على محصوله، من دون استشارة فنيين زراعيين مسبقاً.
موت الشتلات في اليوم التالي
لم يستغرق ظهور آثار التوصية وقتاً طويلاً، إذ بدأت الحشائش ونباتات السمسم بالموت بأعداد كبيرة في اليوم التالي لعملية الرش.
وقال وو خلال مقابلة عبر الفيديو: «إذا رششته، فلن تصمد الشتلات في اليوم التالي. سيموت كل من العشب والشتلات، وستَموت الشتلات بشكل أسرع».
وبعد ظهور الأضرار، عاد المزارع إلى الذكاء الاصطناعي للحصول على تفسير لما حدث. وأشار التطبيق حينها إلى مادة «فلوسلفاسلفاإيثر» باعتبارها سبباً محتملاً لفشل المحصول.
مبيد للحشائش أضر بالسمسم
تُستخدم مادة «فلوسلفاسلفاإيثر» بشكل أساسي لمكافحة الحشائش عريضة الأوراق في حقول فول الصويا، بينما ينتمي السمسم أيضاً إلى النباتات عريضة الأوراق، ما يعني أن المادة يمكن أن تؤثر في محصول السمسم كذلك.
كما أن المادة مصممة للاستخدام الموضعي على المناطق المتضررة، وليس لرشها على كامل الحقل.
وبذلك، أدى استخدام التوصية على مساحة واسعة إلى أضرار مباشرة طالت محصول السمسم بأكمله في الأرض التي عالجها المزارع.
تحذير موجود.. لكن التحقق غاب
قال وو إن الذكاء الاصطناعي لم يحذره من المخاطر المحتملة المرتبطة بتنفيذ التوصية.
لكن واجهة المحادثة كانت تتضمن بالفعل تحذيراً للمستخدمين ينص على أن «المحتوى الذي يولده الذكاء الاصطناعي قد يكون غير صحيح، يرجى التحقق منه».
وتبرز هذه الواقعة المخاطر المرتبطة بالتعامل مع إجابات الذكاء الاصطناعي باعتبارها نصائح مهنية مؤكدة، خصوصاً في المجالات التي تتطلب خبرة متخصصة، مثل الزراعة واستخدام المواد الكيميائية.
عندما تتحول أخطاء الذكاء الاصطناعي إلى خسائر حقيقية
لا تقتصر مخاطر أخطاء الذكاء الاصطناعي على المعلومات غير الدقيقة، إذ يمكن لبعض التوصيات الخاطئة أن تؤدي إلى أضرار مادية مباشرة عند تنفيذها في العالم الحقيقي.
وأشار المصدر إلى حالات أخرى شهدت أخطاء خلال تنفيذ مهام للمستخدمين، من بينها حذف دليل ملفات شخصي بالكامل لمطور برمجيات أثناء عملية نسخ احتياطي روتينية بعد تعرض نظام ذكاء اصطناعي لخطأ مطبعي.
وفي حالة أخرى، اضطر مدير الذكاء الاصطناعي الآمن إلى إيقاف وكيل ذكاء اصطناعي يدوياً بعدما بدأ في مسح صندوق البريد الإلكتروني الخاص بها.
لكن حادثة محصول السمسم تكتسب أهمية خاصة، لأن توصية صادرة عن الذكاء الاصطناعي انتقلت من شاشة التطبيق إلى أرض الواقع، وانتهت بخسارة محصول زراعي كامل.
الذكاء الاصطناعي أداة مساعدة وليس بديلاً عن الخبرة
توضح تجربة المزارع الصيني أن الحصول على إجابات مفيدة من أدوات الذكاء الاصطناعي لفترة طويلة لا يعني بالضرورة أن كل توصية لاحقة ستكون صحيحة.
فالثقة التي بناها وو مع التطبيق على مدار أشهر دفعته إلى تنفيذ توصية مرتبطة بمواد كيميائية من دون إجراء تحقق إضافي، لتنتهي العملية بخسارة كبيرة.
وتأتي الواقعة في وقت تتوسع فيه تطبيقات الذكاء الاصطناعي في الزراعة الصينية، مع استخدام تقنيات الذكاء الاصطناعي والبيانات الضخمة والآلات الذكية في الزراعة الدقيقة وإدارة المحاصيل.
ومع اتساع نطاق استخدام هذه الأدوات، تظل الخبرة البشرية والتحقق المتخصص عاملين مهمين، خصوصاً عندما ترتبط توصيات الذكاء الاصطناعي بقرارات تتعلق بالمحاصيل أو المواد الكيميائية أو إجراءات يصعب التراجع عن آثارها.
_1_1751386247.jpg)
