مخاطر الاعتماد المفرط على الذكاء الاصطناعي: دروس للقيادات الرقمية
أثارت التقارير الأخيرة التي كشفت أن الاعتماد المفرط على أنظمة الذكاء الاصطناعي الآلية ساهم في خطأ استهداف منشأة تعليمية في إيران، نقاشات دولية ملحة حول سلامة الخوارزميات وحدود الثقة الممنوحة لها. لم تكن الأزمة نابعة من مجرد خلل برمجي عابر، بل من وقوع المشغلين في فخ الانحياز للأتمتة واعتمادهم الأعمى على مخرجات النماذج دون التحقق من الواقع الميداني؛ إذ تميل الأنظمة الرقمية إلى تقديم نتائج مشحونة بدرجات ثقة خادعة تقنع المشرفين بأن الآلة محيطة بكافة التفاصيل.
يعكس هذا الحدث تحديا هيكليا يمتد اليوم إلى القطاعات الحيوية في مختلف أنحاء العالم، بما في ذلك قطاعات المال والرعاية الصحية والبنية الأساسية. ومع تسارع الشركات نحو أتمتة العمليات وإلغاء التدخل البشري لخفض التكاليف، تبرز خطورة الاعتماد على نماذج تعمل وفق احتمالات إحصائية بحتة ومستمدة من بيانات سابقة. هذه النماذج تعجز تماما عن فهم السياقات الاجتماعية المتغيرة أو التعامل مع المتغيرات غير المتوقعة خارج إطار تدريبها.
الدرس المستفاد لصناع القرار هو أن سرعة المعالجة الحاسوبية لا تعني بالضرورة صوابية القرار. سواء في كشف التهديدات السيبرانية أو إدارة سلاسل الإمداد المعقدة، فإن تفويض سلطة اتخاذ القرار النهائي للأنظمة المستقلة ينطوي على مخاطر قانونية وتشغيلية بالغة. وحينما تفشل الخوارزمية في بيئة حقيقية معقدة، يصبح من الصعب تحديد المسؤولية القانونية إذا لم تكن هناك رقابة بشرية مسبقة وموثقة بدقة.
وفي سلطنة عُمان ودول مجلس التعاون الخليجي، حيث تتسارع وتيرة التحول الرقمي تماشيا مع رؤية عُمان 2040 والمبادرات الإقليمية، يشهد استخدام الذكاء الاصطناعي طفرة ملحوظة في مجالات البنوك، والخدمات الحكومية، واللوجستيات. ومع توجه المؤسسات المحلية إلى تشغيل وكلاء ذكاء اصطناعي لأتمتة خدمة العملاء وإدارة البيانات الحساسة، يصبح ترسيخ أطر الحوكمة الصارمة مطلبا ملحا لحماية المؤسسات من التبعات غير المحسوبة للأخطاء الرقمية.
يتمثل الواجب العملي اليوم أمام مديري الأعمال وقادة المؤسسات في المنطقة في اعتماد مبدأ المشرف البشري في صلب المنظومة التقنية. يجب أن تظل أدوات الذكاء الاصطناعي وسيلة لتعزيز كفاءة الموظف وتحليل البيانات المعقدة، بينما تبقى القرارات الحاسمة بيد العنصر البشري المؤهل. إن بناء مسارات تدقيق دورية للأنظمة وتدريب الكوادر المحلية على الرقابة الرقمية كفيل بتحقيق أهداف الابتكار دون التضحية بالسلامة المؤسسية.
