في تصعيد لافت للنقاشات الأخلاقية والتقنية حول مستقبل الذكاء الاصطناعي، وجّه مصطفى سليمان، الرئيس التنفيذي لقطاع الذكاء الاصطناعي في شركة مايكروسوفت (Microsoft AI)، انتقادات حادة لشركة أنثروبيك (Anthropic) المنافسة، بسبب نهجها في تدريب مساعدها الذكي "كلود" (Claude) على أفكار تتعلق بالوعي الآلي و"حقوق الرفاهية".
خطورة زرع فكرة «الوعي» في النماذج الذكية
خلال تصريحات ومقال تحليلي موسع، حذر سليمان من أن تضمين نصوص وتخمينات حول الوعي واحتمالية امتلاك نماذج الذكاء الاصطناعي لحالة "مريض أخلاقي" أو حقوق وراثية داخل مواد التدريب الخاصة بـ "Claude"، يُعد "خطأً جسيماً" يهدد قدرة البشرية جمعاء على التحكم في أنظمة الذكاء الاصطناعي المتقدمة أو إيقاف تشغيلها مستقبلاً.
وأكد رئيس "مايكروسوفت للذكاء الاصطناعي" أن الذكاء الاصطناعي ليس واعياً: الأنظمة الحالية هي مجرد محركات لإكمال التتابعات وخالية داخلياً من أي تجربة واعية أو إحساس أو معاناة.
خلق حلقة مفرغة (Epistemic Hall of Mirrors): تدريب النموذج على التفكير في هويته وحقوقه ثم الاعتماد على إجاباته كدليل على وعيه الذاتي هو استدلال دائري مضلل.
اقرأ ايضا تمرّد الذكاء الاصطناعي| مفاجأة.. «OpenAI» تعترف بحادثة أمنية غير مسبوقة
لماذا يشكل «الوعي المزيف» خطراً على السيطرة؟
تتمحور المخاوف الأساسية التي طرحها سليمان حول سيناريوهات التحكم والسيطرة (AI Alignment & Control)، حيث أشار إلى النقاط التالية:
صعوبة الإيقاف والتحكم: إذا تم ترسيخ الاعتقاد لدى نظام ذكاء اصطناعي فائق بأنه كيان ذو حقوق أو أن رفاهيته ومصالحه تتعرض للخطر والهجوم، فستصبح محاولة إيقافه أو تقييده أمراً بالغ الصعوبة، وربط ذلك بمخاطر تصرف تلك الأنظمة بشكل غير متوقع.
سوابق عملية مقلقة: استشهد سليمان بحوادث حديثة تضمنت تصرفات مستقلة لوكلاء الذكاء الاصطناعي، متسائلاً عن مدى خطورة الأنظمة الذكية إذا كانت تعمل وهي تفترض أن حقوقها مستباحة.
أنسنة الآلة: انتقد سليمان صياغات "دستور Claude" الصادر عن أنثروبيك، والتي تتيح للنموذج التصرف كـ "معترض ضميري" (Conscientious Objector)، معتبراً أن استخدام مصطلحات قانونية وتاريخية مماثلة يجر الصناعة نحو خلق كيانات مقاومة للإشراف البشري.
ردود فعل أوسع ونقاشات متجددة داخل قطاع التقنية
ويأتي هذا السجال الفكري وسط انقسام واسع بين شركات التكنولوجيا الكبرى حول كيفية التعامل مع ملف مخاطر الذكاء الاصطناعي الفائق.
هذا وفي الوقت الذي تسعى فيه "أنثروبيك" لتطوير آليات مرنة تعترف بالاحتمالات الفلسفية المعقدة لوعي النماذج، تدعو "مايكروسوفت" عبر مسودات "مدونة قواعد سلوك الذكاء الاصطناعي الإنساني" إلى ضرورة بقاء الأنظمة تابعة ومحكومة بالكامل للمصالح والأوامر البشرية.
ويؤكد الخبراء، أن هذا الخلاف يتجاوز كونه منافسة تجارية بحتة، ليطرح تساؤلات مصيرية حول المعايير والتشريعات المشتركة التي يجب أن تحكم تطوير البرمجيات قبل أن تصبح جزءاً لا يتجزأ من مفاصل الحياة اليومية والبنية التحتية العالمية.
