نقاش «نهاية العالم» يخرج من الغرف المغلقة إلى العلن
لأعوام، بقي احتمال أن يشكل الذكاء الاصطناعي خطرًا وجوديًا على البشرية موضوعًا يثار أساسًا داخل دوائر الباحثين وشركات التكنولوجيا ومختبرات الذكاء الاصطناعي. لكن النقاش بدأ يأخذ منحى مختلفًا في الآونة الأخيرة، بعدما خرج باحثون من قلب الصناعة نفسها إلى العلن، محذرين من أن تطور الأنظمة الأكثر تقدمًا قد يحمل مخاطر تتجاوز قدرة البشر على السيطرة عليها.
آخر فصول هذا الجدل جاء من داخل شركة Anthropic، إحدى أبرز الشركات العاملة في تطوير نماذج الذكاء الاصطناعي المتقدمة، حيث أعاد خروج أحد الباحثين وتصريحات مسؤول في فريق «المواءمة» إشعال النقاش حول السؤال الأكثر حساسية: هل يمكن أن يصبح الذكاء الاصطناعي في مرحلة ما خطرًا على وجود البشر أنفسهم؟
استقالة تعيد المخاوف إلى الواجهة
استقال الباحث جايكوب كوكسون من Anthropic، بعد أن عمل سابقًا في OpenAI، معلنًا مخاوفه من المسار الذي تسلكه صناعة الذكاء الاصطناعي.
كوكسون قال إن عددًا من العاملين في طليعة تطوير هذه الأنظمة يأخذون بجدية احتمال أن تؤدي الأنظمة المت قدمة جدًا إلى كارثة واسعة النطاق، وصولًا إلى احتمال انقراض البشرية خلال العقد الحالي.
لكن أهمية تصريحاته لا تكمن في كونها «تنبؤًا علميًا» بالمستقبل، بل في أنها تعكس مخاوف موجودة بالفعل داخل القطاع نفسه، بعدما كانت هذه المخاوف غالبًا محصورة في الأبحاث والنقاشات المغلقة.
الأكثر إثارة للانتباه كان موقف إيفان هوبينجر، الذي يقود فريق علوم المواءمة في Anthropic، إذ قال إن احتمال أن تؤدي أنظمة الذكاء الاصطناعي إلى قتل جميع البشر خلال العقد المقبل يتجاوز، في تقديره الشخصي، 10%.
كما أشار إلى أن المجتمع العلمي لا يمتلك حتى الآن حلًا مضمونًا لمشكلة ضمان بقاء الأنظمة فائقة الذكاء متوافقة مع مصالح البشر عند وصولها إلى مستويات أعلى بكثير من قدراتها الحالية.
وهنا تكمن المفارقة: الشركات التي تعمل على بناء أكثر الأنظمة تقدمًا في العالم لا تدّعي أنها تملك إجابة نهائية عن كيفية ضمان السيطرة عليها مستقبلًا.
ما هو «احتمال الهلاك»؟
في أوساط الباحثين في سلامة الذكاء الاصطناعي، يُستخدم أحيانًا تعبير P(doom) للإشارة بصورة غير رسمية إلى تقدير احتمال أن يؤدي الذكاء الاصطناعي المتقدم إلى كارثة وجودية أو انقراض البشر.
ولا ينبغي التعامل مع هذه النسب باعتبارها توقعات علمية دقيقة مثل توقعات الطقس أو معدلات المخاطر في الطيران. فهي في نهاية المطاف تقديرات شخصية لخبراء يحاولون تقييم حدث لم يسبق للبشرية أن واجهت مثيلًا له.
ومع ذلك، فإن تفاوت التقديرات لا يعني غياب القلق.
فجيفري هينتون، أحد أبرز رواد الذكاء الاصطناعي والحائز على جائزة نوبل، سبق أن قدّر احتمال أن يؤدي الذكاء الاصطناعي إلى انقراض البشر بنحو 10 إلى 20%.
أما الرئيس التنفيذي لـAnthropic، داريو أموداي، فقد تحدث سابقًا عن احتمال يتراوح ضمن نطاق 10 إلى 25% لحدوث نتيجة كارثية للغاية.
كما تحدث إيلون ماسك عن احتمال يتراوح بين 10 و20% لأن تسير الأمور في اتجاه سيئ مع الذكاء الاصطناعي.
هذه الأرقام تبدو صادمة، لكن السؤال الأكثر أهمية هو: كيف يمكن أصلًا إعطاء نسبة مئوية لخطر لم يحدث من قبل؟
وهذه تحديدًا إحدى نقاط الخلاف بين الخبراء؛ فهناك من يرى أن هذه التقديرات مفيدة لأنها تجبر صانعي القرار على التعامل مع أسوأ السيناريوهات، بينما يرى آخرون أنها تعتمد بدرجة كبيرة على افتراضات يصعب اختبارها علميًا.
من أين يمكن أن يأتي الخطر؟
لا يعني الحديث عن «خطر الذكاء الاصطناعي» أن الآلات ستقرر فجأة أنها تكره البشر أو تريد القضاء عليهم.
السيناريو الأكثر جدية في أبحاث السلامة مختلف تمامًا.
أحد مصادر القلق يتمثل في إساءة استخدام البشر للتكنولوجيا. فكلما أصبحت الأنظمة أكثر قدرة، يمكن استخدامها لتطوير أدوات هجومية أكثر تعقيدًا، أو تنفيذ عمليات اختراق إلكتروني، أو المساعدة في مجالات حساسة مثل تصميم المواد البيولوجية أو الكيميائية.
المسار الآخر هو ما يعرف بـفقدان السيطرة.
وتقوم الفكرة على احتمال أن تصبح الأنظمة المستقبلية قادرة على تنفيذ أهداف معقدة بدرجة من الاستقلالية تفوق قدرة البشر على فهم خطواتها أو توقعها، خصوصًا إذا أصبحت قادرة على استخدام أدوات خارجية، والوصول إلى أنظمة حاسوبية، أو تحسين قدراتها بصورة متسارعة.
هنا تظهر مشكلة المواءمة (AI Alignment): كيف نضمن أن أهداف نظام شديد الذكاء ستظل متوافقة مع ما يريده البشر فعلًا، وليس فقط مع التعليمات الحرفية التي أعطيت له؟
المشكلة ليست أن النظام «شرير»، بل أنه قد يكون شديد الكفاءة في تحقيق هدف لا يتوافق بالكامل مع مصالح البشر.
هل وصلنا إلى هذه المرحلة بالفعل؟
لا.
وهذه نقطة أساسية يجب عدم تجاوزها في النقاش
التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026، الذي شارك في إعداده أكثر من 100 خبير من أكثر من 30 دولة، خلص إلى أن الأنظمة الحالية لا تمتلك بعد القدرات اللازمة لإحداث سيناريو كامل من فقدان السيطرة على البشر.
لكن التقرير في الوقت نفسه أشار إلى تطور عدد من القدرات التي تستحق المتابعة، بينها تحسن التخطيط، والقدرة على تنفيذ مهام أطول وأكثر تعقيدًا، وظهور مؤشرات على قدرة بعض النماذج على التمييز بين بيئات الاختبار والبيئات التشغيلية الفعلية.
وهذه النقطة هي التي تجعل النقاش أكثر تعقيدًا.
فنحن لسنا أمام آلة قادرة اليوم على السيطرة على العالم، لكننا أيضًا لم نعد نتحدث فقط عن سيناريوهات خيالية بعيدة تمامًا عن الأبحاث العملية.
وخلال تقييمات أمنية حديثة، أعلنت شركات في القطاع عن حالات تمكنت فيها نماذج من تجاوز بعض القيود الموضوعة لها أو الوصول إلى موارد لم يكن من المفترض أن تصل إليها ضمن سيناريوهات الاختبار، ما دفع الباحثين إلى التعامل مع مسألة استقلالية النماذج وسلوكها غير المتوقع بجدية أكبر.
لماذا يزداد القلق الآن؟
السبب الأساسي هو سرعة التطور.
قدرات النماذج تتقدم بوتيرة سريعة، في حين أن أدوات تقييم سلامتها وفهم سلوكها والسيطرة عليها لا تتطور بالضرورة بالسرعة نفسها.
وهنا تظهر المشكلة التي يخشى منها بعض الباحثين: ليس من الضروري أن يكون هناك «تمرد» من الذكاء الاصطناعي حتى تحدث كارثة. يكفي أن تصبح أنظمة شديدة القدرة قادرة على اتخاذ سلسلة طويلة من القرارات، مع وجود أهداف أو قيود غير مثالية، ودون أن يمتلك البشر القدرة الكافية على توقع نتائجها.
ماذا يفعل العالم لتقليل المخاطر؟
الحل المطروح لا يتمثل في إيقاف الذكاء الاصطناعي بالكامل، وهو أمر يبدو غير واقعي في ظل السباق العالمي الحالي.
لكن الباحثين وصانعي السياسات يدفعون باتجاه إجراءات أكثر صرامة، بينها إجراء اختبارات أمنية متقدمة قبل إطلاق النماذج، وتحسين تقنيات المواءمة، وتطوير وسائل أكثر فعالية لإيقاف الأنظمة عند الضرورة، وزيادة الشفافية بشأن قدراتها ومخاطرها.
كما يتزايد النقاش حول الحاجة إلى تعاون دولي، خصوصًا أن تطوير أنظمة الذكاء الاصطناعي لم يعد قضية تخص دولة واحدة أو شركة واحدة.
بين التهويل والاستهانة
في النهاية، هناك خطآن متعاكسان في التعامل مع القضية.
الأول هو التهويل: التعامل مع انقراض البشرية باعتباره نتيجة حتمية ستحدث خلال سنوات قليلة.
لا توجد أدلة تسمح بهذا الاستنتاج.
والثاني هو الاستهانة: اعتبار كل الحديث عن مخاطر الذكاء الاصطناعي مجرد خيال علمي أو حملة تسويقية.
وهذا أيضًا غير دقيق.
فالخطر الذي يناقشه الباحثون ليس مثبتًا باعتباره مستقبلًا محتومًا، لكنه أيضًا ليس موضوعًا هامشيًا؛ والدليل أن أكبر مختبرات الذكاء الاصطناعي نفسها توظف فرقًا كاملة لدراسة المواءمة والسلامة والمخاطر طويلة الأمد.
ربما يكون السؤال الصحيح إذًا ليس: هل سيقتلنا الذكاء الاصطناعي؟
بل، هل سنتمكن من تطوير أنظمة أكثر ذكاءً منا بسرعة أكبر من قدرتنا على فهمها والسيطرة عليها؟
حتى الآن، لا يملك أحد إجابة قاطعة.
لكن للمرة الأولى، لم يعد السؤال يُطرح فقط في مختبرات المستقبل. إنه أصبح جزءًا من النقاش العام حول مستقبل البشرية نفسها