السلطة التي لا نراها: هل يصنع الذكاء الاصطناعي ليفياثان جديداً؟

حين تنتقل القرارات التي تحدد حياتنا من الإنسان إلى الخوارزمية، لا تعود المسألة تقنية. إنها تصبح سؤالاً عن الحرية والعدالة والمسؤولية ومن يملك السلطة.

كان توماس هوبز يحتاج إلى صورة ضخمة ومخيفة ليشرح معنى السلطة المطلقة. سمّى هذه الصورة «الليفياثان»: دولة قوية يتنازل الأفراد عن جزء من حريتهم لها مقابل الأمن والنظام. كان ذلك الحاكم، مهما بلغت قوته، مرئياً. له وجه ومؤسسات وقوانين ومقر يمكن الوصول إليه، ويمكن معرفة من أصدر القرار ومن يتحمل مسؤوليته.

أما السلطة التي تتشكل أمامنا اليوم فقد تكون مختلفة تماماً.

لا وجه لها، ولا قصر، ولا تاج، ولا حتى مكتب يمكن طرق بابه.

إنها تعمل داخل الخوادم، وفي قواعد البيانات، وفي النماذج الحسابية والخوارزميات.

إنها الذكاء الاصطناعي.

وهنا تكمن المفارقة التي يطرحها مقال المفكر والقانوني الإسباني أبيل فيغا كوبو في «إل باييس»: المشكلة ليست في أن الآلات أصبحت قادرة على التفكير أو التنبؤ أو التحليل، بل في أن تتحول هذه القدرة تدريجياً إلى بنية سلطة تتخذ قرارات تمس الإنسان من دون أن يكون الإنسان قادراً على فهمها أو الاعتراض عليها أو تحديد المسؤول عنها.

من الأداة إلى السلطة

لطالما كانت التكنولوجيا أداة في يد الإنسان.

أما الذكاء الاصطناعي فيفتح مرحلة مختلفة: الأداة نفسها أصبحت قادرة على تحليل كميات هائلة من المعلومات، واستخلاص أنماط منها، ثم تقديم توصيات أو قرارات يمكن أن يعتمد عليها البشر والمؤسسات.

قد يقرر نظام آلي ما إذا كان شخص ما يستحق قرضاً مصرفياً.

وقد يحدد نظام آخر أولوية طلب للحصول على وظيفة.

وقد تستخدم خوارزميات في تقييم المخاطر التأمينية، أو في إدارة الحدود والهجرة، أو في الخدمات العامة.

عند هذه النقطة، لا يعود السؤال: هل الذكاء الاصطناعي مفيد؟

بل يصبح السؤال:

من يملك القرار عندما يصبح القرار نتيجة خوارزمية؟

هذا التحول بالغ الأهمية، لأن القرار البشري، مهما كان ناقصاً أو منحازاً، يمكن من حيث المبدأ أن يُناقش ويُراجع ويُطعن فيه.

أما القرار الخوارزمي فقد يبدو وكأنه نتيجة علمية محايدة، بينما هو في الحقيقة نتاج بيانات اختيرت بطريقة معينة، ونموذج صُمم وفق افتراضات معينة، ومعايير وضعتها جهات بشرية.

الخطر هنا هو أن تختفي الخيارات البشرية خلف واجهة تقنية تبدو موضوعية.

حين يصبح الإنسان «بيانات»

من أكثر التحولات عمقاً التي يثيرها الذكاء الاصطناعي أن الإنسان لم يعد يُرى فقط باعتباره شخصاً، بل باعتباره مجموعة من البيانات.

الدخل.

السجل المالي.

الموقع.

السلوك الشرائي.

التاريخ المهني.

العلاقات الرقمية.

الاهتمامات.

السلوك على الإنترنت.

وكلما توسعت قدرة الأنظمة على جمع هذه المعلومات وربطها ببعضها، أصبح بالإمكان إنتاج صورة احتمالية عن الإنسان: ما الذي قد يفعله؟ ما درجة المخاطرة التي يمثلها؟ هل يستحق الثقة؟ هل يمكن أن يكون عميلاً جيداً؟ هل يشكل خطراً؟

هنا ينتقل العالم من سؤال:

«ماذا فعل هذا الشخص؟»

إلى سؤال أكثر خطورة:

«ماذا تتوقع الخوارزمية أن يفعل؟»

والفارق بين السؤالين هو فارق بين المسؤولية عن فعل وقع فعلاً، وبين الحكم على إنسان استناداً إلى احتمال.

عندما يصبح الاحتمال حكماً

الخوارزمية بارعة في اكتشاف الأنماط.

لكن الإنسان ليس نمطاً فقط.

فالحياة البشرية مليئة بالاستثناءات والظروف غير القابلة للقياس، والأحداث التي تغير مسار الإنسان، والقرارات التي لا يمكن التنبؤ بها من خلال تاريخه السابق.

قد يكون شخص ما قد أخفق في الماضي، لكنه تغير.

وقد يكون سجله المالي سيئاً بسبب ظرف استثنائي.

وقد يبدو ملف شخص ما عالي المخاطر وفق البيانات، فيما تخفي حياته الواقعية أسباباً لا تظهر في أي جدول.

هنا تظهر مشكلة جوهرية في نقل القرار من الإنسان إلى الآلة.

فالخوارزمية تبحث عن المتوسط والنمط والاحتمال.

أما العدالة فتحتاج أحياناً إلى النظر في الاستثناء.

وهذه الفكرة التي يستند إليها فيغا كوبو إلى مفهوم أرسطي قديم: قدرة القاضي على إدراك أن تطبيق القاعدة العامة حرفياً على حالة معينة قد يؤدي إلى الظلم.

بمعنى آخر، هناك لحظة تقول فيها العدالة:

«صحيح أن القاعدة تقول ذلك، ولكن هذه الحالة مختلفة.»

وهذه الـ«لكن» هي تحديداً ما يصعب على النظام الخوارزمي استيعابه.

وهم الحياد

تتمتع الأرقام بسلطة نفسية هائلة.

إذا قال موظف: «أعتقد أن هذا الشخص لا يستحق القرض»، يمكن أن نسأله عن السبب.

لكن إذا قالت المنظومة: «درجة المخاطر 87%»، تبدو النتيجة وكأنها حقيقة موضوعية.

غير أن الرقم لا يأتي من الفراغ.

وراء كل خوارزمية بشر اختاروا البيانات، وحددوا الأهداف، وصمموا النموذج، ووضعوا المعايير.

والبيانات نفسها قد تحمل تحيزات المجتمع الذي أنتجها.

لذلك يمكن للذكاء الاصطناعي أن يعيد إنتاج تمييز قديم بطريقة جديدة، بل ربما أكثر صعوبة في اكتشافه، لأن التحيز هذه المرة يأتي في صورة رقم أو نتيجة حسابية.

المشكلة إذن ليست فقط أن الآلة قد تكون مخطئة.

بل أن الخطأ قد يكتسب سلطة العلم.

من يحاسب الآلة؟

هنا تظهر واحدة من أخطر المشكلات القانونية.

لنفترض أن نظاماً للذكاء الاصطناعي اتخذ قراراً أضر بشخص.

من المسؤول؟

الشركة التي طورت النموذج؟

أم الشركة التي وفرت البيانات؟

أم المؤسسة التي اشترت النظام؟

أم الموظف الذي اعتمد النتيجة؟

أم النظام نفسه؟

في الواقع، لا يمكن تحميل الآلة المسؤولية القانونية بالمعنى التقليدي.

لكن سلسلة القرار قد تكون موزعة بين عدد كبير من الأطراف، بحيث يستطيع كل طرف أن يشير إلى طرف آخر.

النتيجة هي مفارقة خطيرة:

الضرر موجود، لكن المسؤول قد يختفي داخل التعقيد التقني.

وهنا لا تعود المسألة تقنية فقط.

إنها مشكلة في صميم دولة القانون.

هل تكفي عبارة «هناك إنسان يراقب»؟

غالباً ما يُطرح حل بسيط: لا مشكلة، لأن الإنسان موجود في النهاية لمراقبة الآلة.

لكن السؤال الحقيقي هو: هل هذه الرقابة حقيقية؟

كيف يستطيع طبيب أو قاضٍ أو مصرفي أو موظف حكومي أن يراجع خلال ثوانٍ نتيجة أنتجها نموذج معقد يعتمد على مليارات المعايير؟

إذا كان الإنسان لا يستطيع فهم الطريقة التي توصل بها النظام إلى النتيجة، فقد تتحول «المراجعة البشرية» إلى مجرد توقيع على قرار اتخذته الآلة مسبقاً.

وهنا تكمن المفارقة:

نحن نضع الإنسان في نهاية السلسلة كي نتمكن من القول إن القرار «بشري»، بينما يكون الإنسان عملياً قد فقد القدرة على مراجعة القرار أو فهمه.

فتصبح الرقابة البشرية أحياناً غطاءً للمسؤولية بدلاً من أن تكون ضمانة لها.

من المجتمع المرئي إلى المجتمع المراقَب

هناك بعد آخر أكثر اتساعاً يتعلق بالديمقراطية.

إذا كانت الأنظمة قادرة على جمع وتحليل كميات هائلة من المعلومات عن الأفراد، فإن السؤال لا يعود فقط: ماذا تستطيع الخوارزمية أن تعرف عنا؟

بل:

من يملك هذه المعرفة؟

الدولة؟

الشركات؟

المنصات الرقمية؟

أم مجموعة صغيرة من المؤسسات القادرة على امتلاك البيانات والبنية الحاسوبية؟

يمكن أن يتحول المجتمع تدريجياً إلى مجتمع مراقَب، فيما تبقى الجهات التي تراقبه بعيدة عن أعين المواطنين.

وهنا تظهر مفارقة جديدة:

المواطن يصبح أكثر قابلية للرؤية، بينما تصبح السلطة أقل قابلية للرؤية.

نحن نكشف المزيد عن أنفسنا للأنظمة الرقمية، لكننا نعرف أقل فأقل عن الطريقة التي تستخدم بها هذه الأنظمة المعلومات التي جمعتها عنا.

وهذه هي إحدى السمات الأساسية لـ«الليفياثان غير المرئي».

الخطر على الديمقراطية ليس أن تحكم الآلة

لا يحتاج الذكاء الاصطناعي إلى أن يصبح «حاكماً» حتى يغير طبيعة السلطة.

يكفي أن تصبح قراراته جزءاً لا غنى عنه من آلية الحكم.

إذا كانت الخوارزمية تساعد في تحديد من يحصل على وظيفة، ومن يحصل على قرض، ومن يدخل دولة، ومن يحصل على تأمين، ومن يصنف باعتباره خطراً، فإنها أصبحت جزءاً من ممارسة السلطة، حتى لو لم تحمل صفة رسمية.

وهنا يصبح السؤال الديمقراطي الأساسي:

هل يمكن أن تكون هناك سلطة بلا مساءلة؟

الديمقراطية لا تعني فقط انتخاب الحكام.

إنها تعني أيضاً أن يعرف المواطن لماذا اتُخذ القرار بحقه، وأن يستطيع الاعتراض عليه، وأن يجد مؤسسة يمكن أن تنصفه إذا كان القرار خاطئاً.

إذا اختفت هذه الإمكانية، يصبح التقدم التقني قادراً على إضعاف أحد أهم شروط دولة القانون.

لا يمكن محاربة الذكاء الاصطناعي بالخوف

لكن الحل ليس في رفض التكنولوجيا.

فالذكاء الاصطناعي يمكن أن يكون أداة هائلة في الطب والبحث العلمي والتعليم والإدارة والخدمات العامة.

المشكلة ليست في وجود الذكاء الاصطناعي، بل في المجال الذي نسمح له بأن يمارس فيه سلطة لا تخضع للرقابة.

المطلوب ليس إيقاف الابتكار، بل إخضاعه لقواعد تجعل التكنولوجيا متوافقة مع الحقوق الأساسية.

كلما اقترب النظام من اتخاذ قرار يمس:

الحرية، المال، العمل، الصحة، السكن أو الوضع القانوني للإنسان،

وجب أن ترتفع معه متطلبات الشفافية والمساءلة.

يجب أن يعرف المواطن، بالحد الأدنى، أن الخوارزمية تدخلت في القرار، وأن يعرف كيف يمكن الاعتراض عليه، وأن تكون هناك جهة بشرية قادرة فعلاً على مراجعته، وأن يكون هناك طرف قانوني محدد يتحمل المسؤولية إذا وقع الضرر.

المعركة المقبلة ليست بين الإنسان والآلة

ربما تكون هذه هي الخلاصة الأهم.

المعركة الحقيقية ليست بين الإنسان والذكاء الاصطناعي.

بل بين نموذجين للسلطة.

في الأول، تستخدم التكنولوجيا لخدمة الإنسان، وتبقى خاضعة للقانون والرقابة والمساءلة.

وفي الثاني، تستخدم التكنولوجيا لتجعل القرار أسرع وأكثر كفاءة، لكن على حساب حق الإنسان في الفهم والاعتراض والاستثناء.

وهنا يصبح السؤال الذي ينبغي أن يشغلنا أقل إثارة من سؤال: «هل ستتفوق الآلة على الإنسان؟»، لكنه أكثر أهمية:

هل سيظل الإنسان قادراً على مساءلة السلطة التي تستخدم الآلة؟

لقد كان ليفياثان هوبز مرئياً.

كان له وجه.

أما ليفياثان الجديد فقد يكون موزعاً بين خوارزمية وقاعدة بيانات وشركة ومنصة ومؤسسة حكومية.

لا نراه، لكننا نشعر بقراراته.

ولا نعرف دائماً من أصدر القرار، ولا كيف وصل إليه، ولا إلى من نتوجه للاعتراض.

وهنا يكمن الخطر الحقيقي.

لأن الإنسان لا يفقد حريته فقط عندما يُمنع من الاختيار.

قد يفقدها أيضاً عندما يصبح عاجزاً عن فهم القوة التي تختار نيابة عنه.

والتحدي أمام القانون والديمقراطية ليس أن يمنعا الآلة من أن تكون ذكية.

بل أن يضمنا ألا يصبح الإنسان، أمام ذكاء الآلة، مجرد رقم في قرار لا يستطيع أحد تفسيره.

المقال الأصلي منشور للكاتب Abel Veiga Copo في EL PAÍS بتاريخ 7 أكتوبر 2026.