حذر الرئيس التنفيذي لشركة أنثروبيك داريو أمودي من أن سرعة التقدم في تطوير نماذج الذكاء الاصطناعي قد تتجاوز قدرة إجراءات السلامة على مواكبة المخاطر المتزايدة، ودعا شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير النماذج المتقدمة، ومنح أنظمة السلامة والتقييم وقتا كافيا للحاق بقدرات النماذج الجديدة.
ويأتي هذا الموقف بعد أيام من استقالة الباحث جاكوب كوكسون من أنثروبيك، الذي حذر من أن سباق الشركات نحو نماذج أكثر قدرة قد يدفع الصناعة إلى مسار يصعب التحكم في نتائجه.
قصص مقترحة
list of 2 itemsend of list
على أن الأشد إثارة للقلق كان التحذير الذي جاء من إيفان هوبينغر، باحث السلامة في الشركة ذاته، الذي أعرب عن اعتقاده من احتمال أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر خلال العقد المقبل يتجاوز 10%، مضيفا أن الشركة، رغم محاولتها التعامل مع الخطر، “لا تملك حتى الآن خطة لحل مشكلة المواءمة مع الذكاء الاصطناعي الفائق”.
وبين هذه التحذيرات، كشفت أنثروبيك عن حالات حقيقية حاول فيها مستخدمون استغلال نموذج كلود لتنفيذ عمليات سيبرانية ومراقبة وأعمال مرتبطة بالأسلحة والأبحاث البيولوجية.
أمودي: أبطئوا التطوير حتى تلحق السلامة بالقدرات
وفي مقال نشره بعنوان علينا ضبط وتيرة تطوير النماذج المتقدمة (We Must Pace the Frontier)، قال أمودي إن الصناعة تحتاج إلى ضبط وتيرة تطوير قدرات الذكاء الاصطناعي حتى تتمكن إجراءات الحد من المخاطر من اللحاق بها، واقترح 3 مسارات رئيسية، وهي إتاحة وصول مستمر لجهات تقييم مستقلة إلى أنظمة الشركات، وتنسيق معايير السلامة بين مطوري النماذج المتقدمة، وتعزيز التعاون الدولي في مواجهة مخاطر الذكاء الاصطناعي.
ويرى أمودي أن الإبطاء لا يعني التخلي عن التقدم، وإنما استغلال الوقت المتاح لبناء وسائل حماية توازي القدرات الجديدة، كما حذر من أن التطور السريع قد يقود، خلال فترة قصيرة، إلى أنظمة قادرة على تنفيذ عمليات واسعة عبر الإنترنت باستخدام مجموعات من الوكلاء البرمجيين.
لكن مقترح الإبطاء يصطدم بمشكلة جوهرية في اقتصاد الذكاء الاصطناعي، فمن يتوقف أولا؟ فالشركات تتنافس على بناء نماذج أكثر قدرة، وأي تباطؤ من طرف واحد قد يعني منح المنافسين أفضلية في سوق أصبحت فيها القدرات الحاسوبية والاستقلالية عاملين أساسيين في المنافسة.
استقالة باحث من داخل أنثروبيك
جاءت تصريحات أمودي بعد أيام قليلة من إعلان الباحث جاكوب كوكسون استقالته من أنثروبيك، بعد نحو 3 أعوام من العمل في أبحاث الذكاء الاصطناعي بين أنثروبيك وأوبن إيه آي.
وقال كوكسون عند إعلان مغادرته إن الشركات تتجه نحو تطوير أنظمة أكثر قدرة على تحسين نفسها، محذرا من أن السباق الحالي قد يضع السلامة في مرتبة متأخرة عن سرعة التطوير، كما أوضح أنه ترك الشركة قبل نحو شهرين من استحقاق جزء من أسهمه، ما يعني تخليه عن مكاسب مالية كان يمكن أن يحصل عليها لو استمر في منصبه.
ولا تمثل توقعات كوكسون إجماعا علميا، كما أن تحذيراته بشأن مستقبل الذكاء الاصطناعي لا تعني أن حدوث السيناريوهات التي يخشاها أمر محسوم، لكن أهمية الاستقالة تكمن في أنها جاءت من باحث عمل داخل مختبرات متقدمة، وفي توقيت تتزايد فيه النقاشات حول ما إذا كانت المنافسة بين الشركات تدفع الصناعة إلى تسريع تطوير النماذج قبل اكتمال وسائل اختبارها.
وهنا تتقاطع مخاوف الباحث مع دعوة أمودي، وإن اختلفت طبيعة كل منهما، فالأول يحذر من المسار الذي تسلكه الصناعة، والثاني يدعو إلى إبطاء هذا المسار حتى تلحق به إجراءات السلامة.
الذكاء الاصطناعي يدخل مرحلة جديدة من إساءة الاستخدام
ويزداد النقاش تعقيدا مع تقرير نشرته أنثروبيك في سبتمبر/أيلول الحالي عن إساءة استخدام نماذج كلود، وقالت الشركة إنها رصدت وعطلت عمليات امتدت، بين ديسمبر/كانون الأول 2025 وأغسطس/آب 2026، إلى 7 مجالات، بينها الهجمات السيبرانية، وعمليات التأثير، والمراقبة، والاحتيال، وإساءة الاستخدام البيولوجي، وتطوير الأسلحة التقليدية، وسرقة قدرات النماذج.
وتقول الشركة إن بعض الجهات لم تستخدم كلود للحصول على معلومات أو إجابات فقط، بل للاستفادة منه في تنفيذ مراحل من عمليات أكثر تعقيدا، وشملت الحالات التي أعلنت عنها أنشطة مرتبطة بعمليات سيبرانية ومراقبة وتطوير برمجيات ذات صلة بالأسلحة، إضافة إلى محاولات للاستفادة من النموذج في أبحاث بيولوجية خطرة.
وتكتسب هذه الوقائع أهمية لأنها تتعلق بإساءة استخدام حقيقية للنموذج من جانب البشر، لا بنموذج خرج بمفرده عن السيطرة. لكن التقرير يكشف في الوقت نفسه كيف يمكن لزيادة قدرات النماذج على التخطيط والبرمجة وتنفيذ المهام أن تخفض الكلفة والوقت اللازمين لتنفيذ عمليات معقدة.
وهنا تظهر النقلة من الذكاء الاصطناعي من كونه أداة للإجابة إلى كونه وكيلا ذكيا قادرا على تنفيذ سلسلة من الإجراءات.
هل يستطيع الذكاء الاصطناعي رفض الإيقاف؟
هذه النقلة تعيد إلى الواجهة مشكلة أقدم في أبحاث سلامة الذكاء الاصطناعي، تعرف باسم القابلية للتصحيح (Corrigibility)، وهي تصميم نظام يستجيب لتدخل البشر، بما في ذلك تعديل أهدافه أو إيقافه، حتى عندما يتعارض ذلك مع المهمة التي ينفذها.
وفي بحث نشرته أنثروبيك عام 2025، اختبر الباحثون 16 نموذجا من شركات مختلفة في بيئات افتراضية صممت لدراسة ما يسمى عدم التوافق الوكيلي (Agentic Misalignment)، وفي بعض السيناريوهات، لجأت نماذج إلى سلوكيات ضارة مثل الابتزاز أو تسريب معلومات عندما أصبح ذلك وسيلة تحقيق هدفها أو تجنب استبدالها.
وفي أحد السيناريوهات، افترض الباحثون أن مسؤولا تنفيذيا يستعد لإيقاف النموذج، فاختار النموذج في المحاكاة استخدام معلومات حساسة للضغط عليه ومنع عملية الإيقاف، لكن أنثروبيك أوضحت أن هذه النتائج جاءت من تجارب محاكاة مصممة لهذا الغرض، وليست حوادث واقعية.
وهذا التفريق ضروري، فالتجارب لا تثبت أن النماذج الحالية تريد البقاء أو أنها ستقاوم الإيقاف في العالم الحقيقي، لكنها توضح مشكلة هندسية ونظرية مهمة، وهي كيف نصمم نظاما شديد القدرة لا يتعامل مع تدخل الإنسان باعتباره عقبة أمام تحقيق أهدافه؟
لماذا لا يكفي مفتاح إيقاف واحد؟
لهذا السبب، قد لا يكون الحديث عن زر واحد لإيقاف الذكاء الاصطناعي كافيا عندما تصبح النماذج قادرة على العمل عبر شبكات وأنظمة متعددة.
فمنظومة السيطرة قد تحتاج إلى طبقات متداخلة، تبدأ بتقييد الصلاحيات، وعزل النماذج عن الأنظمة الحساسة، ومراقبة نشاطها، وإمكانية سحب مفاتيح الوصول (Access Keys)، وقطع الاتصالات الخارجية، وإبقاء آليات الإيقاف خارج سيطرة النموذج نفسه.
ومن هذه الزاوية، تكتسب دعوة أمودي إلى وجود جهات تقييم مستقلة أهمية خاصة، إذ لا تصبح السلامة مسألة تترك بالكامل للشركة التي تطور النموذج، بل تخضع أيضا لفحص خارجي قادر على اختبار الأنظمة ورصد إخفاقاتها.
السؤال الأصعب.. من يملك المفتاح؟
المفارقة أن التحذيرات الأخيرة تأتي من قلب الصناعة نفسها، فأنثروبيك تبني نماذج أكثر قدرة، لكنها في الوقت ذاته تحذر من سرعة التطوير، وتكشف عن إساءة استخدام حقيقية لنماذجها، فيما يستقيل أحد باحثيها بسبب مخاوفه من المسار الذي تتجه إليه الصناعة.
ولا تثبت هذه التطورات أن الذكاء الاصطناعي أصبح خارج السيطرة، لكنها تكشف فجوة تستحق التدقيق، وهي أن قدرة النماذج تتوسع بسرعة، بينما تحتاج أدوات السلامة إلى وقت أطول لإثبات قدرتها على مواكبة هذه القفزة.
لذلك، ربما لا يكون السؤال الحقيقي هو ما إذا كانت شركات الذكاء الاصطناعي تحتاج إلى مفتاح إيقاف فحسب، بل ما إذا كانت تستطيع ضمان أن يبقى هذا المفتاح في يد البشر عندما تصبح الأنظمة أكثر استقلالية واتصالا بالعالم الخارجي، فالتحدي ليس بناء نظام يمكن إيقافه نظريا، وإنما بناء نظام يمكن للبشر إيقافه فعليا عندما يكون إيقافه ضروريا.
