ما بعد السلامة المطلقة.. لماذا تخلت أنثروبيك عن نهجها الأكثر تحفظا؟

"كلما أصبحنا أكثر قدرة على بناء أنظمة ذكية، أصبحنا أقل يقينا بما إذا كنا نفهمها بالفعل". هذه الفكرة التي تتكرر بصيغ مختلفة في خطاب عدد متزايد من الباحثين في الذكاء الاصطناعي تلخص التوتر العميق الذي يرافق الجيل الجديد من النماذج بأن القدرة على التطوير لا توازي بالضرورة القدرة على الفهم أو التنبؤ الكامل بالسلوك. يجسد التحول الذي شهدته شركة "أنثروبيك" للذكاء الاصطناعي هذا التوتر بوضوح، بعدما انتقلت من التعامل مع نموذج "ميثوس" باعتباره عالي الخطورة ويستدعي قيودا صارمة إلى إتاحة نسخة عامة منه تحت اسم "فابل 5″، في خطوة أثارت تساؤلات تتجاوز قدرات النموذج التقنية إلى فلسفة إدارة المخاطر التي تحكم صناعة الذكاء الاصطناعي بأكملها. لم يعد النقاش داخل شركة "أنثروبيك" يدور حول ما إذا كان ينبغي تطوير نماذج ذكاء اصطناعي أكثر تقدما، بل حول القواعد التي يجب أن تحكم هذا التطوير في بيئة تتغير بسرعة تفوق قدرة السياسات على مواكبتها. وبحسب تصريحات لمسؤولين في الشركة لمجلة "تايم"، تخلت "أنثروبيك" عن أحد التعهدات الأساسية في سياستها الرائدة للسلامة، والذي كان ينص في نسخته الأولى على عدم تدريب أي نظام ذكاء اصطناعي ما لم تتمكن الشركة مسبقا من ضمان كفاية إجراءات الحماية وتقليل المخاطر. هذا التعهد، الذي شكل حجر الأساس في "سياسة التوسع المسؤول" (Responsible Scaling Policy – RSP) منذ عام 2023، كان يقدم باعتباره التزاما صارما يضع السلامة قبل سرعة التطوير. وسياسة التوسع المسؤول عبارة عن إطار عمل أمني طوعي تلتزم به شركات الذكاء الاصطناعي الكبرى لإدارة المخاطر الكارثية للنماذج المتقدمة، وتعتمد السياسة على مبدأ "ربط قوة النموذج بمستوى أمانه"؛ حيث يتم تقييم قدرات الأنظمة باستمرار وتصنيفها إلى مستويات خطورة متدرجة. لكن في التحديثات الأخيرة، ألغت الشركة شرط "الضمان المسبق" للسلامة قبل التدريب، واستبدلته بنهج أكثر مرونة يركز على الشفافية ومقارنة مستوى المخاطر مع المنافسين وإمكانية تأخير التطوير فقط إذا تصدرت الشركة السباق مع وجود مخاطر كارثية مرتفعة. وقال جارد كابلان، كبير العلماء في "أنثروبيك" إن التمسك بالتوقف عن التدريب لم يعد منطقيا في بيئة يتسارع فيها التقدم. إذا كانت "أنثروبيك" قد أعادت تعريف الطريقة التي تتعامل بها مع المخاطر، فإن السؤال الذي يطرح نفسه "هل تغيرت المخاطر أم طريقة إدارتها؟". لفهم هذا التحول بشكل أدق، لابد من الانتقال من مستوى السياسات إلى مستوى التنفيذ التقني داخل النموذج. في هذا السياق، ترى إليانور واتسون، العضو البارز في "معهد مهندسي الكهرباء والإلكترونيات" (IEEE) وباحثة دكتوراه في الهندسة بجامعة غلوسترشير (Gloucestershire) في المملكة المتحدة، أن ما حدث لا يمكن تفسيره بمجرد إعادة تصنيف إدارية، بل توجد تدخلات تقنية حقيقية جرى إدخالها بين مرحلتي "ميثوس" و"فابل 5″، تركز على التحكم في الوصول أكثر من تغيير القدرات. وتوضح واتسون، في حديثها للجزيرة نت، أن "فابل 5" يعمل خلف طبقة إضافية من المصنفات (Classifiers) التي ترصد الاستفسارات الحساسة، وعند اكتشاف طلبات مرتبطة بمجالات عالية الخطورة مثل الأمن السيبراني الهجومي أو البيولوجيا الجزيئية، تُحوَّل إلى نموذج أقل قدرة. وتصف هذا الحل بأنه غير مثالي من الناحية الهندسية، لكنه يسمح بالاستفادة من نموذج قوي مع تقييد قدراته الحساسة. وتضيف أن النظام الذي أثار المخاوف سابقا بسبب قدراته المتقدمة، بما في ذلك اكتشاف نحو 2000 ثغرة أمنية من نوع "اليوم الصفري" (Zero-Day)، لا يزال قائما في جوهره. لكن الشركة أضافت طبقات من الضوابط للحد من الوصول إلى بعض القدرات الحساسة. غير أن نجاح هذه المقاربة يعتمد، بحسب واتسون، على فعالية أنظمة التصنيف نفسها، والتي لم تختبر بشكل مستقل بالكامل، لافتة إلى أن بعض المؤشرات التي توصل إليها باحثون في "أمازون" بشأن إمكانية الالتفاف على بعض القيود كانت كافية لإثارة مخاوف داخل الإدارة الأمريكية. من جهتها، ترى ألميرا زينوتدينوفا، باحثة إسبانية في أخلاقيات وتقنيات الذكاء الاصطناعي المسؤول ونائبة رئيس جمعية "فيغ آي إيه" (VigIA) الإسبانية غير الربحية المعنية بالاستخدام الأخلاقي والمسؤول للذكاء الاصطناعي، أن القضية تتجاوز حدود النموذج نفسه. وتقول للجزيرة نت، إن "القصة الكاملة المتعلقة بأحدث تطورات وإصدارات "أنثروبيك" تكشف عن إخفاقات حوكمة الذكاء الاصطناعي الحالية في الولايات المتحدة الأمريكية أكثر مما تكشف عن أي شيء آخر". لكنها بالمقابل ترى أن "أنثروبيك" حاولت تبني مفهوم "المسؤولية المشتركة" عبر مشروع "غلاسوينغ" (Project Glasswing)، الذي جمع عددا من الشركات والمؤسسات التقنية الكبرى بهدف توظيف قدرات النموذج في الدفاع السيبراني واكتشاف الثغرات وتأمين البرمجيات مفتوحة المصدر. لكنها تحذر من الطبيعة المزدوجة لهذه الأنظمة. فبحسبها، النظام القادر على اكتشاف الثغرات وإصلاحها هو نفسه القادر على المساعدة في اكتشاف طرق جديدة لاستغلالها. ومن هذا المنطلق لم يعد الجدل يدور فقط حول سلامة النموذج، بل حول تداعياته الإستراتيجية والجيوسياسية أيضا. وتضيف أن المخاوف تتزايد أيضا من إمكانية الاستفادة من مخرجات النموذج في تدريب نماذج محلية عبر تقنيات "تقطير النماذج" (AI Distillation)، وتخلص إلى أن ما نشهده "بدأ يشبه نوعا جديدا من سباق التسلح، شبيها بسباق الفضاء في الماضي، لكنه يتمحور اليوم حول الذكاء الاصطناعي". رغم تأكيد "أنثروبيك" أن تعديل سياسة السلامة الخاصة بها يعكس قراءة جديدة للواقع التقني والتنظيمي، فإن من الصعب تجاهل العامل التنافسي في تفسير هذا التحول. ولفهم هذا التعقيد، يجب النظر إلى التفاعل بين التقنية والتنظيم والمنافسة. وفي هذا السياق، ترى واتسون أن "من السذاجة الادعاء بأن الديناميكيات التنافسية لا تلعب أي دور"، مشيرة إلى أن الفترة الفاصلة بين اعتبار النموذج "خطيرا جدا بحيث لا يمكن إطلاقه" وبين إتاحته للعامة لم تتجاوز نحو شهرين. لكنها تحذر في الوقت نفسه من اختزال القضية في ضغوط السوق وحدها. فشركات الذكاء الاصطناعي الكبرى تواجه معضلة حقيقية، إذ إن حجب نموذج قوي لا يمنع ظهور القدرات نفسها لدى منافسين آخرين، بينما يؤدي إطلاقه إلى ترسيخ سابقة جديدة بشأن المدة الزمنية المقبولة بين اكتشاف المخاطر المحتملة وبين النشر الفعلي للجمهور. ومن هذا المنطلق، ترى أن الافتراض القائل إن "شخصا آخر سيبنيه على أية حال" قد يتحول تدريجيا إلى مبرر يضعف ثقافة الحذر في القطاع بأكمله. وفي المقابل، لا يمكن إنكار أن المنافسة الشرسة بين الشركات ساهمت في إبقاء وتيرة التقدم عند مستويات غير مسبوقة، مع انتقال كثير من الأفكار والقدرات بسرعة إلى نماذج أقل تكلفة عبر المنافسين. وتضيف أن قادة شركات الذكاء الاصطناعي باتوا يواجهون ما يشبه "المعضلة الثلاثية"، فهم يريدون الحفاظ على صورة المبتكر وحماية المزايا التنافسية وتجنب ردود الفعل التنظيمية التي قد تعرقل أعمالهم. وتلتقي زينوتدينوفا جزئيا مع هذا التقييم، لكنها تضيف بعدا آخر للنقاش يتمثل في الضغوط الرمزية والثقافية التي تحيط بسباق الذكاء الاصطناعي، إذ ترى أنه لا يمكن استبعاد أن بعض الخطابات الأخلاقية في القطاع تتحول أحيانا إلى ما يعرف بـ "غسل الأخلاقيات" (Ethics Washing)، حيث تستخدم مبادئ الحوكمة والمسؤولية لتعزيز الصورة العامة للشركات دون أن تنعكس دائما على القرارات التجارية النهائية. وتقول إن قادة الذكاء الاصطناعي اليوم "يرغبون في أن يُنظر إليهم باعتبارهم النسخة الحديثة من نيل أرمسترونغ أو يوري غاغارين"، في إشارة إلى أن المنافسة لم تعد اقتصادية أو تقنية فحسب، بل أصبحت أيضا سباقا على المكانة التاريخية والريادة. من جهة أخرى، تشير واتسون، إلى أن التواصل بشأن السلامة نفسه أصبح مصدرا للمخاطر. فحين وصفت "أنثروبيك" نموذج "ميثوس" بأنه خطير جدا، تحولت هذه اللغة لاحقا إلى جزء من الأساس الاستدلالي الذي استخدم في نقاشات وإجراءات مرتبطة بضوابط التصدير. وبذلك، وجدت المختبرات نفسها أمام مفارقة غير متوقعة، فكلما كانت أكثر شفافية في الحديث عن المخاطر، ازدادت احتمالات التعرض لقيود تنظيمية قد لا تكون متناسبة مع مستوى الخطر الفعلي بعد تطبيق الضمانات وإجراءات الحماية. وترى واتسون أن ما يحدث لا يقتصر على إعادة تقييم نموذج بعينه، بل يعكس ظهور نمط جديد في طريقة نشر أنظمة الذكاء الاصطناعي المتقدمة. فبدلا من الاختيار بين الإطلاق الكامل أو المنع الكامل، بدأت الشركات تتجه نحو ما تصفه بـ "نموذج الإطلاق متعدد المستويات"، والذي يقوم على إتاحة نسخة عامة مزودة بقيود وضوابط قوية، إلى جانب نسخ أكثر تقدما يمكن الوصول إليها من قبل باحثين أو جهات تم التحقق منها واعتمادها. وبحسبها، يمثل هذا النهج محاولة للتوفيق بين الحذر ومتطلبات النشر العملي، كما أنه يعكس إدراكا متزايدا بأن الخيارات الثنائية التقليدية لم تعد كافية للتعامل مع أنظمة تمتلك هذا مستوى من القدرات. وتضيف أن التفاعل الأول مع الجمهور يكشف أحيانا عن مشكلات قد لا يتمكن حتى الباحثون المتخصصون في الأمن من اكتشافها خلال الاختبارات الداخلية. لكن السؤال الأهم، في نظرها، يتعلق بجاهزية البنية التحتية للمراقبة والأطر التنظيمية لاكتشاف الإخفاقات والاستجابة لها بالسرعة المطلوبة. وتشير إلى أن قرار الحكومة الأمريكية إخضاع "فابل 5" لقيود شبيهة بتلك المفروضة على بعض المواد العسكرية الحساسة بعد أيام من إطلاقه يوحي بأن بعض المؤسسات لا تزال تشكك في كفاية هذه الآليات، أو تخشى أن يؤدي الانتشار السريع للتقنيات المتقدمة إلى فقدان مزايا جيوسياسية وإستراتيجية مهمة. من ناحيتها، ترى زينوتدينوفا أن الحكم على قرارات إطلاق النماذج لا ينبغي أن يستند إلى تصريحات الشركات وحدها، بل إلى سجلها العملي وشبكة شراكاتها ومدى التزامها الفعلي بالمعايير الأخلاقية. وتؤكد أن التعاونات المرتبطة بالمراقبة الجماعية أو إساءة استخدام البيانات أو الأنظمة ذاتية التشغيل قد تكون مؤشرا مهما على كيفية تعامل الشركات مع المسؤولية والمخاطر. وتضيف أن الضغوط التجارية ستظل حاضرة دائما في سباق الذكاء الاصطناعي، وقد تتغلب أحيانا على الاعتبارات الأخلاقية، حتى مع نضوج أطر السلامة تدريجيا.