إعادة صياغة شاملة مع تفاصيل وسياق وتحديثات للجدول الزمني

بقلم أديتيا سوني

5 يونيو (رويترز) - تدعو منظمة أنثروبيك مختبرات الذكاء الاصطناعي الكبرى إلى النظر في وقف منسق وقابل للتحقق في التطوير، محذرةً من أن التطورات السريعة في التكنولوجيا قد تسمح قريباً لأنظمة الذكاء الاصطناعي بتحسين نفسها بشكل أسرع من قدرة المجتمع على إدارة المخاطر.

قال مبتكر كلود إن قدرة الذكاء الاصطناعي على إكمال المهام بمفرده تتضاعف تقريبًا كل أربعة أشهر، وإنه يتجه نحو "التحسين الذاتي المتكرر"، وهي النقطة التي يمكن للتكنولوجيا عندها أن تتحسن دون تدخل بشري.

وقالت الشركة الناشئة في منشور مطول على مدونتها يوم الخميس: "إذا كانت الأنظمة قادرة على بناء خلفائها بشكل كامل، فإن الطرق التي نؤمن بها ونراقبها ونشكل سلوكها تصبح أكثر أهمية بكثير"، مضيفة أن التوقف المؤقت سيسمح للمجتمع "بالتعامل مع تداعياته الهائلة".

"لم نصل إلى تلك المرحلة بعد، والتحسين الذاتي المتكرر ليس أمراً حتمياً. لكنه قد يأتي أسرع مما تستعد له معظم المؤسسات"، هذا ما كتبه جاك كلارك، المؤسس المشارك لشركة أنثروبيك، ومارينا فافارو، رئيسة معهد أنثروبيك، في المنشور.

تزايدت المخاوف من خروج أنظمة الذكاء الاصطناعي المتقدمة عن سيطرة الإنسان وتسببها في أضرار مجتمعية مع ازدياد قدرات هذه التقنية. وقد أحدث نموذج "ميثوس" التابع لشركة "أنثروبيك" صدمة في قطاعات مختلفة، بما في ذلك القطاع المصرفي والبرمجيات، في وقت سابق من هذا العام، وذلك لقدرته على اكتشاف الثغرات الأمنية في البرمجيات الموجودة.

لكنّ التنظيم كان بطيئاً، لا سيما في الولايات المتحدة حيث تتمركز معظم مختبرات الذكاء الاصطناعي الرائدة. وقد حمّل أمر تنفيذي صادر عن إدارة ترامب في وقت سابق من هذا الأسبوع المختبرات نفسها المسؤولية، مطالباً إياها بتقديم نماذجها الأكثر كفاءة طواعيةً لاختبارات الأمن السيبراني الحكومية قبل نشرها للجمهور.

سبق أن دعا باحثو الذكاء الاصطناعي إلى وقف تطوير الذكاء الاصطناعي، لكن دون جدوى تُذكر. وكان إيلون ماسك، مالك مختبر xAI للذكاء الاصطناعي، من بين الداعمين لحملة عام 2023 التي أطلقها معهد مستقبل الحياة غير الربحي لوقف تطوير الذكاء الاصطناعي لمدة ستة أشهر لإتاحة الوقت لوضع ضوابط السلامة.

لطالما رسّخت شركة أنثروبيك مكانتها كمختبر ذكاء اصطناعي يركز على السلامة. وفي وقت سابق من هذا العام، رفضت السماح للجيش الأمريكي باستخدام نماذجها للمراقبة الداخلية والأسلحة ذاتية التشغيل بالكامل، مما أثار رد فعل غاضب من الحكومة التي أدرجتها على قائمة سوداء للأمن القومي، من المقرر أن تدخل حيز التنفيذ في وقت لاحق من عام 2026.

أفادت وكالة رويترز يوم الجمعة بأن النزاع بدأ يُظهر علامات على التراجع في أجزاء من الحكومة الأمريكية.

ومع ذلك، واصلت شركة أنثروبيك إصدار نماذج أكثر قوة، وفي فبراير تراجعت عن تعهد رئيسي يتعلق بالسلامة، قائلة إنها لن تحجب بعد الآن الذكاء الاصطناعي الذي يحتمل أن يكون خطيرًا إذا كان المنافسون قريبين من مطابقة قدراتها.

وقد تم تقييمها مؤخراً بمبلغ 965 مليار دولار في جولة تمويل ضخمة، وقدمت طلباً سرياً للاكتتاب العام الأولي في الولايات المتحدة يوم الاثنين، مما جعلها تتقدم على منافستها OpenAI في كل من التقييم والسباق لتأمين التمويل الحاسم.

عمل منسق

وحذر منشور شركة أنثروبيك يوم الخميس من أن عمليات التباطؤ الأحادية أو غير المنسقة بشكل جيد قد تأتي بنتائج عكسية إذا استمرت الجهات الفاعلة الأقل حذرًا في التقدم، مما قد يقلل من السلامة العامة.

وذكر التقرير أن التوقف الهادف سيتطلب اتفاقاً بين "مختبرات متعددة ذات موارد جيدة" تعمل على الحدود التكنولوجية، بالإضافة إلى قواعد بشأن الشروط التي من شأنها أن تؤدي إلى مثل هذا التوقف أو رفعه، ومن سيشرف عليه.

وقالت الشركة الناشئة: "على النقيض من ذلك، فإن التوقف الأحادي من جانب مختبر واحد يمكن تحقيقه على الفور، ولكنه يحقق نتائج أقل بكثير: فهو سيغير من هو المرشح الأوفر حظاً، ولكنه لن يخلق عملية التداول الأوسع التي تفتقر إليها الشركة حالياً".

يخطط ذراعها البحثي، معهد الأنثروبيك، لدراسة الأنظمة اللازمة لدعم التباطؤ، وسيقوم في الأشهر المقبلة بعقد اجتماعات مع صانعي السياسات والباحثين وجماعات المجتمع المدني وشركات الذكاء الاصطناعي المنافسة لمناقشة إدارة المخاطر مثل التحسين الذاتي المتكرر.

لم ترد شركات OpenAI و xAI و Alphabet و Meta Platforms وشركة Mistral الفرنسية على الفور على طلبات التعليق بشأن ما إذا كانت ستنضم إلى المكالمة.