حذر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك ، من أنه لا يمكن الوثوق بأمان بالحكومات أو الشركات وحدها في أنظمة الذكاء الاصطناعي ذات القوة المتزايدة، بحجة أن كلاهما يحتاج إلى ضوابط وتوازنات ذات مغزى مع ازدياد قدرة الذكاء الاصطناعي.

وفي مقال نُشر يوم الأربعاء، قال أمودي أيضاً إنه ينبغي أن تتمتع الحكومات بسلطة منع أو عكس عمليات نشر نماذج الذكاء الاصطناعي المتقدمة التي تشكل مخاطر غير مقبولة، بما في ذلك التهديدات المتعلقة بالأمن السيبراني والأسلحة البيولوجية وفقدان السيطرة على أنظمة الذكاء الاصطناعي.

جادل الرئيس التنفيذي لشركة أنثروبيك بأن شركات الذكاء الاصطناعي قد تكتسب في نهاية المطاف "خصائص شبه حكومية"، لتصبح قوية بما يكفي للتأثير على المجتمع بطرق ترتبط تقليديًا بالحكومات. وكتب أن الذكاء الاصطناعي المتقدم قد يصبح "قويًا لدرجة أنه لا يمكن الوثوق به بشكل كامل للحكومات أو الشركات".

لماذا لم تعد الشفافية كافية؟

قال أمودي إن الأساليب الحالية التي تركز على الشفافية في الإشراف على الذكاء الاصطناعي لم تعد كافية مع ازدياد قدرة النماذج الرائدة.

ودعا إلى "تنظيم أكثر جدية وإلزامية للذكاء الاصطناعي" وقارن أنظمة الذكاء الاصطناعي المتقدمة بالطائرات والأدوية، بحجة أنه ينبغي إخضاعها لاختبارات إلزامية من قبل جهات خارجية قبل نشرها.

وكتب أمودي: "ينبغي منع إطلاق سراحهم أو إلغاؤه باعتباره تهديدًا للسلامة العامة إذا لم يستوفوا معايير السلامة العالية".

ستركز التقييمات المقترحة على المخاطر المتعلقة بالأمن السيبراني، والأسلحة البيولوجية، وفقدان السيطرة، وقدرات البحث الآلي. وأضاف أنه ينبغي على مطوري الذكاء الاصطناعي الحفاظ على معايير أمنية عالية، وإجراء اختبارات دورية، والإبلاغ الفوري عن الحوادث الأمنية الكبرى.

الاستعداد لفقدان الوظائف بسبب الذكاء الاصطناعي

وبعيداً عن مخاطر السلامة، حذر أمودي من أن الذكاء الاصطناعي قد يخلق اضطرابات أكبر وأكثر استدامة في سوق العمل مقارنة بالتحولات التكنولوجية السابقة.

وكتب قائلاً: "من المعقول الاعتقاد بأن الذكاء الاصطناعي يمكن أن يُحدث اضطرابات أكبر بكثير في سوق العمل مقارنة بالتقنيات السابقة".

ولمعالجة هذه المخاطر، اقترح أمودي تدابير تشمل التأمين على الأجور، وحوافز الاحتفاظ بالعمال، وبرامج تدريب القوى العاملة، وتوسيع نطاق رصد تأثير الذكاء الاصطناعي على التوظيف. كما أشار إلى أن آليات دعم الدخل الأوسع نطاقاً قد تصبح ضرورية في نهاية المطاف إذا ما انتشرت ظاهرة النزوح على نطاق واسع.

جادل أمودي بأن على صانعي السياسات التركيز على ضمان تقاسم فوائد النمو الاقتصادي المدفوع بالذكاء الاصطناعي على نطاق واسع بدلاً من تركيزها بين مجموعة صغيرة من الشركات والمستثمرين.

من ينبغي له السيطرة على الذكاء الاصطناعي القوي؟

وتناولت المقالة أيضاً المخاوف بشأن تأثير الذكاء الاصطناعي على الحريات المدنية والسلطة السياسية والأمن القومي.

حذّر أمودي من أن الذكاء الاصطناعي المتقدم قد يتحول إلى أداة للمراقبة والسيطرة الاستبدادية إذا ما تمكنت الحكومات من الوصول غير المقيد إلى أنظمة ذات قدرات متزايدة. كما دعا إلى تعزيز الحماية ضد استخدام الأسلحة ذاتية التشغيل بالكامل محلياً.

وفي الوقت نفسه، جادل بأن الشركات الخاصة لا ينبغي أن تتمتع بنفوذ غير مقيد على أنظمة الذكاء الاصطناعي القوية بشكل متزايد، محذراً من أن بعض الشركات قد تطور في نهاية المطاف "خصائص شبه دولة".

في مجال الجغرافيا السياسية، وصف أمودي الذكاء الاصطناعي بأنه تقنية تضاهي الأسلحة النووية في أهميتها الاستراتيجية، مؤكداً أنه قد يصبح مصدراً مهيمناً للقوة العسكرية والاقتصادية. ودعا إلى تنسيق أوثق بين الدول الديمقراطية بشأن سياسات الذكاء الاصطناعي ومعايير السلامة وضوابط سلاسل التوريد.

الأساطير تثير القلق

يأتي الجدل الدائر حول شركة ميثوس في أعقاب أشهر من التوتر بين شركة أنثروبيك ومسؤولين أمريكيين بشأن سلامة الذكاء الاصطناعي وتطبيقاته العسكرية. وفي وقت سابق من هذا العام، اتخذت إدارة ترامب خطوة للتخلص التدريجي من تقنية أنثروبيك من الوكالات الفيدرالية بعد أن فرضت الشركة قيودًا على المراقبة الجماعية والأسلحة ذاتية التشغيل.

قدّمت شركة أنثروبيك لاحقاً إحاطة لأعضاء لجنة الأمن الداخلي بمجلس النواب حول نظام ميثوس وتداعياته على الأمن القومي. كما وصف إميل مايكل، كبير مسؤولي التكنولوجيا في البنتاغون، هذا النظام بأنه "لحظة استثنائية في مجال الأمن القومي" نظراً لقدراته السيبرانية المتقدمة.

يأتي هذا المقال بعد أيام من إطلاق شركة أنثروبيك لـ Mythos 5، وهو أحدث إصدار من نموذج الذكاء الاصطناعي الذي يركز على الأمن السيبراني، إلى جانب Claude Fable 5 ، وهو أحدث نظام موجه للمستهلكين.

في ظل هذه الخلفية، تأتي دعوة أمودي إلى ضمانات أقوى، واختبارات إلزامية، وسلطة حكومية لمنع عمليات نشر الذكاء الاصطناعي الخطيرة، في الوقت الذي يتصارع فيه صناع السياسات وشركات التكنولوجيا مع أنظمة الذكاء الاصطناعي المتطورة ذات القوة المتزايدة.

إخلاء المسؤولية : تم إنتاج هذا المحتوى جزئياً بمساعدة أدوات الذكاء الاصطناعي، وتمت مراجعته ونشره بواسطة محرري بنزينغا .

صورة من موقع Shutterstock