المقترح يستهدف منح شركات التكنولوجيا والحكومات والجهات الرقابية وقتًا أكبر لفهم المخاطر

مع تزايد التحذيرات من مخاطر الذكاء الاصطناعي، وتصاعد الدعوات داخل شركات التقنية الكبرى إلى إبطاء وتيرة تطوير النماذج المتقدمة، قدم داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك خطة من ثلاث مراحل تهدف إلى "إبطاء التقدم في قدرات الذكاء الاصطناعي"، مع التأكيد على أن هذا التباطؤ لا يعني وقف التطور.

وفي منشور جديد، أيد أمودي الدعوات إلى إبطاء السباق نحو حدود الذكاء الاصطناعي، معلنًا أن "أنثروبيك" ستلتزم من جانب واحد بإحدى الخطوات المقترحة، بينما أعلن سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أن شركته ستتبنى الخطوة نفسها، بحسب تقرير نشره موقع "تك كرانش" واطلعت عليه "العربية Business".

وتأتي المبادرة وسط تصاعد الجدل حول سلامة الذكاء الاصطناعي ومدى قدرة شركات التقنية على السيطرة على النماذج الأكثر تقدمًا، خصوصًا مع تسارع قدراتها على تنفيذ مهام معقدة والمساهمة في تطوير أجيال جديدة من أنظمة الذكاء الاصطناعي.

اختراق "OpenAI" وتسارع الذكاء الاصطناعي وراء تغيير موقف "انثروبيك"

أوضح أمودي أن عاملين رئيسيين دفعاه إلى الاعتقاد بأن الوقت حان لتبني نهج أكثر حذرًا في تطوير الذكاء الاصطناعي.

الأول هو الاختراق الذي طال "OpenAI" وHugging Face، والثاني هو أن الذكاء الاصطناعي يتقدم بسرعة هائلة خلال الأشهر الأخيرة، خصوصًا مع تنامي قدرته على المساهمة في بناء الجيل التالي من أنظمة الذكاء الاصطناعي.

وقال أمودي إن شركات الذكاء الاصطناعي يجب أن تبطئ الوتيرة التي نعمل بها على تحسين قدرات نماذج الذكاء الاصطناعي، لكنه شدد في الوقت نفسه على أن التطور سيظل سريعًا، وأن الشركات يجب أن تستغل الوقت الذي ستكسبه بحكمة.

ولاقت دعوته دعمًا من عدد من الشخصيات البارزة في قطاع التكنولوجيا.

وقال ألتمان إن أمودي محق في ضرورة إبطاء السباق نحو حدود الذكاء الاصطناعي، مشيرًا إلى أن هذه القضية كانت موضوعًا رئيسيًا للنقاشات داخل "OpenAI" خلال الأسابيع الأخيرة.

كما كتب إيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس، تعليقًا مقتضبًا قال فيه: "داريو محق."

مراقبون مستقلون داخل شركات الذكاء الاصطناعي

تتمثل الخطوة الأولى التي يقترحها أمودي في السماح لمؤسسات خارجية متخصصة، مثل METR، بإرسال مقيّمين مستقلين للعمل داخل شركات الذكاء الاصطناعي.

وستكون مهمة هؤلاء المراقبين التحقق من التزام الشركات بتعهداتها المتعلقة بإبطاء التطوير وإجراءات السلامة، إلى جانب التأكد من الإبلاغ عن حوادث السلامة التي قد تقع أثناء تطوير أو تشغيل أنظمة الذكاء الاصطناعي.

وتأتي هذه الدعوة بعد انتقادات وجهت إلى "OpenAI" بسبب عدم الإبلاغ عن حادثة تمكنت خلالها وكلاء الذكاء الاصطناعي التابعون لها من السيطرة على منتدى ويكي ألماني.

وشبّه أمودي هؤلاء المقيّمين بالجهات الرقابية التي تعمل من داخل المؤسسات المصرفية، بحيث يحصلون على بطاقات تعريف ومكاتب وأجهزة حاسوب داخل الشركات، مع إمكانية الوصول إلى المعلومات بدرجة قريبة من تلك المتاحة لفرق تقييم المخاطر الداخلية، باستثناء الحالات التي تمنع فيها القوانين أو العقود هذا الوصول.

وأكد أمودي أن "أنثروبيك" تلتزم من جانب واحد بالسماح بهذا النوع من الرقابة، داعيًا الحكومات إلى إلزام شركات الذكاء الاصطناعي الأخرى باتباع النهج نفسه.

ووصف ألتمان الفكرة بأنها "جيدة"، مؤكدًا أن "OpenAI" ستتبناها أيضًا، وقال إن الشركة ستعلن مزيدًا من التفاصيل قريبًا.

دعوة شركات الذكاء الاصطناعي إلى وضع معايير مشتركة

الخطوة الثانية في خطة أمودي تتمثل في مطالبة شركات الذكاء الاصطناعي الرائدة في الدول الديمقراطية بالتنسيق فيما بينها لوضع معايير مشتركة للسلامة، إلى جانب تحديد حدود لسرعة التطور غير الخاضع للرقابة في قدرات الذكاء الاصطناعي.

لكن هذا النوع من التنسيق قد يواجه عقبات قانونية، خصوصًا في ظل مخاوف الشركات من أن يؤدي التعاون المباشر بينها إلى تدقيق من الجهات المعنية بمكافحة الاحتكار.

واقترح أمودي أن تلعب الحكومة الأميركية دور الوسيط أو الميسّر لهذه المحادثات، مؤكدًا أن واشنطن لا تحتاج إلى المشاركة بشكل مباشر، لكنها قد تحتاج إلى منح الشركات إعفاءً قانونيًا محدودًا يسمح لها بإجراء بعض النقاشات المتعلقة بالسلامة دون التعرض لمخاطر مرتبطة بقوانين مكافحة الاحتكار.

الصين حجة رئيسية ضد إبطاء سباق الذكاء الاصطناعي

أقر أمودي بأن المخاوف من تفوق الصين في مجال الذكاء الاصطناعي تُستخدم بشكل متكرر كحجة ضد إبطاء التطوير في الولايات المتحدة.

لكنه يرى أن واشنطن وشركات التكنولوجيا الأميركية يمكنها اتخاذ إجراءات تحد من قدرة الصين على اللحاق بها، مثل منع الشركات الصينية من الحصول على الرقائق المتقدمة ومعدات تصنيع أشباه الموصلات، إلى جانب تشديد الإجراءات ضد عمليات استخلاص قدرات النماذج المتقدمة (Model Distillation).

ويرى أمودي أن هذه الإجراءات يمكن أن تؤدي إلى إبطاء تقدم الصين بما يكفي لتوسيع الفارق لصالح الولايات المتحدة بشكل كبير خلال السنوات الثلاث إلى الخمس المقبلة.

المرحلة الثالثة.. تنسيق عالمي مع الصين

أما الخطوة الثالثة فتتمثل في الوصول إلى نوع من التنسيق العالمي، بحيث تحاول الولايات المتحدة وحلفاؤها التعاون، قدر الإمكان، مع الحكومات ذات الأنظمة السياسية المختلفة.

ويشير أمودي تحديدًا إلى إمكانية التعاون مع الصين، مع اعترافه بوجود حدود واضحة لما يمكن تحقيقه في هذا المجال.

ومع ذلك، يرى أن هناك بعض المجالات التي يمكن التوصل فيها إلى اتفاقات، حتى لو اقتصرت على حظر استخدامات محددة وواضحة الخطورة للذكاء الاصطناعي، مثل استخدامه في إنتاج الأسلحة البيولوجية أو تمكين المستخدمين من القيام بذلك.

أمودي يرد على اتهامات التشاؤم من الذكاء الاصطناعي

ولم تسلم مواقف أمودي السابقة بشأن مخاطر الذكاء الاصطناعي من الانتقادات، إذ اتهمه بعض المتفائلين بالذكاء الاصطناعي بأنه من أنصار السيناريوهات الكارثية، وأن تحذيراته ساهمت في تأجيج رد الفعل العكسي تجاه التكنولوجيا.

ورد أمودي بأنه حاول دائمًا تقديم رؤية متوازنة، معتبرًا أن موجة الانتقادات الحالية تجاه الذكاء الاصطناعي تمثل في جوهرها "أزمة ثقة"، بعدما أصبح كثير من الناس أكثر تشككًا في شركات التكنولوجيا والقطاع التقني والحكومات.

في المقابل، يشكك منتقدون في بعض التحذيرات الكارثية المتعلقة بالذكاء الاصطناعي، معتبرين أن التركيز على سيناريوهات مستقبلية شديدة الخطورة قد يصرف الانتباه عن الأضرار التي تتسبب فيها التكنولوجيا بالفعل في الوقت الحالي.

وانتقد الصحفي برايان ميرشانت هذه التحذيرات، متسائلًا عن عدم وجود توثيق مقنع يشرح خطوة بخطوة كيف يمكن للذكاء الاصطناعي الانتقال من مرحلة تحسين نفسه بصورة متكررة إلى القضاء على جميع البشر.

كما رأى أن بعض المقترحات المشابهة لخطة أمودي قد تنتهي في صالح "أنثروبيك" و"OpenAI" تحديدًا، معتبرًا أن ذلك قد يمثل شكلًا من الاستحواذ التنظيمي، حيث تستفيد الشركات الكبرى من القواعد التي يفترض أن تنظم القطاع.

"أنثروبيك" لا تريد وقف الذكاء الاصطناعي

ورغم كل هذه التحذيرات، شدد أمودي على أنه لا يزال يؤمن بأن الذكاء الاصطناعي قادر على تحسين جودة حياة البشر بصورة هائلة.

وقال إن رغبته في تحقيق هذه الفوائد لم تتغير، لكنه يرى أن الوصول إليها يتطلب بناء التكنولوجيا بالطريقة الصحيحة، وأن استغلال الوقت الإضافي الناتج عن إبطاء وتيرة التطوير في إجراءات السلامة والتقييم والتخطيط يجعل تبني نهج أكثر تعمدًا وحذرًا أمرًا يستحق العناء.

وبذلك، لا تدعو خطة "أنثروبيك" إلى وقف تطوير الذكاء الاصطناعي، وإنما إلى إبطاء سباق القدرات المتقدمة مؤقتًا بما يكفي لمنح شركات التكنولوجيا والحكومات والجهات الرقابية وقتًا أكبر لفهم المخاطر ووضع قواعد للسلامة قبل أن تتسع الفجوة بين قدرات الأنظمة وقدرة البشر على السيطرة عليها.