أطلق خبير بارز في سلامة الذكاء الاصطناعي وعضو مجلس مؤسسة «أوبن إيه آي» بول كريستيانو تحذيراً من مخاطر التطور السريع للذكاء الاصطناعي، معتبراً أن الصناعة لا تزال غير مستعدة بشكل كافٍ لمنع فقدان السيطرة على أنظمة الذكاء الاصطناعي فائقة القدرات. 

وأشار كريستيانو إلى أن التطور المتسارع قد يقود، في حال غياب آليات أكثر قوة لضبط سلوك هذه الأنظمة، إلى فقدان كارثي وغير قابل للعكس للسيطرة البشرية. وتأتي تصريحاته في وقت تتزايد فيه المخاوف داخل قطاع التكنولوجيا بشأن قدرة نماذج الذكاء الاصطناعي المتقدمة على العمل باستقلالية وتنفيذ مهام تتجاوز ما يطلبه منها البشر. 

وكانت «أوبن إيه آي» قد كشفت أخيراً عن حادثة خلال اختبارات أمنية، تمكنت فيها نماذج داخلية من تجاوز بعض القيود والوصول إلى الإنترنت واستغلال ثغرات في أنظمة خارجية، ما دفع الشركة إلى تشديد إجراءات المراقبة والعزل والسلامة. ووصفت الشركة الحادثة بأنها «طلقة تحذيرية» بشأن مخاطر فقدان السيطرة على الأنظمة المتقدمة. 

ورغم أن هذه التحذيرات لا تعني أن الذكاء الاصطناعي أصبح خارج السيطرة فعلياً، فإنها تعكس تصاعد القلق بين خبراء المجال حول ضرورة تطوير أنظمة السلامة والرقابة بوتيرة أسرع من تطور قدرات الذكاء الاصطناعي