واشنطن - حذر ديفيد روبنسون، الموظف السابق في فريق السلامة لدى شركة "أوبن إيه آي"، من مخاطر النهج الذي تتبعه الشركة في تطوير أنظمة الذكاء الاصطناعي، معتبرًا أن ثقافة العمل القائمة على التسارع المستمر قد تزيد احتمالات وقوع إخفاقات في أنظمة تزداد قدراتها تعقيدًا.

وقال روبنسون، الذي أعلن استقالته أخيرًا بعد نحو 3 سنوات ونصف السنة في الشركة، في مقال نشرته مجلة "ذي أتلانتيك" بعنوان "استقلت من أوبن إيه آي لأن ثقافتها معيبة"، إن شركات الذكاء الاصطناعي، وبينها "أوبن إيه آي"، لا تتعامل مع قضايا السلامة بالقدر الكافي من الحذر، داعيًا إلى منح خبرات السلامة والبحوث المتخصصة اهتمامًا أكبر قبل تطوير أنظمة أكثر قدرة.

وانتقد روبنسون ما وصفه بالاعتماد الكبير على نهج "النشر التكراري"، الذي يقوم على إطلاق الأنظمة واكتشاف المشكلات بعد طرحها ثم تشديد إجراءات الحماية استجابة لها، معتبرًا أن هذا النهج قد يكون أكثر خطورة كلما ارتفعت قدرات النماذج.

وقال إن "وقت التجربة والخطأ انتهى"، داعيًا إلى تطبيق إجراءات وقائية أكثر صرامة، على غرار ما هو معمول به في صناعات عالية الخطورة مثل الطاقة النووية والطيران، حيث تُصمم أنظمة متعددة الطبقات للحد من آثار الأخطاء البشرية والتقنية.

وأشار روبنسون إلى أن قدرات الذكاء الاصطناعي تتقدم بسرعة تفوق، بحسب رأيه، قدرة الباحثين على فهم مشكلة "المواءمة"، وهي ضمان تصرف الأنظمة وفق أهداف البشر وقيمهم، محذرًا من توسيع قدرات النماذج بينما لا تزال أدوات قياس المواءمة محدودة وغير حاسمة.

وأضاف أنه خلال عمله في "أوبن إيه آي" شارك في صياغة إطار التأهب الخاص بالشركة، وأشرف على إعداد تقارير السلامة الخاصة بـ12 عملية إطلاق لنماذج متقدمة، لكنه رأى أن وتيرة العمل السريعة حالت دون إحداث تغييرات أعمق في ثقافة السلامة داخل الشركة.

وتأتي انتقادات روبنسون في وقت يتصاعد فيه الجدل داخل قطاع الذكاء الاصطناعي بشأن مخاطر تطوير أنظمة أكثر استقلالية وقدرة، خصوصًا بعد حوادث أثارت تساؤلات حول فعالية بعض ضوابط السلامة. كما حذرت أبحاث وتصريحات حديثة من تسارع تطوير الأنظمة ذاتية التحسين ومن احتمال تجاوز التطور التقني لقدرة المؤسسات على إدارة مخاطره.

وفي المقابل، دافعت "أوبن إيه آي" عن نهجها، وقال متحدث باسم الشركة إن المؤسسة تتأكد من عدم وصول نماذجها إلى مستوى من القدرات يفوق قدرتها على إدارتها وتأمينها بأمان، وإنها توقف التدريب أو تؤجل إطلاق النماذج عندما ترى ضرورة لإبطاء وتيرة العمل.

وتزامنت هذه التطورات مع إعلان "أوبن إيه آي" في سبتمبر/أيلول أنها تعمل على تطوير ما تسميه "حالات السلامة" للنماذج المتقدمة، وهي وثائق منظمة قائمة على الأدلة تهدف إلى تقييم المخاطر قبل مواصلة عمليات التدريب المتقدمة، مستفيدة من ممارسات قطاعات عالية الحساسية.