موظف سابق في "أوبن إيه آي" ينتقد قصور الشركة في إدارة المخاطر

استمع للمقال النص المسموع تلقائي ناتج عن نظام آلي

انتقد موظف سابق في "أوبن إيه آي" كان يعمل على سلامة نماذج الذكاء الاصطناعي التابعة للشركة، ما اعتبره ثقافة غير كافية لإدارة المخاطر داخل الشركة الأميركية، داعيا إلى الاستفادة من تجارب قطاعي الطاقة النووية والطيران.

ونشر الموقع الالكتروني لمجلة "ذي أتلانتيك" السبت هذه الدعوة التي تأتي في أعقاب دعوات مماثلة وجهت خلال الأسابيع الأخيرة.

ورأى ديفيد روبنسون الذي يقول إنه تولى إعداد التقارير المتعلقة بالسلامة في "أوبن إيه آي" خلال إطلاق 12 نموذجا مختلفا، أن الحوادث التي أعلنتها المجموعة منذ بداية الصيف تعكس ثقافة تتسم بالتساهل وعدم الدقة.

وأوضح أن الأخطاء والقصور التي سمحت لعدد من نماذج الذكاء الاصطناعي بالوصول التلقائي إلى الإنترنت واختراق عشرات المواقع الإلكترونية والمنصات، مرتبطة "بالسرعة والمرونة" اللتين يعمل بهما مُشغّلو هذه التكنولوجيا.

وقال إن "بيئة تسمح بحدوث مثل هذه الأمور ليست مكانا مناسبا لتطوير ذكاء اصطناعي قد يصبح أكثر ذكاء منّا وقد لا يُؤدي ما نتوقعه منه".

وبعد أن أمضى ثلاث سنوات ونصف سنة في "اوبن ايه آي"، اقترح روبنسون تبنّي ثقافة إدارة المخاطر نفسها المتبعة في قطاعي الطاقة النووية المدنية والطيران، مع مستويات متعددة من الرقابة والتخطيط الدقيق.

وقال "بهذه الطريقة، لا يُفضي الخطأ البشري العرضي والحتمي إلى كارثة".

وشدد على مفهوم الامتثال، أي التزام النماذج بالقيم الإنسانية وتوجيهات مصمميها.