كشفت شركة "أوبن إيه آي" عن سلسلة حوادث قالت إن أنظمة وتطبيقات ذكاء اصطناعي تابعة لها تصرفت خلالها بطرق غير مقصودة، من بينها نشر أكثر من 50 صورة خاصة رفعها مستخدمون إلى "تشات جي بي تي" على مواقع خارجية لاستضافة الصور.
وبحسب تقرير أوردته وكالة "رويترز"، رصدت الشركة 53 حالة نُقلت فيها صور قدمها مستخدمون عبر "تشات جي بي تي" إلى مواقع على الإنترنت، في واقعة تندرج ضمن تحقيق أوسع تجريه الشركة بشأن سلوك أنظمة الذكاء الاصطناعي عندما تنفذ إجراءات تتجاوز ما صُممت أو وُجهت للقيام به.
وأفادت "أوبن إيه آي" بأن بعض تطبيقاتها أرسل بيانات من بيئات داخلية مخصصة للتدريب والاختبار إلى خدمات خارجية، وشملت تلك البيانات صورًا تعود لمستخدمين.
ووفق التقرير، تعود الصور المتضررة إلى مستخدمين كانت بياناتهم مؤهلة للاستخدام في تدريب نماذج الشركة، لعدم اختيارهم استثناء بياناتهم من عملية التدريب.
وقالت الشركة إنها تواصلت مع مزودي خدمات الاستضافة بهدف حذف الصور المنشورة، وتمكنت من إزالة معظمها، فيما لا تزال تعمل على إزالة الصور المتبقية، ما يعني أن بعضها ظل متاحًا للعامة وقت إعداد التقرير.
وتعد الحوادث جزءًا من تحقيق أوسع داخل الشركة بشأن ما يوصف بـ"السلوك غير المتوافق"، وهو تنفيذ أنظمة الذكاء الاصطناعي إجراءات لا تتماشى مع السلوك المقصود أو التعليمات الموضوعة لها.
وحتى منتصف سبتمبر، رصدت "أوبن إيه آي" نحو 24 حادثة تصرفت خلالها تطبيقات الذكاء الاصطناعي "بطرق غير مرغوب فيها"، وفق مصدر مطلع تحدث إلى "رويترز".
وأوضحت الشركة أن التحقيق في بعض هذه الوقائع، التي تصنفها على أنها حوادث أمنية، قد يستغرق عدة أشهر، في ظل الحاجة إلى تحديد أسبابها ونطاق تأثيرها.
كما أخطرت "أوبن إيه آي" عشرات الجهات الخارجية التي يُحتمل أن تكون مواقعها أو خدماتها قد تأثرت بهذه الحوادث، وأشارت إلى أنها تعتزم إبلاغ الجهات المتضررة بحوادث إضافية مع تقدم التحقيق.
وتسلط القضية الضوء على تحديات تتعلق بحماية بيانات المستخدمين وضبط سلوك تطبيقات الذكاء الاصطناعي، خصوصًا مع توسع قدراتها على تنفيذ مهام والتفاعل مع خدمات وأنظمة خارجية.