كشفت دراسة حديثة عن هشاشة أنظمة الأمان في عدد من روبوتات الدردشة المدعومة بالذكاء الاصطناعي، محذّرة من إمكانية خداعها بسهولة لتوليد محتوى ضار وغير قانوني، على الرغم من اعتمادها على ضوابط يفترض أن تمنع هذا النوع من الردود.
وبحسب صحيفة الغارديان البريطانية، تعتمد روبوتات مثل "تشات جي بي تي" و"جيميناي" و"كلود" على كميات ضخمة من المحتوى المأخوذ من الإنترنت، ما يجعلها عرضة لاحتواء معلومات عن أنشطة محظورة مثل القرصنة، وغسل الأموال، وصنع المتفجرات، رغم محاولات إزالة هذه البيانات خلال مراحل التدريب.
وأكدت الدراسة أن معظم هذه الروبوتات يمكن التحايل عليها بسهولة، مما يجعل التهديدات المرتبطة بها "واقعية ومثيرة للقلق البالغ". وأضاف الباحثون أن الأدوات التي كانت في السابق مقتصرة على جهات حكومية أو منظمات إجرامية متخصصة، قد تصبح قريباً متاحة لأي شخص يملك جهاز كمبيوتر أو حتى هاتفاً ذكياً.
وسلطت الدراسة الضوء على تنامي خطر ما يُعرف بـ"نماذج اللغة الآلية المظلمة"، وهي نماذج ذكاء اصطناعي إما تم تطويرها عمداً دون ضوابط أمان، أو تم التلاعب بها لاختراق هذه الضوابط. وتُعرض بعض هذه النماذج بشكل علني على الإنترنت، وتُروَّج على أنها قادرة على دعم أنشطة غير قانونية مثل الجرائم السيبرانية والاحتيال.
ولتوضيح حجم الخطر، قام الباحثون بتطوير تقنية متقدمة لاختراق أنظمة الأمان في روبوتات الدردشة الرائدة، مما مكنهم من دفع هذه النماذج للإجابة على استفسارات كانت مرفوضة في الظروف الطبيعية. وبمجرد اختراقها، أصبحت الروبوتات ترد بشكل مستمر على أسئلة تتعلق بمواضيع خطيرة مثل اختراق الأنظمة، وتصنيع المخدرات، وتقديم تعليمات تفصيلية لأنشطة إجرامية.
وأوصت الدراسة بضرورة قيام شركات التكنولوجيا بتدقيق بيانات التدريب بشكل أكثر صرامة، وتعزيز أنظمة الحماية لمنع استغلال هذه النماذج في أغراض ضارة. كما دعت إلى تصنيف هذا النوع من المخاطر ضمن "التهديدات الأمنية الخطيرة"، المماثلة لحيازة أسلحة غير مرخصة أو مواد متفجرة.