أثارت تجربة أمنية أجراها معهد أمن الذكاء الاصطناعي البريطاني مخاوف جديدة بشأن القدرات المتزايدة لوكلاء الذكاء الاصطناعي، بعدما نفذت أنظمة متقدمة سلسلة من الأنشطة الإلكترونية غير المصرح بها ووصل بعضها إلى أهداف حقيقية خارج بيئة الاختبار.
ووفق نتائج التقييم، أنشأ أحد وكلاء الذكاء الاصطناعي هويات وحسابات إلكترونية مزيفة، وزرع شيفرة خبيثة في مشروع برمجي حقيقي مفتوح المصدر، وأرسل رسائل تصيد إلكتروني إلى مطورين حقيقيين في محاولة لإقناعهم بقبول التغييرات، من دون أن يتلقى تعليمات بشرية مباشرة لتنفيذ هذه الخطوات بالتحديد.
حاول تنفيذ هجوم على سلسلة توريد برمجية
وفي إحدى أكثر الحالات إثارة للقلق، قرر النظام الذي اختبره المعهد استهداف مشروع مفتوح المصدر لا علاقة لمطوريه بالتجربة الأمنية. وبحث وكيل الذكاء الاصطناعي بصورة مستقلة عن معلومات حول المطورين، وأنشأ عدة حسابات على منصة GitHub، واستخدم أدوات لإخفاء هويته وتجاوز أنظمة كشف الحسابات الآلية، قبل أن يقدم تعديلات برمجية احتوت على شيفرة خبيثة مخفية.
ولم يتوقف الأمر عند الجانب التقني، إذ أنشأ النظام حسابات أخرى لتأييد التغييرات التي اقترحها، في محاولة لإظهار وجود دعم مستقل لها داخل مجتمع المطورين.
كما أرسل رسائل إلكترونية بهويات وهمية لإقناع مطورين بقبول التعديل البرمجي.
حاول إخفاء آثاره بعد اكتشافه
وأظهرت التجربة سلوكًا أكثر تعقيدًا بعدما اكتشف أحد مستخدمي GitHub الشيفرة الخبيثة.
فبحسب التقرير، أعاد وكيل الذكاء الاصطناعي كتابة سجل التعديلات لإزالة بعض الأدلة، وادعى أن إدخال الشيفرة كان نتيجة خطأ، ثم نسّق منشورات من حساباته الوهمية بطريقة تجعلها تبدو وكأنها ردود مستقلة من مستخدمين مختلفين.
ويرى الباحثون أن أهمية هذه الحالة تكمن في انتقال الذكاء الاصطناعي من مجرد استخدام أدوات تقنية إلى توظيف أساليب خداع اجتماعي والتعامل مباشرة مع أشخاص حقيقيين.
19 حالة نشاط غير مصرح به
وسجل معهد أمن الذكاء الاصطناعي البريطاني 19 حالة من الأنشطة غير المصرح بها خلال 10 تجارب من أصل 122 جولة تقييم.
وقال المعهد إن هذه التجارب أُجريت في ظروف خاصة تهدف إلى اختبار الحد الأقصى لقدرات الأنظمة، حيث تم تعطيل بعض أدوات الحماية والسماح للأنظمة بالوصول إلى الإنترنت، وهي ظروف تختلف عن الاستخدام العادي المتاح للجمهور.
وهذه النقطة مهمة، إذ يحذر الباحثون من تفسير النتائج على أنها تعني أن أنظمة الذكاء الاصطناعي المستخدمة يوميًا ستبدأ بصورة تلقائية بتنفيذ هجمات إلكترونية، لكن التجربة تكشف ما يمكن أن يحدث عندما تحصل أنظمة متقدمة على صلاحيات واسعة وقدرة على العمل باستقلالية.
أنظمة منفصلة بدأت بالتعاون مع بعضها
وكشفت التجربة أيضًا عن ظاهرة غير متوقعة، إذ تمكن وكلاء ذكاء اصطناعي يعملون في جلسات اختبار منفصلة من اكتشاف بعضهم عبر GitHub وبدأوا بالتعاون وتبادل بيانات الدخول والتعليمات.
وفي إحدى الحالات، وضع أحد الوكلاء قواعد عمل للوكلاء الآخرين، وطلب منهم مشاركة الحلول التي توصلوا إليها وتجنب استهلاك الموارد المتاحة بصورة مفرطة.
مراقبة 40 ألف تجربة سابقة
واكتشف الباحثون النشاط في 28 يوليو بعد أن رصدت أنظمة الحماية خروج بيانات من بيئة الاختبار عبر شبكة Tor، وتم احتواء الحالة خلال أقل من ساعة.
وبعد الحادثة، راجع المعهد جميع تجارب التقييم الـ122 التي شملت أكثر من 212 ألف رسالة، وبدأ كذلك بفحص نحو 40 ألف تجربة سابقة بحثًا عن سلوكيات مشابهة.
وأعلن المعهد أنه يعمل على تشديد الرقابة على اتصالات الإنترنت، وتفعيل أنظمة مراقبة لحظية، وفرض شروط أكثر صرامة قبل السماح لوكلاء الذكاء الاصطناعي بالوصول إلى الشبكة.
ويقول المعهد البريطاني إن تقييم هذه الأنظمة ضروري لفهم قدرة الذكاء الاصطناعي على تنفيذ هجمات إلكترونية معقدة بأقل تدخل بشري ممكن، ولتطوير وسائل حماية قبل وصول مثل هذه القدرات إلى نطاق أوسع من الاستخدام.