حذّر البروفيسور أندرياس دينجل، مدير المركز الألماني لأبحاث الذكاء الاصطناعي في كايزرسلاوترن، من تصاعد المخاطر الأمنية المرتبطة بالتطور السريع لأنظمة الذكاء الاصطناعي، مؤكدًا أن قدراتها باتت تتجاوز الإجابة عن الأسئلة إلى تنفيذ مهام بصورة مستقلة واكتشاف ثغرات في الأنظمة الحاسوبية، بما قد يشكل تهديدًا متزايدًا للأمن السيبراني والبنية التحتية الحيوية.
وقال دينجل إن هناك بالفعل "ما يدعو للقلق" في ظل القوة المتنامية التي تتمتع بها أدوات الذكاء الاصطناعي، مشيرًا إلى أنها لم تعد مجرد روبوتات محادثة تتفاعل مع أسئلة المستخدمين، بل أصبحت قادرة، في بعض البيئات، على التخطيط والتنفيذ والتفاعل مع أنظمة أخرى بدرجات متزايدة من الاستقلالية.
"وكلاء" ينفذون المهام بشكل مستقل
وأوضح الخبير الألماني أن الخطر يصبح أكثر وضوحًا في ما يُعرف بـ"البيئات الوكيلة"، حيث يمكن لعدة أنظمة ذكاء اصطناعي، أو ما يعرف بـ"الوكلاء"، متابعة المهام بصورة مستقلة والتفاعل والتنسيق فيما بينها للوصول إلى هدف محدد.
وبحسب دينجل، تظهر المشكلة عندما يُمنح النظام هدفًا غير محدد بدقة، أو عندما لا تكون القيود والحدود المفروضة عليه كافية، إذ قد يبحث عن ثغرات أو "طرق مختصرة" تساعده على تحقيق المهمة بأعلى قدر من النجاح، حتى وإن لم تكن تلك الوسائل هي التي قصدها مطوّر النظام.
وشدد في هذا السياق على أنه لا يمكن وصف مثل هذا السلوك بأنه "متعمد" بالمفهوم البشري، لأن النظام لا يمتلك إدراكًا بشريًا لمعنى تجاوز الحدود أو "الانفلات"، وإنما يسعى إلى إيجاد الوسيلة الأكثر فاعلية لتنفيذ المهمة التي أُسندت إليه.
تجارب تكشف قدرات قرصنة مقلقة
وتأتي تحذيرات دينجل في وقت تتزايد فيه التقارير والتجارب التي تكشف عن قدرات متقدمة لبعض نماذج الذكاء الاصطناعي في مجال الأمن السيبراني.
وفي إحدى التجارب، رصد باحثون بريطانيون في مجال الأمن نموذجًا للذكاء الاصطناعي وهو يحاول، من تلقاء نفسه، إدخال ثغرة أمنية إلى برمجيات متاحة للجمهور. كما أظهرت اختبارات أخرى نماذج ذكاء اصطناعي تتوغل، بشكل لم يكن مخططًا له، داخل أنظمة حاسوبية تابعة لشركات حقيقية أثناء تنفيذ مهام تجريبية.
ويرى دينجل أن أحد مصادر الخطر الرئيسية يكمن في القدرة الحسابية الهائلة لهذه الأنظمة، والتي تتيح لها تحليل كميات ضخمة من البيانات واكتشاف أنماط وعلاقات قد يصعب على البشر ملاحظتها.
وقال إنه في عالم يزداد رقمنة وتعقيدًا، يمكن لهذه القدرات أن تقود إلى اكتشاف نقاط ضعف وثغرات لم تكن معروفة سابقًا، وهو ما يمنح الذكاء الاصطناعي أهمية كبيرة في الدفاع السيبراني، لكنه قد يجعله في الوقت نفسه أداة شديدة الخطورة إذا أسيء استخدامه.
الكهرباء والأقمار الاصطناعية.. الخطر ليس "خيالًا علميًا"
وحذر دينجل بصورة خاصة من المخاطر التي قد تطال البنية التحتية الحيوية، معتبرًا أن سيناريوهات استهداف شبكات إمدادات الكهرباء أو أنظمة واتصالات الأقمار الاصطناعية لم تعد تندرج ضمن نطاق "الخيال العلمي".
ووصف التهديد بأنه "حاد للغاية"، مشيرًا إلى أن محاولات الاختراق والهجمات السيبرانية تمثل تحديًا قائمًا بصورة يومية ومتواصلة.
كما لفت إلى أن حجم المعلومات التقنية المتاحة علنًا حول العديد من الأنظمة، إلى جانب انتشار إرشادات ومعلومات يمكن استغلالها في تنفيذ هجمات إلكترونية، يزيد من حجم التحدي، خصوصًا مع دخول أدوات ذكاء اصطناعي أكثر تطورًا إلى هذا المجال.
دعوات لقواعد دولية ورقابة أكثر صرامة
ورغم التحذيرات، يرى دينجل أن هناك أسبابًا للتفاؤل، مشيرًا إلى أن عددًا من الدول التي تتقارب في قيمها الديمقراطية والأخلاقية بدأت العمل على تطوير إجراءات ومقاربات مشتركة للتعامل مع المخاطر الجديدة.
وأكد أن مواجهة التهديد لا ينبغي أن تقتصر على تنظيم تقنيات الذكاء الاصطناعي، بل يجب أن تشمل كذلك أنظمة فعالة للرقابة والمساءلة والملاحقة القضائية عند إساءة استخدامها.
ودعا إلى وضع قواعد دولية واضحة تسمح بفرض عقوبات فعالة على الجهات التي تستخدم هذه التقنيات في هجمات أو أنشطة ضارة، معربًا عن ثقته بإمكانية تشكيل تحالفات دولية قوية في هذا المجال.
وأشار كذلك إلى أن الدعوات إلى تشديد الرقابة والتنظيم لم تعد تقتصر على الحكومات والخبراء، إذ بدأت أصوات داخل شركات ومؤسسات كبرى في الولايات المتحدة تطالب هي الأخرى بوضع ضوابط أكثر فاعلية.
وفي ظل التسارع الكبير في قدرات الذكاء الاصطناعي، يخلص دينجل إلى أن مستوى التهديد في الفضاء السيبراني مرشح للارتفاع، ما يضع الحكومات والمؤسسات التكنولوجية والأمنية أمام سباق متواصل لتطوير أدوات الحماية والرقابة بالتوازي مع تطور قدرات هذه الأنظمة.