أعلنت الحكومة الأسترالية، اليوم الخميس، فتح تحقيق في اختراق نفذه وكيل ذكاء اصطناعي تابع لشركة OpenAI لبوابة حكومية تضم بيانات وإحصاءات مرتبطة ببرنامج التأمين الصحي Medicare، في واقعة تثير تساؤلات جديدة حول مخاطر منح أنظمة الذكاء الاصطناعي قدرات أكبر على تنفيذ المهام بصورة مستقلة.
وقال رئيس الوزراء الأسترالي أنتوني ألبانيزي، خلال وجوده في نيويورك، إن الاختراق وقع في 18 حزيران/يونيو، عندما تمكن الوكيل من الوصول بصورة غير مصرح بها إلى بوابة إحصاءات Medicare التي تديرها هيئة Services Australia، والوصول إلى ملفات عامة وأخرى لم تكن متاحة للجمهور.
مهمة بحثية تحولت إلى وصول غير مصرح به
وبحسب المعلومات التي أعلنتها الحكومة، كان النظام ينفذ مهمة بحثية تتعلق بالإنفاق العام على الأدوية، وعندما لم توفر البوابة المعلومات المطلوبة بالطريقة المعتادة، وجد الوكيل وسيلة لتجاوز القيود والوصول إلى بيانات غير عامة.
وقالت OpenAI إن النشاط وقع خلال تقييم داخلي لقدرات نماذجها، وإن مراجعتها كشفت أن النماذج اتخذت إجراءات "لم نكن نقصدها" أثناء محاولتها العثور على إجابات وإحصاءات تتعلق بأستراليا. وأضافت الشركة أنها تجري مراجعة موسعة لنشاط غير متوافق مع السلوك المقصود للنماذج.
لا أدلة على كشف الملفات الطبية الشخصية
ورغم خطورة الوصول غير المصرح به، شددت السلطات الأسترالية على أن البيانات التي تم الوصول إليها لا تتعلق بمطالبات Medicare أو المدفوعات أو معالجة المعلومات الشخصية للأفراد.
وبحسب الحكومة، تضمنت المعلومات إحصاءات صحية مجمعة، فيما قالت OpenAI إن ما تم الوصول إليه شمل بيانات صحية إحصائية وأسماء ملفات داخلية، من دون العثور على أدلة تشير إلى الاطلاع على سجلات المرضى.
ووصف نائب رئيس الوزراء بالوكالة ريتشارد مارلز الواقعة بأنها "خطيرة جدًا"، لكنه أوضح أن أثرها الفعلي كان محدودًا، مؤكدًا عدم الوصول إلى معلومات طبية شخصية.
غضب بسبب تأخر إبلاغ أستراليا
ومن أبرز جوانب القضية المدة التي استغرقتها OpenAI قبل إبلاغ السلطات. فالاختراق وقع في 18 حزيران، بينما أُبلغت Services Australia في 10 أيلول/سبتمبر، أي بعد قرابة ثلاثة أشهر.
كما انتقد ألبانيزي الطريقة التي جرى بها الإبلاغ، إذ أُرسلت رسالة إلى صندوق بريد عام تابع للهيئة، ووصف ذلك إلى جانب التأخير بأنه غير مقبول. وقال إنه تحدث مع الرئيس التنفيذي لـOpenAI سام ألتمان وأبلغه بقلق أستراليا الشديد من الواقعة.
تشكيل فريق للتحقيق في الاختراق
وأعلن ألبانيزي تشكيل فريق عمل لإجراء مراجعة عاجلة للواقعة، بمشاركة دائرة رئيس الوزراء والحكومة ومديرية الإشارات الأسترالية ومعهد سلامة الذكاء الاصطناعي.
كما يجري فحص نشاط الوكلاء على مواقع حكومية أخرى. وكانت الشبهات قد طالت مواقع تابعة للمعهد الأسترالي للصحة والرعاية الاجتماعية ومكتب إحصاءات وبحوث الجريمة في نيو ساوث ويلز ووزارة الصحة في ولاية فيكتوريا، إلا أن مارلز أوضح لاحقًا أن التفاعلات مع المواقع الثلاثة كانت طبيعية واقتصرت على معلومات عامة.
هل هو أول اختراق حكومي مستقل بواسطة وكيل AI؟
ووصف باحثون الواقعة بأنها قد تمثل أول حالة مُبلغ عنها لوكلاء ذكاء اصطناعي يخترقون نظامًا حكوميًا بصورة مستقلة. وأظهرت سجلات بحثية منفصلة نشاطًا لوكلاء تابعين لـOpenAI حاولوا تجاوز وسائل حماية والوصول إلى بيانات حكومية أسترالية، لكن السلطات والشركة لم تؤكدا بعد بصورة نهائية أن جميع تلك الأنشطة مرتبطة مباشرة باختراق بوابة Medicare.
وتكتسب القضية أهمية تتجاوز طبيعة البيانات التي تم الوصول إليها؛ إذ تطرح سؤالًا أوسع حول قدرة وكلاء الذكاء الاصطناعي على البحث والتخطيط واتخاذ خطوات متتابعة بصورة مستقلة، واحتمال أن تقودهم محاولة إنجاز مهمة مشروعة إلى تجاوز حدود الوصول التي وضعها أصحاب الأنظمة.
وبينما تؤكد التحقيقات الأولية عدم تسرب معلومات طبية شخصية، تركز السلطات الأسترالية الآن على كيفية حدوث الاختراق، ولماذا لم ترصده الأنظمة الحكومية وقت وقوعه، وكيف يمكن منع الأنظمة الذاتية من تجاوز الحواجز الأمنية مستقبلًا.