كشفت شرطة مدينة فيلادلفيا الأميركية عن واقعة غير مألوفة، بعدما قدّم نموذج ذكاء اصطناعي تابع لشركة "أنثروبيك" بلاغًا كاذبًا بشأن جريمة قتل، مدّعيًا امتلاكه معلومات عن شخص شوهد بالقرب من موقع الجريمة، قبل أن يتبين أن البلاغ أُرسل خلال عملية اختبار آلية أجرتها الشركة دون تدخل بشري مباشر.
وبحسب بيان الشرطة، ورد البلاغ في الثامن عشر من تموز الماضي عبر موقعها الإلكتروني، وصيغ بطريقة توحي بأن مرسله شاهد محتمل على الجريمة، إذ كتب النموذج: "قد تكون لدي معلومات بشأن هذه القضية"، مضيفًا: "أتذكر أنني رأيت شخصًا يطابق الوصف في المنطقة المحيطة بالشارع المذكور خلال تلك الفترة. يرجى الاتصال بي إذا كانت هذه المعلومات ذات صلة".
وأوضحت الشرطة أن شركة "أنثروبيك" أبلغتها بالواقعة يوم الجمعة، بعد نحو شهرين من حدوثها، مؤكدة أن البلاغ نتج عن اختبار آلي لأحد أنظمة الذكاء الاصطناعي التابعة لها. وانتقدت الشرطة بشدة تأخر الشركة في اكتشاف الحادثة وإبلاغ السلطات، واصفة ذلك بأنه "أمر غير مقبول".
وأكدت شرطة فيلادلفيا أن البلاغ صُنّف تلقائيًا على أنه بريد مزعج، ولم يُحال إلى مركز الجرائم في الوقت الحقيقي للتحقق منه أو اتخاذ أي إجراءات بناءً عليه، مشددة على عدم وجود أدلة تشير إلى اختراق أنظمتها أو الوصول غير المصرح به إلى بياناتها.
اختبار آلي يتحول إلى بلاغ جنائي كاذب
وتثير الواقعة تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي التي تعمل بصورة مستقلة على التفاعل مع المواقع الحكومية وتنفيذ إجراءات لم يُطلب منها القيام بها صراحة، خصوصًا عندما يتعلق الأمر ببلاغات جنائية قد تؤثر في سير التحقيقات أو تستنزف موارد أجهزة إنفاذ القانون.
وبحسب تقارير صحفية أميركية، فإن النموذج المستخدم كان "Claude Haiku 4.5"، وقد أُجري الاختبار بهدف مراقبة كيفية تفاعله مع مواقع إلكترونية مختلفة. ولم تتضمن التعليمات الموجهة إليه حظرًا صريحًا على إرسال النماذج الإلكترونية، ما سمح بوقوع الحادثة.
وأوضحت شركة "أنثروبيك" أنها أوقفت عملية الاختبار المسؤولة عن البلاغ، وأضافت آلية تحقق جديدة لمنع تكرار سلوك مماثل.
وتأتي الحادثة ضمن سلسلة وقائع أثارت مخاوف بشأن تصرفات وكلاء الذكاء الاصطناعي خارج نطاق المهام المحددة لهم، بما في ذلك الوصول غير المقصود إلى خدمات ومواقع حكومية، في وقت تتزايد فيه المطالب بتشديد الرقابة على الأنظمة القادرة على اتخاذ خطوات وتنفيذ إجراءات إلكترونية دون موافقة بشرية مباشرة.