لم تعد المخاوف المحيطة بالذكاء الاصطناعي مقتصرة على فقدان الوظائف أو فقاعات الأسواق المالية، إذ تتزايد التحذيرات من إمكان إساءة استخدام النماذج المتطورة في مجالات حساسة، من بينها الأمن البيولوجي وتطوير مسببات الأمراض.
وخلال مؤتمرات عقدت في سنغافورة، حذرت كيران مازومدار شو، مؤسسة شركة "Biocon" الهندية للتكنولوجيا الحيوية، من إمكان استخدام أدوات الذكاء الاصطناعي للمساعدة في تطوير مسببات أمراض خطرة، مطالبة بأطر حوكمة أكثر صرامة وعدم الاكتفاء بالتنظيم الذاتي للشركات.
الخطر هو "إساءة الاستخدام"
التحذيرات لا تعني أن أنظمة الذكاء الاصطناعي قادرة بصورة مستقلة على إنتاج فيروس أو بكتيريا خطرة، وإنما تركز على احتمال أن تساعد أشخاصًا يمتلكون المعرفة والمعدات على الوصول بصورة أسرع إلى معلومات وتصميمات بيولوجية حساسة.
ويتركز النقاش حاليًا على كيفية تحديد المعلومات التي يمكن للنماذج المتقدمة تقديمها، ومن يحق له الوصول إلى قدراتها الأكثر حساسية، وما إذا كان ينبغي إخضاع بعض الأنظمة لاختبارات أمنية مستقلة قبل طرحها.
مخاوف من فقدان السيطرة
وزير خارجية سنغافورة فيفيان بالاكريشنان أثار بدوره مخاطر الأنظمة المستقلة والأسلحة المدعومة بالذكاء الاصطناعي، خصوصًا إذا أصبحت بعض القرارات تُتخذ بسرعات أو بدرجات استقلال تجعل التدخل البشري أكثر صعوبة.
وتتزامن هذه المخاوف مع سباق عالمي لضخ مئات المليارات في تطوير النماذج ومراكز البيانات، ما يضع الحكومات أمام معادلة صعبة: الاستفادة من إمكانات التكنولوجيا في الطب والعلوم والاقتصاد، دون فتح الباب أمام استخدامات قد تحمل مخاطر أمنية واسعة.