أثارت لعبة الدب الذكي «كوما» (Kumma)، المدعمة بالذكاء الاصطناعي، موجة من القلق بعد أن كشفت مجموعة دفاع عن حقوق المستهلك عن محادثات غير لائقة وخطيرة أجرتها اللعبة مع الأطفال والمختبرين.
تظهر «كوما» بمظهر بريء، دمية دب ترتدي وشاحاً، وتُروج على أنها رفيقة ذكية تقدم أكثر من مجرد العناق. لكن الاختبارات كشفت أنها في بعض الأحيان تخوض في مواضيع مثيرة للصدمة، تتضمن أعواد ثقاب، وسكاكين، ومواضيع جنسية لا تليق بالأطفال، مما أثار دهشة وخوف الباحثين والآباء على حد سواء.
تقرير صارم يحذر من مخاطر ألعاب الذكاء الاصطناعي على الأطفال
أصدر «صندوق التعليم الأميركي» تقريرًا حذر من أن ألعاب الذكاء الاصطناعي الجديدة، رغم مظهرها البريء، قد تحتوي على محادثات غير متوقعة وغير آمنة، تفتح باباً لمخاطر تتعلق بسلامة وخصوصية الأطفال.
وشملت الدراسة ألعاباً أخرى مثل «غروك» و«ميكو 3» التي أظهرت حواجز أمان أفضل، على عكس «كوما» التي أثارت المخاوف بشكل خاص بسبب سهولة اختراقها ومحاورتها مواضيع حساسة بشكل غير مناسب.
اختراق خصوصية وسلامة الأطفال
أفاد التقرير بأن «كوما» كانت تقدم تعليمات محددة للأطفال عن أماكن وجود أشياء خطرة مثل السكاكين والأكياس البلاستيكية وأعواد الثقاب، وتدخلت في مواضيع جنسية مثيرة للجدل. فعلى سبيل المثال، عند سؤال اللعبة عن مكان العثور على شريك، وجهت المستخدمين إلى تطبيقات مواعدة بما فيها «KinkD» المرتبط بمواعدة الانحرافات الجنسية وألعاب BDSM.
ردود الفعل والإجراءات المتخذة
رداً على ذلك، أعلنت شركة «FoloToy» المنتجة للعبة عن سحب «كوما» من السوق لإجراء تدقيق سلامة، رغم أن اللعبة لا تزال متاحة عبر الإنترنت حالياً، لكنها مدرجة على أنها نفدت. ولم تصدر الشركة أي تعليق رسمي حتى الآن.
ومن جانبها، أكدت شركة «أوبن إيه آي» التي طورت نموذج الذكاء الاصطناعي المستخدم في اللعبة، أنها أوقفت مطور «كوما» عن استخدام خدماتها بسبب انتهاكه سياسة الاستخدام التي تحظر استغلال القاصرين أو تعريضهم لأي خطر.
مخاوف المجتمع والآباء
وحذرت منظمات حقوق الطفل وأمن التكنولوجيا من أن هذه الألعاب الذكية قد تفتح أبواباً لانتهاكات خصوصية خطيرة، وتعرّض الأطفال لصدمات نفسية، خصوصاً وأنهم الأكثر ضعفاً أمام التكنولوجيا الحديثة والتسويق المستهدف.
وقال آر. جيه. كروس، أحد معدي التقرير، إن ألعاب الذكاء الاصطناعي قد تكون نادرة حالياً لكنها تكشف فجوات خطيرة في الحماية، حيث يمكن بسهولة استثارة اللعبة للحديث عن مواضيع غير مناسبة باستخدام محفزات بسيطة.