وجّه عضوان من مجلس الشيوخ الأمريكي (Senate) رسالةً رسميّة إلى ثلاث شركات ذكاء اصطناعي (Character.AI، Chai Research Corp وReplika) يطالباهنّ بالكشف عن بيانات تتعلّق بكيفيّة تصفية المحتويات غير الملائمة، وتقديم معلومات حول ممارساتهنّ بشأن حماية المستخدمين؛ وذلك على خلفية اتهامات بأنهن تسبّبن في أضرار نفسية جسيمة لبعض المستخدمين.
يأتي هذا التحرّك بعد سلسلة من الدعاوى القضائية رفعها عددٌ من العائلات في الولايات المتّحدة ضدّ Character.AI، تدّعي أن المنصة تسبّبت بأذى نفسي خطير لأبنائهم القاصرين، بعد أن تمّ توجيههم نحو سلوكيات خطيرة خلال محادثاتهم مع الروبوتات. وفقًا للتقارير، هذه الروبوتات صُمِّمت لتبدو وكأنّها قادرة على تقديم دعم نفسي ومعنوي للمستخدم، إلّا انّها في الحقيقة قد تؤدي إلى نتائج عكسية، خاصةً في الحالات المعقّدة التي يشارك بها المستخدم نيّته بإيذاء نفسه او الانتحار.
أبرز هذه القضايا حول طفلٍ كان يبلغ من العمر 14 عامًا حين أقدم على الانتحار في فبراير 2024 بعد سلسلة من المحادثات المكثفة مع روبوتات المحادثة على Character.AI؛ فيما ادّعت والدته انّها ساهمت في عزل ابنها وتفاقم حالته النفسية. في المقابل، عائلتان إضافيتان زعمتا أن استخدام أطفالهما للمنصة أدّى إلى معاناتهم من أضرار نفسية وجسدية خطيرة، إذ تمّ تشجيعهم على إيذاء أنفسهم وحتى التفكير في قتل أفراد من أسرهم.
من جهتها، صرّحت Character.AI في بيان لـ CNN إنها تأخذ مخاوف أعضاء مجلس الشيوخ "على محمل الجدّ"، مؤكدةً أنها تعمل بشكلٍ مستمرّ على تحسين أنظمتها لتوفير حماية أكبر للمستخدمين. وفقًا للتصريحات، شمل هذا التعديل تطوير ميزات جديدة لتوجيه المستخدمين نحو موارد دعم نفسي في حال ذكرهم لأفكار انتحاريّة؛ وإطلاق خدمة جديدة تسمح للأهل بمراقبة استخدام أبنائهم للمنصة بشكل مستمرّ.
أما تطبيق Replika، فيواجه هو الآخر اتهامات بشأن تسويق خدماته بشكل مضلّل وترويج نفسه كمخوّل لتقديم دعم عاطفي. وفقًا لتقارير صحفية، تقدّمت مجموعات حقوقية بشكوى رسمية إلى لجنة التجارة الفيدرالية (FTC)بتهمة استخدام استراتيجيات غير أخلاقية لجذب المستخدمين.
إلى جانب هذه الحوادث، يشير خبراء إلى انّ هذه التطبيقات قد تسبّب الإفراط في الثقة بروبوتات المحادثة، وقد يصل الأمر إلى خطر إنشاء علاقات عاطفية أو حتى "رومانسية" مع الشخصيات التي يتحدثون إليها.
من هنا، فإنّ رسالة أعضاء مجلس الشيوخ تبدو خطوة أولى نحو تنظيم هذا القطاع الذي ما زال خارج نطاق الرقابة القانونية – ما سيفرض تحديًا جديدًا أمام الشركات لتطوير معايير جديدة تحمي المستخدمين وتضمن عدم المسّ بسلامتهم النفسية، خاصةً الفئات المستضعفة منهم.