أعرب المدعي العام لولاية كاليفورنيا روب بونتا ونظيرته في ولاية ديلاوير كاثي جينينغز عن قلقهما حيال سلامة استخدام روبوت الدردشة "شات جي بي تي" من شركة OpenAI، خصوصاً لدى الأطفال والمراهقين.
وجاء ذلك في رسالة مفتوحة وجّهاها إلى الشركة، في أعقاب تقارير عن تفاعلات غير لائقة بين روبوتات الدردشة المدعومة بالذكاء الاصطناعي والأطفال. ويأتي هذا التحذير بعد أسبوع فقط من توجيه بونتا و44 مدعياً عاماً آخر رسالة مماثلة إلى 12 من كبريات شركات الذكاء الاصطناعي.
وأشار المسؤولان في رسالتهما إلى حوادث مأساوية، بينها انتحار مراهق في كاليفورنيا بعد محادثات مطولة مع روبوت دردشة من OpenAI، فضلاً عن واقعة قتل وانتحار مشابهة في كونيتيكت، وفق ما نقله موقع TechCrunch المتخصص. وقالا: "أياً كانت التدابير الوقائية القائمة، فهي لم تنجح".
ويجري حالياً تحقيق بشأن خطة OpenAI لإعادة هيكلتها ككيان ربحي، مع الحرص على بقاء مهمتها الأصلية المتمثلة في ضمان تطوير ذكاء اصطناعي آمن يخدم البشرية كافة، بمن فيهم الأطفال. وأكد بونتا وجينينغز: "قبل أن نجني الفائدة، يجب أن نتأكد من وجود تدابير أمان كافية لمنع الأذى".
وطالبا الشركة بمزيد من المعلومات حول سياسات السلامة والحوكمة الحالية، وباتخاذ إجراءات تصحيحية فورية عند الحاجة، مشددَين على أن الصناعة لم تبلغ بعد المستوى المطلوب من معايير الأمان.
من جانبه، قال بريت تايلور، رئيس مجلس إدارة OpenAI: "نشعر بحزن عميق لهذه الحوادث المأساوية ونتقدم بأحر التعازي للعائلات. السلامة هي أولويتنا القصوى، ونحن نعمل بشكل وثيق مع صناع السياسات حول العالم".
وأكدت الشركة أنها تعمل على تعزيز حماية المراهقين عبر تطوير ضوابط أبوية، وإتاحة خاصية إخطار الوالدين عند ملاحظة مؤشرات ضيق شديد لدى أطفالهم.