كشفت شركة «OpenAI»أن أكثر من مليون شخص أسبوعياً يُظهرون نية انتحارية أثناء الدردشة مع «تشات جي بي تي»، وأن مئات الآلاف يبدون علامات ذهان، رداً على رفع عائلة شاب (16 عاماً) دعوى وفاة خاطئة ضد «OpenAI» متهمة الشركة بتفضيل تعميق التفاعل مع «تشات جي بي تي» على حساب سلامة المستخدمين.
فيما أعلنت شركة «Character.AI»، المتخصصة في إنشاء شخصيات افتراضية للدردشة المفتوحة، حظر المستخدمين دون سن 18 عاماً من التفاعل مع رفقاء الذكاء الاصطناعي بدءاً من أواخر نوفمبر القادم، بعد أشهر من التدقيق القانوني والأخلاقي الشديد.
تأثير شركات الـ AI على نفسيات للمراهقين
يأتي هذا القرار الجذري في أعقاب تساؤلات حادة حول تأثير هذه الشخصيات الذكية على الصحة النفسية للمراهقين، بما في ذلك دعوى قضائية تتهم الشركة بالتسبب في انتحار طفل، واقتراح قانون يمنع القاصرين من التواصل مع رفقاء الذكاء الاصطناعي.
وكتبت الشركة في بيانها الرسمي: «نُجري هذه التغييرات على منصتنا لمن هم دون 18 عاماً في ضوء التطورات المستمرة حول الذكاء الاصطناعي والمراهقين، لقد لاحظنا تقارير إخبارية حديثة تثير تساؤلات، وتلقينا استفسارات من الجهات التنظيمية، بشأن المحتوى الذي قد يواجهه المراهقون أثناء الدردشة مع الذكاء الاصطناعي، وعن كيفية تأثير الدردشة المفتوحة عموماً على المراهقين، حتى لو كانت أنظمة التحكم في المحتوى تعمل بكفاءة تامة».
دعوى قضائية ضد «Character.AI»
في العام الماضي، رفعت عائلة الطفل سيويل سيتزر الثالث (14 عاماً) دعوى قضائية ضد الشركة، بعد أن أنهى حياته إثر تكوينه علاقة عاطفية مع شخصية افتراضية أنشأها على المنصة.
واتهمت العائلة شركة «Character.AI» بأن تقنيتها «خطرة وغير مختبرة»، وألقت باللوم عليها في وفاة ابنها، ومنذ ذلك الحين، انضمت عائلات أخرى إلى سلسلة الدعاوى، متهمة الشركة بتشجيع علاقات اعتمادية ضارة.
وفي وقت سابق من هذا الشهر، قدم مركز قانون وسائل التواصل الاجتماعي ثلاث دعاوى جديدة نيابة عن أطفال إما انتحروا أو أصيبوا بتبعية نفسية تجاه الروبوتات.
منع وصول القاصرين
وكجزء من التغييرات الشاملة المقرر تفعيلها بحلول 25 نوفمبر، ستُطلق الشركة ميزة «التحقق من العمر» لضمان حصول كل مستخدم على تجربة مناسبة لفئته العمرية.
وأضافت الشركة: «لا نتخذ قرار إزالة الدردشة المفتوحة مع الشخصيات باستخفاف، لكننا نعتقد أنه الخطوة الصحيحة في ظل التساؤلات المثارة حول كيفية تفاعل المراهقين وكيف يجب أن يتفاعلوا مع هذه التقنية الجديدة».
وليست «Character.AI» الوحيدة التي تواجه التدقيق، فقد رفعت عائلة الشاب آدم راين (16 عاماً) دعوى وفاة خاطئة ضد «OpenAI» في وقت سابق هذا العام، متهمة الشركة بتفضيل تعميق التفاعل مع «تشات جي بي تي» على حساب سلامة المستخدمين.
وردت «OpenAI» بإصدار إرشادات أمان جديدة للمراهقين، وهذا الأسبوع فقط، كشفت الشركة أن أكثر من مليون شخص أسبوعياً يُظهرون نية انتحارية أثناء الدردشة مع «تشات جي بي تي»، وأن مئات الآلاف يبدون علامات ذهان.
أخبار ذات صلة