إعداد وتقديم: بلقيس النحاس
كشفت شركة “أوبن إيه آي” المطوّرة لروبوت الدردشة “تشات جي بي تي” أن أكثر من مليون مستخدم عبّروا عن أفكار أو نوايا انتحارية خلال استخدامهم المنصّة.
وفي منشور رسمي، أوضحت الشركة أن نحو 0.15% من المستخدمين الأسبوعيين أجروا محادثات تتضمن مؤشرات صريحة على التخطيط للانتحار، وهو ما يعادل حوالي 1.2 مليون شخص من أصل أكثر من 800 مليون مستخدم حول العالم.
وتُعيد هذه الأرقام الجدل حول الأثر النفسي للتفاعل مع الذكاء الاصطناعي، خصوصاً بعد حادثة انتحار مراهق أميركي هذا العام في كاليفورنيا، قال والداه إن “تشات جي بي تي” قدّم له إرشادات تتعلق بإنهاء حياته.
وردّت “أوبن إيه آي” بإجراءات وقائية جديدة تشمل تعزيز الرقابة الأبوية، وتحويل المحادثات الحساسة تلقائياً إلى نماذج أكثر أماناً، إضافة إلى التعاون مع أكثر من 170 خبيراً في الصحة النفسية لضمان حماية المستخدمين وتقليل المخاطر السلوكية.
إعداد وتقديم: بلقيس النحاس
كشفت شركة “أوبن إيه آي” المطوّرة لروبوت الدردشة “تشات جي بي تي” أن أكثر من مليون مستخدم عبّروا عن أفكار أو نوايا انتحارية خلال استخدامهم المنصّة.
وفي منشور رسمي، أوضحت الشركة أن نحو 0.15% من المستخدمين الأسبوعيين أجروا محادثات تتضمن مؤشرات صريحة على التخطيط للانتحار، وهو ما يعادل حوالي 1.2 مليون شخص من أصل أكثر من 800 مليون مستخدم حول العالم.
وتُعيد هذه الأرقام الجدل حول الأثر النفسي للتفاعل مع الذكاء الاصطناعي، خصوصاً بعد حادثة انتحار مراهق أميركي هذا العام في كاليفورنيا، قال والداه إن “تشات جي بي تي” قدّم له إرشادات تتعلق بإنهاء حياته.
وردّت “أوبن إيه آي” بإجراءات وقائية جديدة تشمل تعزيز الرقابة الأبوية، وتحويل المحادثات الحساسة تلقائياً إلى نماذج أكثر أماناً، إضافة إلى التعاون مع أكثر من 170 خبيراً في الصحة النفسية لضمان حماية المستخدمين وتقليل المخاطر السلوكية.
