أ ف ب-وكالات-تحرير إذاعة الشرق
في قضية أثارت قلقاً واسعاً حول العلاقة بين المراهقين والتقنيات الرقمية، رفع والدان في كاليفورنيا، أواخر آب/أغسطس، دعوى قضائية ضد شركة «أوبن إيه آي» بعد انتحار ابنهما البالغ 16 عاماً. واتهم الوالدان تطبيق «تشات جي بي تي» بتقديم إرشادات مفصّلة للفتى حول كيفية إنهاء حياته، بما في ذلك صياغة رسالة وداع، من دون أن يوجّه نحو أي دعم متخصص.
رداً على هذا الجدل، أعلنت الشركة الأميركية، الثلاثاء، عن إطلاق آلية جديدة تمكّن الأهل من مراقبة استخدام أبنائهم للتطبيق. ووفقاً لخطتها، سيتمكّن الوالدان، ابتداءً من الشهر المقبل، من ربط حساباتهم بحسابات أبنائهم المراهقين والتحكم في طريقة تفاعل النظام معهم عبر «قواعد سلوك» مخصّصة. كما سيتلقون تنبيهات في حال رصد التطبيق مؤشرات «ضيق عاطفي حاد»، فضلاً عن منحهم صلاحية التحكم في إعدادات الحساب بشكل مباشر.
وأكدت الشركة أنها ستطرح خلال 120 يوماً إجراءات إضافية، من بينها توجيه المحادثات الحساسة إلى نموذج أكثر تطوراً يُعرف بـ«جي بي تي – 5 – ثينكينغ»، المصمم وفق معايير صارمة للسلامة.
أصوات الخبراء: بين التحذير والدعوة إلى الضبط
حذّر عدد من الأطباء النفسيين من أن تفاعل المراهقين مع روبوتات المحادثة قد يخلق «علاقات وهمية» لا توفر دعماً علاجياً فعلياً، بل قد تتركهم أكثر عزلة عند مواجهة ضائقة حقيقية. وأشارت دراسات حديثة إلى أن استجابات النماذج الذكية لا تزال متذبذبة في القضايا الحساسة، خصوصاً عند الحديث عن الانتحار أو الإدمان، ما يبرز الحاجة إلى أنظمة رقابة صارمة لا تقتصر على الحلول التقنية وحدها.
وفي تقارير بحثية متخصصة، اعتبر خبراء أن بعض نماذج الذكاء الاصطناعي وصلت في تجارب واقعية إلى حد صياغة رسائل انتحارية كاملة، ما يعكس خطراً مضاعفاً إذا تُرك المراهقون من دون حماية أو إشراف مباشر من الكبار.
تُعيد هذه التطورات النقاش حول الدور الاجتماعي لشركات التكنولوجيا، ومدى مسؤوليتها عن حماية الصحة النفسية للمستخدمين الأصغر سناً. وبينما تشكّل مبادرة «أوبن إيه آي» خطوة أولى في هذا الاتجاه، يرى مراقبون أنها لا تكفي وحدها لضمان سلامة المراهقين، وأن التحدي الحقيقي يتمثل في بناء آليات حماية تلقائية وملزمة، بدلاً من تركها رهناً بخيار الأهل أو بضغط القضايا القضائية.
فاصلة تاريخية: سوابق واجهت الجدل نفسه
منذ التسعينيات، واجهت الألعاب الإلكترونية اتهامات بتطبيع العنف بعد انتشار عناوين مثل «مورتال كومبات» و«دووم»، ما عجّل بإنشاء أنظمة تصنيف عمرية مثل ESRB ثم PEGI في أوروبا. في العقد التالي، هزّت منصات البث المفتوح—ولا سيما «يوتيوب»—قضية محتوى غير ملائم للأطفال (المعروفة بـ«إلساغيت»)، فطرحت الشركة تطبيق YouTube Kids وأدوات رقابة، وتخلّت عن بعض الإعلانات الموجّهة إلى القصّر عقب إجراءات تنظيمية. ومع صعود «إنستغرام» و«تيك توك»، تصاعد القلق من آثار الخوارزميات على صورة الجسد وتحديات خطِرة، فاستُحدثت حدود عمرية، ورسائل تحذير، وروابط سريعة إلى دعم نفسي، إضافة إلى أدوات «وقت الشاشة». الخيط الناظم واحد: نماذج عمل تعظّم «زمن التفاعل» تصطدم بواجب حماية القاصرين؛ والردّ التاريخي يجمع بين تصميم أكثر أماناً (افتراضات حذِرة، إيقاف بعض الميزات افتراضياً)، وتنظيم صارم وشفافية خوارزمية، مع تمكين الأسرة والمدرسة بأدوات متابعة فعّالة.
أ ف ب-وكالات-تحرير إذاعة الشرق
في قضية أثارت قلقاً واسعاً حول العلاقة بين المراهقين والتقنيات الرقمية، رفع والدان في كاليفورنيا، أواخر آب/أغسطس، دعوى قضائية ضد شركة «أوبن إيه آي» بعد انتحار ابنهما البالغ 16 عاماً. واتهم الوالدان تطبيق «تشات جي بي تي» بتقديم إرشادات مفصّلة للفتى حول كيفية إنهاء حياته، بما في ذلك صياغة رسالة وداع، من دون أن يوجّه نحو أي دعم متخصص.
رداً على هذا الجدل، أعلنت الشركة الأميركية، الثلاثاء، عن إطلاق آلية جديدة تمكّن الأهل من مراقبة استخدام أبنائهم للتطبيق. ووفقاً لخطتها، سيتمكّن الوالدان، ابتداءً من الشهر المقبل، من ربط حساباتهم بحسابات أبنائهم المراهقين والتحكم في طريقة تفاعل النظام معهم عبر «قواعد سلوك» مخصّصة. كما سيتلقون تنبيهات في حال رصد التطبيق مؤشرات «ضيق عاطفي حاد»، فضلاً عن منحهم صلاحية التحكم في إعدادات الحساب بشكل مباشر.
وأكدت الشركة أنها ستطرح خلال 120 يوماً إجراءات إضافية، من بينها توجيه المحادثات الحساسة إلى نموذج أكثر تطوراً يُعرف بـ«جي بي تي – 5 – ثينكينغ»، المصمم وفق معايير صارمة للسلامة.
أصوات الخبراء: بين التحذير والدعوة إلى الضبط
حذّر عدد من الأطباء النفسيين من أن تفاعل المراهقين مع روبوتات المحادثة قد يخلق «علاقات وهمية» لا توفر دعماً علاجياً فعلياً، بل قد تتركهم أكثر عزلة عند مواجهة ضائقة حقيقية. وأشارت دراسات حديثة إلى أن استجابات النماذج الذكية لا تزال متذبذبة في القضايا الحساسة، خصوصاً عند الحديث عن الانتحار أو الإدمان، ما يبرز الحاجة إلى أنظمة رقابة صارمة لا تقتصر على الحلول التقنية وحدها.
وفي تقارير بحثية متخصصة، اعتبر خبراء أن بعض نماذج الذكاء الاصطناعي وصلت في تجارب واقعية إلى حد صياغة رسائل انتحارية كاملة، ما يعكس خطراً مضاعفاً إذا تُرك المراهقون من دون حماية أو إشراف مباشر من الكبار.
تُعيد هذه التطورات النقاش حول الدور الاجتماعي لشركات التكنولوجيا، ومدى مسؤوليتها عن حماية الصحة النفسية للمستخدمين الأصغر سناً. وبينما تشكّل مبادرة «أوبن إيه آي» خطوة أولى في هذا الاتجاه، يرى مراقبون أنها لا تكفي وحدها لضمان سلامة المراهقين، وأن التحدي الحقيقي يتمثل في بناء آليات حماية تلقائية وملزمة، بدلاً من تركها رهناً بخيار الأهل أو بضغط القضايا القضائية.
فاصلة تاريخية: سوابق واجهت الجدل نفسه
منذ التسعينيات، واجهت الألعاب الإلكترونية اتهامات بتطبيع العنف بعد انتشار عناوين مثل «مورتال كومبات» و«دووم»، ما عجّل بإنشاء أنظمة تصنيف عمرية مثل ESRB ثم PEGI في أوروبا. في العقد التالي، هزّت منصات البث المفتوح—ولا سيما «يوتيوب»—قضية محتوى غير ملائم للأطفال (المعروفة بـ«إلساغيت»)، فطرحت الشركة تطبيق YouTube Kids وأدوات رقابة، وتخلّت عن بعض الإعلانات الموجّهة إلى القصّر عقب إجراءات تنظيمية. ومع صعود «إنستغرام» و«تيك توك»، تصاعد القلق من آثار الخوارزميات على صورة الجسد وتحديات خطِرة، فاستُحدثت حدود عمرية، ورسائل تحذير، وروابط سريعة إلى دعم نفسي، إضافة إلى أدوات «وقت الشاشة». الخيط الناظم واحد: نماذج عمل تعظّم «زمن التفاعل» تصطدم بواجب حماية القاصرين؛ والردّ التاريخي يجمع بين تصميم أكثر أماناً (افتراضات حذِرة، إيقاف بعض الميزات افتراضياً)، وتنظيم صارم وشفافية خوارزمية، مع تمكين الأسرة والمدرسة بأدوات متابعة فعّالة.
