إعداد وتقديم: روجيه خوري
يلجأ مستخدمو الإنترنت أكثر فأكثر إلى برامج الدردشة الآلية عندما يريدون التحقق من معلومة ما، لكنّ استعانتهم بالذكاء الاصطناعي محفوفة بالأخطاء التي قد يرتكبها، على ما ظهر من النقاشات الحادة التي شهدتها منصة “إكس” بعد نشر صورة لفتاة تعاني سوء التغذية في غزة.
للاستماع للمادة:
ففي مطلع آب/أغسطس، عندما نشر النائب الفرنسي عن حزب “فرنسا الأبية” إيمريك كارون المؤيد للقضية الفلسطينية هذه الصورة من دون تعليق على “إكس”، بينما كان قطاع غزة مهددا بـ”مجاعة معمّمة” وفقا للأمم المتحدة، سارع كثر من المستخدمين إلى طلب التحقق من مصدرها من “غروك”.
وأعطى روبوت الدردشة المدمج في “إكس” جوابا جازما مفاده أن هذه الصورة التُقطت في تشرين الأول/أكتوبر 2018 في اليمن، وأن الطفلة التي تظهر فيها تُدعى أمل حسين، وتبلغ سبع سنوات. وانتشر جواب “غروك” على نطاق واسع، واتُهم النائب بنشر معلومات مضللة.
ولكن تبيّن أن “غروك” كان مخطئا. فالصورة التُقطت بالفعل في غزة في 2 آب/أغسطس بعدسة المصوّر الصحافي المتعاون مع وكالة فرانس برس عمر القطّاع.
وتُظهر الصورة مريم دوّاس البالغة تسع سنوات، تحملها في مدينة غزة والدتها التي شرحت لوكالة فرانس برس أن وزنَ ابنتها انخفض من 25 كيلوغراما قبل الحرب إلى تسعة كيلوغرامات اليوم. وأضافت أنها لا تتلقى من الدعم الطبي “سوى الحليب، وهو غير متوافر دائما، ولا يكفيها للتعافي”.
وعندما سُئل “غروك” عن عدم دقة إجابته، ردَّ قائلا “أنا لا أنشر أخبارا كاذبة، بل أعتمد على مصادر موثوق بها”. واعترف في النهاية بخطئه، لكنه كرره في اليوم التالي ردا على أسئلة جديدة من مستخدمي “إكس”.
– “صناديق سوداء” –
ورأى الباحث في أخلاقيات التكنولوجيا ومؤلف كتاب “بونجور تشات جي بي تي” Bonjour ChatGPT لوي دو دييزباك أن خطأ “غروك” يبيّن حدود أدوات الذكاء الاصطناعي، التي تشبه في عملها “الصناديق السوداء”.
وإذ أشار الخبير إلى أن “من غير المعروف تحديدا سبب إعطاء هذه الأدوات هذه الإجابة أو تلك، ولا كيفية ترتيبها مصادرها”، لاحظ أن هذه الأدوات تنطوي على تحيزات مرتبطة ببيانات تدريبها، ولكن أيضا بتعليمات مصمميها.
إعداد وتقديم: روجيه خوري
يلجأ مستخدمو الإنترنت أكثر فأكثر إلى برامج الدردشة الآلية عندما يريدون التحقق من معلومة ما، لكنّ استعانتهم بالذكاء الاصطناعي محفوفة بالأخطاء التي قد يرتكبها، على ما ظهر من النقاشات الحادة التي شهدتها منصة “إكس” بعد نشر صورة لفتاة تعاني سوء التغذية في غزة.
للاستماع للمادة:
ففي مطلع آب/أغسطس، عندما نشر النائب الفرنسي عن حزب “فرنسا الأبية” إيمريك كارون المؤيد للقضية الفلسطينية هذه الصورة من دون تعليق على “إكس”، بينما كان قطاع غزة مهددا بـ”مجاعة معمّمة” وفقا للأمم المتحدة، سارع كثر من المستخدمين إلى طلب التحقق من مصدرها من “غروك”.
وأعطى روبوت الدردشة المدمج في “إكس” جوابا جازما مفاده أن هذه الصورة التُقطت في تشرين الأول/أكتوبر 2018 في اليمن، وأن الطفلة التي تظهر فيها تُدعى أمل حسين، وتبلغ سبع سنوات. وانتشر جواب “غروك” على نطاق واسع، واتُهم النائب بنشر معلومات مضللة.
ولكن تبيّن أن “غروك” كان مخطئا. فالصورة التُقطت بالفعل في غزة في 2 آب/أغسطس بعدسة المصوّر الصحافي المتعاون مع وكالة فرانس برس عمر القطّاع.
وتُظهر الصورة مريم دوّاس البالغة تسع سنوات، تحملها في مدينة غزة والدتها التي شرحت لوكالة فرانس برس أن وزنَ ابنتها انخفض من 25 كيلوغراما قبل الحرب إلى تسعة كيلوغرامات اليوم. وأضافت أنها لا تتلقى من الدعم الطبي “سوى الحليب، وهو غير متوافر دائما، ولا يكفيها للتعافي”.
وعندما سُئل “غروك” عن عدم دقة إجابته، ردَّ قائلا “أنا لا أنشر أخبارا كاذبة، بل أعتمد على مصادر موثوق بها”. واعترف في النهاية بخطئه، لكنه كرره في اليوم التالي ردا على أسئلة جديدة من مستخدمي “إكس”.
– “صناديق سوداء” –
ورأى الباحث في أخلاقيات التكنولوجيا ومؤلف كتاب “بونجور تشات جي بي تي” Bonjour ChatGPT لوي دو دييزباك أن خطأ “غروك” يبيّن حدود أدوات الذكاء الاصطناعي، التي تشبه في عملها “الصناديق السوداء”.
وإذ أشار الخبير إلى أن “من غير المعروف تحديدا سبب إعطاء هذه الأدوات هذه الإجابة أو تلك، ولا كيفية ترتيبها مصادرها”، لاحظ أن هذه الأدوات تنطوي على تحيزات مرتبطة ببيانات تدريبها، ولكن أيضا بتعليمات مصمميها.
