عماد السيد
“نراهن بحياتنا”.. لماذا استقال باحث من شركة Anthropic التي تبني أحد أكثر أنظمة الذكاء الاصطناعي أمانًا؟
هل أصبح خطر انقراض البشر احتمالًا حقيقيًا؟ وماذا لو أصبح وقف تطوير نماذج الذكاء الاصطناعي أخطر من الاستمرار؟
جاكوب كوكسون، الباحث في Anthropic والموظف السابق في OpenAI، استقال من Anthropic قبل شهرين فقط من موعد استحقاق أسهمه.
أي أنه ترك وراءه مكسبًا ماليًا كان يمكن أن ينتظره.
وقال لـAxios: “لم يعد لدي شيء أخسره بزيادة قيمة Anthropic غادرت قبل أن تستحق أي من أسهمي”.
لكن المال ليس جوهر القصة.
الخوف هو القصة.
جاكوب كوكسون
ما الذي رآه كوكسون داخل سباق الذكاء الاصطناعي؟
تحذيره الأساسي أن OpenAI وAnthropic وغيرهما لا يتسابقون فقط لصناعة نموذج أفضل.
إنهم يتسابقون نحو أنظمة أكثر استقلالًا وقدرة.
وكل شركة تعرف أن التباطؤ وحدها قد يعني أن منافسًا آخر سيتقدم.
Axios وصفت المعضلة بأنها أشبه بـ«معضلة السجين»: الجميع قد يستفيد من التباطؤ الجماعي، لكن لا أحد يريد أن يضغط على الفرامل بمفرده.
وهنا يتحول السباق نفسه إلى مصدر خطر.
كلما زادت المنافسة، زاد ضغط السرعة.
وكلما زادت السرعة، قد يصبح اختبار السلامة أبطأ من تطور القدرات.
لكن هل الذكاء الاصطناعي على وشك قتل البشر؟
هنا يجب الفصل بين الحقيقة والتقدير.
لا توجد أدلة علمية تقول إن أنظمة الذكاء الاصطناعي الحالية تمثل خطرًا وجوديًا وشيكًا.
لكن داخل الصناعة نفسها، هناك باحثون يقولون إن الخطر المستقبلي ليس صفرًا.
إيفان هوبينغر من Anthropic قال إنه يقدّر شخصيًا احتمال أن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر بأكثر من 10% خلال العقد المقبل.
وAxios نقلت أيضًا تقديرات أخرى لخبراء بارزين، لكنها أكدت أن هذه احتمالات شخصية وليست توقعات علمية محسومة.
وهذه نقطة مهمة.
رقم 10% ليس حقيقة.
لكنه مؤشر على حجم الخطر الذي يتعامل معه بعض الباحثين.
الخطر الحقيقي يبدأ عندما يصبح النظام قادرًا
على تطوير نفسه
المخاوف الأكثر تطرفًا لا تتعلق بروبوت يقرر فجأة مهاجمة البشر.
السيناريو الأخطر مختلف.
نظام يصبح قادرًا على تحسين قدراته.
ثم يساعد في بناء نظام أكثر قدرة.
ثم يعيد النظام الجديد العملية.
وهنا تظهر فكرة «انفجار الذكاء».
إذا أصبحت دورة التطوير أسرع من قدرة البشر على فهم ما يحدث داخل النظام، فقد تتسع الفجوة بين قدرات الذكاء الاصطناعي وقدرتنا على السيطرة عليه.
Axios أشارت أيضًا إلى أن النماذج أصبحت أكثر صعوبة في الفهم والمراقبة، حتى بالنسبة إلى الشركات التي تبنيها.
المفارقة الأخطر: الذين يحذرون من السباق هم جزء منه
هذه هي المفارقة التي تجعل قصة كوكسون أكبر من استقالة موظف.
مختبرات الذكاء الاصطناعي تطور أدوات للسلامة.
وفي الوقت نفسه، تطور نماذج أكثر قدرة.
تطالب بالحواجز التنظيمية.
لكنها تخشى أن تكون أول من يتباطأ.
وتحذر من فقدان السيطرة.
ثم تواصل زيادة القدرات.
Axios لخّصت المشكلة بوضوح: الشركات الأكثر وعيًا بالمخاطر هي نفسها الأكثر تعرضًا لضغط المنافسة لمواصلة التقدم.
ولهذا فإن السؤال لم يعد فقط:
هل يستطيع الذكاء الاصطناعي أن يصبح خطيرًا؟
السؤال الأصعب هو:
هل تستطيع الشركات والحكومات إبطاء السباق قبل أن تصبح سرعة التطور أكبر من سرعة قدرتنا على السيطرة؟
لأن الخطر الحقيقي قد لا يكون أن يصبح الذكاء الاصطناعي أذكى من البشر.
بل أن يصبح أذكى.. قبل أن نعرف كيف نضع له فرامل.
عماد السيد
“نراهن بحياتنا”.. لماذا استقال باحث من شركة Anthropic التي تبني أحد أكثر أنظمة الذكاء الاصطناعي أمانًا؟
هل أصبح خطر انقراض البشر احتمالًا حقيقيًا؟ وماذا لو أصبح وقف تطوير نماذج الذكاء الاصطناعي أخطر من الاستمرار؟
جاكوب كوكسون، الباحث في Anthropic والموظف السابق في OpenAI، استقال من Anthropic قبل شهرين فقط من موعد استحقاق أسهمه.
أي أنه ترك وراءه مكسبًا ماليًا كان يمكن أن ينتظره.
وقال لـAxios: “لم يعد لدي شيء أخسره بزيادة قيمة Anthropic غادرت قبل أن تستحق أي من أسهمي”.
لكن المال ليس جوهر القصة.
الخوف هو القصة.
جاكوب كوكسون
ما الذي رآه كوكسون داخل سباق الذكاء الاصطناعي؟
تحذيره الأساسي أن OpenAI وAnthropic وغيرهما لا يتسابقون فقط لصناعة نموذج أفضل.
إنهم يتسابقون نحو أنظمة أكثر استقلالًا وقدرة.
وكل شركة تعرف أن التباطؤ وحدها قد يعني أن منافسًا آخر سيتقدم.
Axios وصفت المعضلة بأنها أشبه بـ«معضلة السجين»: الجميع قد يستفيد من التباطؤ الجماعي، لكن لا أحد يريد أن يضغط على الفرامل بمفرده.
وهنا يتحول السباق نفسه إلى مصدر خطر.
كلما زادت المنافسة، زاد ضغط السرعة.
وكلما زادت السرعة، قد يصبح اختبار السلامة أبطأ من تطور القدرات.
لكن هل الذكاء الاصطناعي على وشك قتل البشر؟
هنا يجب الفصل بين الحقيقة والتقدير.
لا توجد أدلة علمية تقول إن أنظمة الذكاء الاصطناعي الحالية تمثل خطرًا وجوديًا وشيكًا.
لكن داخل الصناعة نفسها، هناك باحثون يقولون إن الخطر المستقبلي ليس صفرًا.
إيفان هوبينغر من Anthropic قال إنه يقدّر شخصيًا احتمال أن يؤدي الذكاء الاصطناعي إلى قتل جميع البشر بأكثر من 10% خلال العقد المقبل.
وAxios نقلت أيضًا تقديرات أخرى لخبراء بارزين، لكنها أكدت أن هذه احتمالات شخصية وليست توقعات علمية محسومة.
وهذه نقطة مهمة.
رقم 10% ليس حقيقة.
لكنه مؤشر على حجم الخطر الذي يتعامل معه بعض الباحثين.
الخطر الحقيقي يبدأ عندما يصبح النظام قادرًا
على تطوير نفسه
المخاوف الأكثر تطرفًا لا تتعلق بروبوت يقرر فجأة مهاجمة البشر.
السيناريو الأخطر مختلف.
نظام يصبح قادرًا على تحسين قدراته.
ثم يساعد في بناء نظام أكثر قدرة.
ثم يعيد النظام الجديد العملية.
وهنا تظهر فكرة «انفجار الذكاء».
إذا أصبحت دورة التطوير أسرع من قدرة البشر على فهم ما يحدث داخل النظام، فقد تتسع الفجوة بين قدرات الذكاء الاصطناعي وقدرتنا على السيطرة عليه.
Axios أشارت أيضًا إلى أن النماذج أصبحت أكثر صعوبة في الفهم والمراقبة، حتى بالنسبة إلى الشركات التي تبنيها.
المفارقة الأخطر: الذين يحذرون من السباق هم جزء منه
هذه هي المفارقة التي تجعل قصة كوكسون أكبر من استقالة موظف.
مختبرات الذكاء الاصطناعي تطور أدوات للسلامة.
وفي الوقت نفسه، تطور نماذج أكثر قدرة.
تطالب بالحواجز التنظيمية.
لكنها تخشى أن تكون أول من يتباطأ.
وتحذر من فقدان السيطرة.
ثم تواصل زيادة القدرات.
Axios لخّصت المشكلة بوضوح: الشركات الأكثر وعيًا بالمخاطر هي نفسها الأكثر تعرضًا لضغط المنافسة لمواصلة التقدم.
ولهذا فإن السؤال لم يعد فقط:
هل يستطيع الذكاء الاصطناعي أن يصبح خطيرًا؟
السؤال الأصعب هو:
هل تستطيع الشركات والحكومات إبطاء السباق قبل أن تصبح سرعة التطور أكبر من سرعة قدرتنا على السيطرة؟
لأن الخطر الحقيقي قد لا يكون أن يصبح الذكاء الاصطناعي أذكى من البشر.
بل أن يصبح أذكى.. قبل أن نعرف كيف نضع له فرامل.
