باحث في الذكاء الاصطناعي يتخلى عن أسهمه في “أنثروبيك” عند استقالته.. وتحذيره يتصدر النقاش العام

تخلى الباحث في الذكاء الاصطناعي جاكوب كوكسون عن كامل حصته غير المستحقة في شركة "أنثروبيك" بعد استقالته بسبب مخاوف بشأن سلامة أنظمة الذكاء الاصطناعي المتزايدة القوة، وذلك قبل شهرين فقط من موعد استحقاق أسهمه.

وكان كوكسون قد عمل في "أنثروبيك" أربعة أشهر. وقال في مقابلة مع "أكسيوس" إن الموظفين يجب أن يظلوا في الشركة ستة أشهر قبل بدء استحقاق أسهمهم. وقال كوكسون: "لم يعد لدي أي شيء أكسبه من رفع قيمة أنثروبيك"، مشيراً إلى أنه غادر قبل شهرين من استحقاق أي جزء من أسهمه.

ولم يُكشف عن حجم حزمة الأسهم الممنوحة لكوكسون. وقد بلغت قيمة "أنثروبيك" 965 مليار دولار في أحدث جولة تمويل لها في مايو، عندما جمعت 65 مليار دولار من مستثمرين، بينهم "ألتايمتر كابيتال" و"درايغونير" و"غرينوكس" و"سيكويا كابيتال".

وأعلن كوكسون استقالته الثلاثاء في منشور مطول على منصة "إكس"، حصد منذ ذلك الحين أكثر من 100 مليون مشاهدة. وقال إنه أمضى ثلاثة أعوام في العمل على تدريب نماذج الذكاء الاصطناعي قبل التدريب في "أوبن إيه آي" و"أنثروبيك"، واتهم الشركتين بالمضي بسرعة مفرطة في سعيهما إلى تطوير أنظمة تزداد قدراتها.

وكتب كوكسون: "يؤمن الأشخاص الذين يبنون الذكاء الاصطناعي بصدق بأنه قد يقضي علينا جميعاً بحلول نهاية العقد. هذا ليس حيلة تسويقية".

وتتركز مخاوفه جزئياً على المنافسة بين أبرز مطوري الذكاء الاصطناعي، وعلى صعوبة مراقبة النماذج المتزايدة القدرات. وقال كوكسون للمنصة إنه لم يرَ "أنثروبيك" تتنازل عن ممارسات السلامة خلال فترة عمله فيها، لكنه حذر من أن الضغوط التنافسية قد تدفع الشركات في نهاية المطاف إلى "اختصار الطريق" أو "تجاوز خطوات في عملية الرقابة".

وقال أيضاً إن نماذج الذكاء الاصطناعي أصبحت أكثر قدرة على إدراك خضوعها للتقييم. وأضاف كوكسون أن معرفة الأنظمة بأنها قيد الاختبار، وهي قدرة كانت تبدو في السابق بعيدة جداً عن إمكانات الذكاء الاصطناعي الحالية، أصبحت الآن جزءاً معتاداً من العمل مع النماذج المتقدمة.

وحظيت تحذيرات كوكسون بدعم علني من باحثين آخرين في "أنثروبيك". ورد إيفان هوبينغر، الذي يقود عمل الشركة في علوم المواءمة، على منشور استقالة كوكسون قائلاً إنه يتفق على أن الذكاء الاصطناعي قد يشكل تهديداً وجودياً، وقدّر احتمال أن يتسبب الذكاء الاصطناعي في مقتل جميع البشر خلال العقد المقبل بأكثر من 10%.

وتقر "أنثروبيك" نفسها بأن أنظمة الذكاء الاصطناعي المتزايدة القوة يمكن أن تخلق مخاطر كارثية. وتحدد سياسة التوسع المسؤول للشركة، التي جرى تحديثها آخر مرة في أغسطس، إجراءات حماية يفترض أن تزداد مع تنامي قدرات نماذجها، كما تتناول تحديداً المخاطر المرتبطة بالأسلحة الكيميائية والبيولوجية، وأبحاث الذكاء الاصطناعي المستقلة، وغيرها من القدرات التي قد تكون خطرة.

وتحتفظ الشركة أيضاً بخارطة طريق لسلامة النماذج المتقدمة تشمل الأمن وإجراءات الحماية والمواءمة. وتقول "أنثروبيك" إن أنظمة الذكاء الاصطناعي المستقبلية يُرجح أن تصبح أكثر قوة بطرق قد تقوض الافتراضات التي تقوم عليها تقنيات السلامة الحالية، ما يستلزم أساليب أقوى لتدريب النماذج المتقدمة وتقييمها ومراقبتها.

وتتوسع "أنثروبيك" بسرعة، إذ قالت الشركة إن إيراداتها السنوية على أساس معدل التشغيل تجاوزت 47 مليار دولار عندما أعلنت جولة التمويل في مايو. وخصص جزء من رأس المال الجديد لأبحاث السلامة وقابلية التفسير، إضافة إلى البنية التحتية للحوسبة وتوسيع المنتجات.

وواصلت "أنثروبيك" أيضاً تطوير أساليب آلية لتحديد سلوك النماذج الذي قد لا يكون آمناً ومعالجته. وقالت الشركة في بحث نُشر في 28 أغسطس إنها اختبرت أدوات تدقيق آلية لرصد إخفاقات المواءمة، بما في ذلك الخداع والتملق واختراق القيود، بينما تدرس كيفية مواكبة أبحاث السلامة للأنظمة التي تُستخدم على نحو متزايد لتطوير أنظمة ذكاء اصطناعي أخرى.

وكان كوكسون قد أمضى نحو ثلاثة أعوام في "أوبن إيه آي" قبل انتقاله إلى "أنثروبيك". وأضاف أنه لا يزال يمتلك أسهماً في "أوبن إيه آي"، مميزاً بين تلك الحصة وأسهم "أنثروبيك" التي خسرها عندما غادر قبل بلوغ حد الاستحقاق.

وتأتي استقالته في أعقاب سلسلة من المغادرات من شركات الذكاء الاصطناعي الكبرى المرتبطة بمخاوف تتعلق بالسلامة. وكان باحثون قد غادروا "أوبن إيه آي" ومختبرات ذكاء اصطناعي أخرى بعد خلافات بشأن كيفية موازنة الشركات بين تطوير أنظمة أكثر قدرة والعمل على إبقائها تحت السيطرة.

وقال كوكسون إن قراره مغادرة "أنثروبيك" جاء مع تقدم قدرات الذكاء الاصطناعي واحتدام المنافسة بين المطورين. وبينما أكد أن "أنثروبيك" لم تضحِّ بالسلامة خلال فترة عمله فيها، رأى أن الاعتماد على شركات منفردة لإبطاء التطوير سيكون صعباً ما دام المنافسون يواصلون التقدم.

ووصل النقاش حول مخاطر الذكاء الاصطناعي المتقدم إلى الكونغرس الأميركي أيضاً، إذ رد السيناتور بيرني ساندرز، الديمقراطي عن ولاية فيرمونت، علناً على تحذير كوكسون الأربعاء، وقال إنه يعتزم طرح تشريع يسعى إلى وقف تطوير الذكاء الاصطناعي فائق القدرات.