Anthropic تنشئ جهازاً أمنياً لمراقبة الاحتجاجات والتهديدات المحيطة بمسؤوليها التنفيذيين

أنشأت شركة Anthropic جهازاً أمنياً داخلياً واسعاً يراقب الاحتجاجات القريبة من مسؤوليها التنفيذيين ومكاتبها، وفقاً لتقرير نشرته مجلة The American Prospect. كما أبلغت الشركة الشرطة عن مستخدمين بسبب رسائل أرسلوها إلى روبوت Claude، وفي إحدى الحالات على الأقل فعلت ذلك من دون عرض الرسائل الأصلية على الشرطة.

وجاءت هذه المعلومات في مقابلة عبر بودكاست مع اثنين من كبار مسؤولي الأمن في Anthropic، إلى جانب إعلان توظيف حديث وتعليقات سابقة أدلت بها الشركة لوسائل إعلام أخرى. ولم ترد Anthropic على طلب The American Prospect التعليق على التقرير، الذي نُشر في 9 سبتمبر.

كيف تراقب Anthropic الاحتجاجات القريبة من مسؤوليها التنفيذيين

خلال المقابلة، تحدث كيون إليسون، مدير مركز عمليات الأمن العالمي في Anthropic، عن واقعة استعانت فيها الشركة بمعلومات من شركة Samdesk المتخصصة في رصد المخاطر، لتغيير مسار مسؤول تنفيذي كان متوجهاً إلى مدينة كان مقرراً تنظيم احتجاج فيها.

وقال إليسون: "أبلغتنا Samdesk قبل نحو 60 دقيقة بأن منظمي الاحتجاج غيّروا التوقيت. كانت تلك الساعة الإضافية حاسمة. فمن دونها، كان مسؤولونا التنفيذيون سيغادرون اجتماعاتهم ويتجهون مباشرة إلى قلب الاضطراب".

وأوضح إليسون أن الشركة استخدمت هذه المعلومة لتوجيه المسؤول التنفيذي إلى مدخل الخدمات في أحد الفنادق بدلاً من ذلك. ووصف النتيجة بأنها حالة "جرى احتواؤها من خلال الاكتشاف المبكر عبر Samdesk وتزويدنا بهذه المعلومات".

إبلاغ الشرطة من دون تسليم الرسائل

كما بدأت Anthropic إبلاغ إدارات الشرطة عن تهديدات مرتبطة بروبوت Claude.

وقالت الشركة لصحيفة The Wall Street Journal في يوليو إنها تتابع "السلوك المثير للقلق بمرور الوقت عبر آلية للتعامل مع الأشخاص محل الاهتمام، ما يتيح لنا رصد أنماط التصعيد في وقت مبكر". وذكرت الصحيفة أن عدة أشخاص تورطوا لاحقاً في وقائع مع الشرطة كانوا قد أُدرجوا مسبقاً ضمن قائمة رصد فريق الأمن في Anthropic.

وفي واقعة أوردتها صحيفة The San Francisco Standard الشهر الماضي، أبلغت Anthropic شرطة سان فرانسيسكو عن رجل بعدما قال لروبوت Claude إنه اشترى بندقية AR-15 وإن الرئيس التنفيذي للشركة داريو أمودي "في مرماه". وقال الرجل لاحقاً للصحيفة إنه كان "يمزح فحسب".

ولم يعرض أحد موظفي Anthropic الرسائل الأصلية للرجل على الشرطة، مشيراً إلى سياسة الشركة سبباً لحجبها. وتثير الواقعة تساؤلات بشأن كيفية تقييم الشرطة للتهديدات المُبلّغ عنها عندما لا تُعرض عليها الرسائل الأصلية.

إعلان توظيف يشير إلى توسيع نطاق جمع المعلومات

ويشير إعلان توظيف لفريق السلامة والاستخبارات والأمن العالمي في Anthropic إلى أن العمل الأمني للشركة يتجاوز حماية مسؤوليها التنفيذيين.

ويطلب الإعلان، الخاص بوظيفة أخصائي استخبارات مؤسسية وبراتب يتراوح بين 180 ألف دولار و230 ألف دولار، التحقيق في تهديدات تشمل "عدم الاستقرار الجيوسياسي، والإرهاب، والجريمة، والنشاط الاحتجاجي، واستهداف الدول لقطاع الذكاء الاصطناعي، واتجاهات الأمن الناشئة" وتتبعها.

وقال زاك ميلفن، مدير عمليات الأمن في Anthropic، في البودكاست نفسه إن الهدف هو "تحويل العمليات من جمع المعلومات بشكل تفاعلي إلى التعامل مع التهديدات وإدارتها بصورة استباقية وتنبؤية ووقائية".

ويأتي هذا التوسع في وقت تسعى فيه Anthropic إلى استئناف أعمالها الدفاعية، بعدما دخلت في خلاف سابق مع البنتاغون بشأن الاستخدام العسكري لأدواتها.

ووفقاً لـ The American Prospect، تسعى الشركة حالياً إلى إعادة تفعيل العقود العسكرية، بالتزامن مع توسع التوظيف في مجالات الأمن القومي.

ولا يثبت التقرير أن Anthropic أنشأت نظاماً آلياً واحداً لـ"المراقبة التنبؤية".

بل يشير إلى عملية أوسع للأمن والاستخبارات تشمل مراقبة الاحتجاجات وتقييم التهديدات والإبلاغ الاستباقي عنها. وتسمح سياسة الخصوصية لدى Anthropic للشركة بإبلاغ جهات إنفاذ القانون عن تهديدات العنف الواردة في المحادثات.

وتثير هذه التطورات تساؤلات بشأن كيفية تعامل الشركات مع المحادثات التي قد تتضمن تهديدات عبر روبوتات المحادثة، والمعلومات التي تقدمها للشرطة بعد إبلاغها عن تلك التهديدات. وتأتي التطورات أيضاً مع زيادة Anthropic انخراطها مع الحكومة وملفات الأمن القومي، بما في ذلك ممارسة الضغط في قضايا مثل مشتريات الدفاع والأمن السيبراني.