عسكريون أميركيون لـ"حماية" الذكاء الاصطناعي

ضمت شركة أوبن إيه آي، مطورة برنامج المحادثة الآلي الذي يستند إلى الذكاء الاصطناعي "تشات جي بي تي"، الجنرال السابق في الجيش الأميركي ومدير وكالة الأمن القومي، بول إم. ناكاسوني، إلى مجلس إدارتها. ناكاسوني عيّن من الرئيس الأميركي السابق دونالد ترامب لتولي إدارة وكالة الأمن القومي عام 2018، وطُلب منه الاستمرار في منصبه في عهد الرئيس الحالي جو بايدن. سينضم إلى لجنة السلامة والأمن التابعة لمجلس إدارة "أوبن إيه آي" التي شكلت في أواخر مايو/أيار لتقييم وتحسين سياسات الشركة المتعلقة باختبار تقنياتها والتصدي للإساءات.

وتعليقاً على دوره الجديد، قال ناكاسوني لصحيفة واشنطن بوست، الجمعة: "لشركة أوبن إيه آي دور فريد، إذ تواجه التهديدات السيبرانية بينما تحتل مكانة رائدة في مجال التكنولوجيا التحويلية التي يمكن أن تحدث ثورة في كيفية مواجهة هذه التهديدات من المؤسسات. إنني أتطلع إلى دعم الشركة في حماية ابتكاراتها مع الاستفادة منها لمصل المجتمع".

يأتي ضم ناكاسوني إلى "أوبن إيه آي" في الوقت الذي تحاول فيه التصدي للانتقادات التي تطاول ممارساتها الأمنية، وبعض هذه الانتقادات صدر عن موظفين حاليين وسابقين فيها، اتهموها بإعطاء الأولوية للتربح المالي على حساب سلامة منتجاتها. وتخضع الشركة لتدقيق متزايد بعد رحيل العديد من الموظفين البارزين فيها وإطلاق رسالة مفتوحة تدعو إلى إجراء تغييرات شاملة في ممارساتها.

الأسبوع الماضي، أطلقت مجموعة من الموظفين الحاليين والسابقين في شركات الذكاء الاصطناعي، على رأسها "أوبن إيه آي" و"غوغل"، رسالة حذرت فيها من نقص الرقابة على السلامة داخل القطاع، ودعت إلى توفير حماية أكبر للمبلغين عن الانتهاكات. الرسالة التي تطالب بـ"الحق في التحذير من الذكاء الاصطناعي" واحد من أبرز المواقف التي تحذر من أخطار هذه التقنية والصادرة عن موظفين في هذا القطاع الذي تحيط السرية به عموماً. وقال الموقعون على الرسالة إن "في حوزة شركات الذكاء الاصطناعي معلومات كبيرة غير متاحة للعامة حول قدرات أنظمتها والقيود المفروضة عليها، ومدى كفاءة تدابير الحماية الخاصة بها، ومستويات أخطار أنواع مختلفة من الأضرار، ومع ذلك، ليس لديهم حالياً سوى التزامات محدودة بمشاركة بعض هذه المعلومات مع الحكومات، وليس مع المجتمع المدني. ولا نعتقد أنه يمكن الاعتماد عليها لمشاركة هذه المعلومات طوعاً"، وفق ما نقلته صحيفة نيويورك تايمز.

ودعوا إلى توفير حماية أكبر للموظفين في شركات الذكاء الاصطناعي المتقدمة الذين يقررون التعبير عن مخاوفهم المتعلقة بالسلامة. وطالبوا بالالتزام بأربعة مبادئ حول الشفافية والمساءلة، إذ اعتمدت شركات مثل "أوبن إيه آي" تكتيكات عدوانية لمنع الموظفين من التحدّث بحرية عن عملهم، وذكر موقع Vox أخيراً أنها طلبت من الموظفين الذين يغادرونها التوقيع على مستندات تجبرهم على عدم الإفصاح عن أي من تفاصيل عملهم وإلا سيخسرون مكتسباتهم. واعتذر الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان، بعدما نشر موقع Vox الخبر، وقال إنه سيغير القواعد المتبعة في الشركة.

وأطلقت الرسالة بعد استقالة اثنين من كبار موظفي "أوبن إيه آي" الشهر الماضي، احتجاجاً على توجه الشركة نحو إطلاق "منتجات براقة" على حساب ثقافة السلامة التي يفترض أن تحافظ عليها.

وسط الانتقادات الحادة، أعلنت "أوبن إيه آي" أنها تعين المزيد من مهندسي الأمن وتسعى لزيادة الشفافية حول نهجها في تأمين الأنظمة التي تدعم أبحاثها. والأسبوع الماضي، قال الموظف السابق في "أوبن إيه آي"، ليوبولد أشنبرينر، إنه كتب مذكرة إلى مجلس إدارة الشركة العام الماضي، لأنه شعر أن أمنها كان "غير كاف بشكل فاضح" لمنع حكومة أجنبية من السيطرة على تكنولوجيتها عن طريق القرصنة. وأشار الباحثون الأمنيون أيضاً إلى أن برامج الدردشة الآلية معرضة لهجمات "الحقن الفوري" (prompt injection)، إذ يمكن للقراصنة اقتحام نظام الكمبيوتر الخاص بالشركة من خلال برامج محادثة آلية متصلة بقواعد بياناتها الداخلية. تحظر بعض الشركات أيضاً على موظفيها استخدام "تشات جي بي تي" خوفاً من عجز "أوبن إيه آي" عن حماية المعلومات الحساسة التي يتم إدخالها في برنامج الدردشة الآلي الخاص بها.

تكنولوجيا

التحديثات الحية

جين-سون هوانغ: مليارات الذكاء الاصطناعي في جيب رجل واحد

ووفقاً لصحيفة واشنطن بوست، فإن ناكاسوني ينضم إلى مجلس إدارة "أوبن إيه آي" بعد تغيير جذري فيه. فوسط بيئة تنظيمية أكثر صرامة وجهود متزايدة لرقمنة الخدمات الحكومية والعسكرية، تبحث شركات التكنولوجيا بحثاً متزايداً عن أعضاء مجالس إدارة من ذوي الخبرة العسكرية. ويضم مثلاً مجلس إدارة شركة أمازون كيث ألكسندر، الذي كان في السابق قائد "القيادة السيبرانية" الأميركية ومدير وكالة الأمن القومي. ولدى شركة "غوغل" قسم تطلق عليه اسم "القطاع العام الخاص بغوغل" (Google Public Sector)، وهو يركز على بيع الخدمات السحابية للحكومات، ويضم أيضاً جنرالات متقاعدين في مجلس إدارته.

حتى يناير/ كانون الثاني، فرضت شركة أوبن إيه آي حظراً على استخدام تقنياتها للأغراض "العسكرية والحربية"، لكنها أعلنت لاحقاً رفع هذا الحظر، "للسماح بالاستخدامات العسكرية التي تتماشى مع قيمها"، بما في ذلك الإغاثة في حالات الكوارث ودعم المحاربين القدامى. وقالت المتحدثة باسم الشركة، ليز بورجوا، لـ"واشنطن بوست": "لقد حظرت سياساتنا باستمرار استخدام أدواتنا، بما في ذلك واجهة برمجة التطبيقات API الخاصة بنا وتشات جي بي تي من أجل تطوير الأسلحة أو استخدامها أو استهداف الآخرين أو تدمير الممتلكات. هذا لم يتغير"، بينما لم يستجب ناكاسوني لطلب التعليق حول المسألة نفسها، وفقاً لما أشارت إليه الصحيفة الأميركية.

وفي سياق متصل، ذكر موقع ذي إنفورميشن المتخصص في أخبار التكنولوجيا، السبت، أن الرئيس التنفيذي لـ"أوبن إيه آي"، سام ألتمان أخبر بعض المساهمين بأن الشركة تدرس تغيير هيكل إدارتها إلى شركة ربحية غير خاضعة لسيطرة مجلس إدارة "أوبن إيه آي" غير الهادفة للربح. وأضاف تقرير "ذي إنفورميشن"، نقلاً عن مصدر مطلع، أن ألتمان قال الجمعة إن أحد السيناريوهات التي يدرسها مجلس الإدارة هو إنشاء شركة ربحية تستخدمها شركات منافسة مثل "أنثروبيك" و"إكس. إيه آي"، والأخيرة يملكها الملياردير الأميركي إيلون ماسك الذي كان قد شارك في تأسيس "أوبن إيه آي".

الثلاثاء الماضي، سحب ماسك الدعوى القضائية التي رفعها ضد شركة أوبن إيه آي ورئيسها سام ألتمان، لاعتباره أنها "انتهكت" عقدها التأسيسي الذي يشير إلى أنها شركة غير ربحية. وقدّم مورغان تشو، أحد وكلاء الدفاع عن ماسك، وثيقة تتضمّن طلباً بسحب الدعوى لدى محكمة في سان فرانسيسكو تابعة للمحكمة العليا في كاليفورنيا. ولم يحدد الدفاع في الوثيقة أسباب وقف الملاحقات التي انطلقت في نهاية فبراير/ شباط الفائت.

كان ماسك اتهم سام ألتمان وغريغ بروكمان، اللذين شاركا معه في تأسيس "أوبن إيه آي" عام 2015، بأنهما "انتهكا" العقد التأسيسي للشركة. وكانت الأخيرة قد تأسّست على أنها غير ربحية وترمي إلى العمل من أجل خير البشرية وعلى برامج للذكاء الاصطناعي "مفتوحة المصدر" (مُتاحة وقابلة للتعديل والاستخدام وإعادة التوزيع). لكن خلافاً لهذه الأهداف، لم تنشر الشركة الكود الخاص ببرنامجها GPT4 الذي يتضمّن كمية هائلة من البيانات تتيح لروبوت الدردشة "تشات جي بي تي" الإجابة عن الأسئلة المطروحة عليه بلغة يومية. وفي الدعوى التي رفعها إيلون ماسك في نهاية فبراير، ندّد أيضاً بالاتفاقية بين "أوبن إيه آي" و"مايكروسوفت".