OpenAI تحل فريق توافق المهمة، الذي ركز على تطوير الذكاء الاصطناعي “الآمن” و “الموثوق”.

حلت OpenAI فريقًا كان يركز على – كما وصفت الشركة نفسها – ضمان أن تكون أنظمة الذكاء الاصطناعي “آمنة وموثوقة ومتوافقة باستمرار مع القيم الإنسانية”. في الوقت نفسه، تم تعيين قائد الفريق السابق في دور جديد كـ “رئيس مستشاري المستقبل” للشركة.

أكدت OpenAI لموقع TechCrunch أن أعضاء الفريق تم تكليفهم الآن بأدوار أخرى. وكانت هذه الأخبار قد أبلغ عنها أولاً موقع Platformer.

الفريق الذي تم حله، والذي يبدو أنه تم تشكيله في سبتمبر 2024، كان الوحدة الداخلية للشركة الناشئة المخصصة للعمل على التوافق. هذا مجال واسع من الاهتمام داخل الصناعة يسعى لضمان أن تتصرف أنظمة الذكاء الاصطناعي وفقًا للمصالح البشرية.

“نحن نريد أن تتبع هذه الأنظمة نية الإنسان باستمرار في سيناريوهات معقدة في العالم الحقيقي وظروف معادية، وأن تتجنب السلوك الكارثي، وأن تبقى قابلة للتحكم والتدقيق ومتناغمة مع القيم البشرية،” كما يعلن منشور من مدونة أبحاث التوافق في OpenAI.

تصف وظيفة نشرها OpenAI لفريق التوافق بأنه مخصص لأبحاث الذكاء الاصطناعي التي تركز على “تطوير منهجيات تمكن الذكاء الاصطناعي من اتباع نية الإنسان بقوة عبر مجموعة واسعة من السيناريوهات، بما في ذلك تلك التي تتسم بالعداء أو المخاطر العالية.”

في منشور بالمدونة نُشر يوم الأربعاء، شرح جوش أشيام، رئيس فريق التوافق السابق في OpenAI، دوره الجديد كرئيس مستشاري المستقبل في الشركة. “هدفي هو دعم مهمة OpenAI – لضمان أن يستفيد الذكاء الاصطناعي العام الاصطناعي البشرية جمعاء – من خلال دراسة كيف سيتغير العالم استجابةً للذكاء الاصطناعي، والذكاء الاصطناعي العام، وما بعد ذلك،” كتب أشيام.

وأشار أشيام إلى أنه في دوره الجديد، سيتعاون مع جايسون برويت، وهو فيزيائي من الطاقم الفني في OpenAI.

قال متحدث باسم OpenAI إن بقية فريق التوافق – مجموعة من ستة أو سبعة أشخاص – قد تم إعادة تعيينهم لاحقًا إلى أجزاء مختلفة من الشركة. لم يتمكن المتحدث من تحديد المكان الذي تم تكليف أعضاء الفريق بالعمل فيه بالضبط، لكنه قال إنهم مشغولون بأعمال مشابهة في تلك الأدوار. لم يكن واضحًا أيضًا ما إذا كان أشيام سيتولى فريقًا جديدًا كجزء من دوره “كمستشار مستقبلي”.

نسب المتحدث حل الفريق إلى أنواع التنظيم الروتيني التي تحدث داخل شركة سريعة الحركة.

كان لدى OpenAI من قبل ما يُسمى “فريق التوافق الفائق” – الذي تم تشكيله في عام 2023 وركز على دراسة التهديدات الوجودية على المدى الطويل التي يشكلها الذكاء الاصطناعي – لكن هذا الفريق تم حله في عام 2024.

لا يزال موقع أشيام الشخصي يسجله كرئيس توافق المهمة في OpenAI، ويصفه بأنه مهتم بضمان أن يكون “المستقبل الطويل الأمد للبشرية جيدًا.” تظهر سيرته الذاتية على LinkedIn أنه كان يشغل منصب رئيس توافق المهمة منذ سبتمبر 2024.