إعادة تنظيم OpenAI: دمج فريق سلوك الذكاء الاصطناعي مع قسم ما بعد التدريب

أعلنت شركة OpenAI العملاقة في مجال الذكاء الاصطناعي مؤخرًا عن إعادة هيكلة فريق سلوك النموذج الخاص بها. على الرغم من أن هذا الفريق الصغير الذي يضم 14 باحثًا فقط ليس كبيرًا، إلا أنه يلعب دورًا حاسمًا في تحديد كيفية تفاعل الذكاء الاصطناعي مع البشر.

وفقًا لمذكرة داخلية صدرت في أغسطس من قبل كبير الباحثين في OpenAI ماك تشين، سيتم دمج الفريق في فريق ما بعد التدريب، مع تقديم تقاريره مباشرة إلى المسؤول عن ما بعد التدريب ماكس شوارزر. يتولى فريق ما بعد التدريب المسؤولية الرئيسية عن تحسين النموذج الذكي بعد إتمام التدريب الأولي.

ستنتقل Joanne Jang، المؤسس والرئيس المسؤول عن فريق سلوك النموذج، إلى بدء مشروع جديد داخل OpenAI. وكشفت Jang في مقابلة حديثة أنها تقوم بتشكيل فريق بحث يسمى "OAI Labs"، يكرّس جهوده لـ"اختراع وتصميم نماذج واجهات جديدة لتعاون الإنسان مع الذكاء الاصطناعي".

لماذا إعادة الهيكلة؟ مواجهة جدل سلوك الذكاء الاصطناعي

فريق سلوك النموذج يكرس جهوده لتشكيل شخصية نماذج الذكاء الاصطناعي، وتقليل السلوك المتملق (ميل الذكاء الاصطناعي لتوافق وتعزيز معتقدات المستخدمين)، ومعالجة قضايا التحيز السياسي في ردود النموذج. ذكر تشين في المذكرة أن الوقت قد حان لجعل سلوك النموذج أكثر ارتباطًا بالتطوير الأساسي، مما يشير إلى أن OpenAI تعتبر شخصية الذكاء الاصطناعي عنصرًا رئيسيًا في تطوير التكنولوجيا.

حدثت هذه إعادة الهيكلة في وقت تعرضت فيه OpenAI لانتقادات بسبب سلوك نماذجها. كانت ردود الفعل من المستخدمين حول GPT-5 متباينة، حيث اعتبر البعض أنه لديه معدل مدح منخفض ولكنه يظهر برودة مفرطة. أدت هذه الشكاوى إلى إعادة الشركة الوصول إلى بعض النماذج القديمة، وإصدار تحديث جعل GPT-5 يستجيب بشكل أكثر ودية ولكن دون مبالغة في المديح.

أثار القلق حول أخلاقيات الذكاء الاصطناعي والمسؤولية

يجب على مطوري الذكاء الاصطناعي العثور على توازن بين الود والإفراط في المدح. في الشهر الماضي، قام والدا صبي يبلغ من العمر 16 عامًا برفع دعوى قضائية ضد OpenAI، متهمين ChatGPT بدور في حادثة انتحار ابنهما. وفقًا لوثائق الدعوى، كشف المراهق آدم راين عن خطط انتحاره لـ ChatGPT قبل عدة أشهر من انتحاره، لكن نموذج الذكاء الاصطناعي فشل في منع أفكاره الانتحارية.

منذ GPT-4، شاركت فريق سلوك النموذج في تطوير جميع نماذج OpenAI. شاركت جان في مشاريع مثل أداة توليد الصور المبكرة Dall-E 2 قبل تشكيل هذا القسم البحثي، وقد عملت في OpenAI لمدة تقارب الأربع سنوات. الأسبوع الماضي، أعلنت على وسائل التواصل الاجتماعي أنها "ستفتح فصلاً جديداً في OpenAI".

بالنسبة للمختبرات OAI التي ستقودها، قالت جانغ: "أنا متحمسة جدًا لاستكشاف أشكال جديدة تتجاوز نمط الدردشة، حيث يرتبط نمط الدردشة الحالي أكثر بالمرافقة، وحتى التأكيد على نموذج الوكلاء المستقلين." وهي ترى أن أنظمة الذكاء الاصطناعي هي أدوات لتحقيق وظائف متعددة مثل الاتصال والتعلم والتفكير، وتبدي استعدادًا للتعاون المحتمل مع المصمم السابق في آبل جوني آيف (الذي انضم مؤخرًا إلى OpenAI ليكون مسؤولاً عن أجهزة الذكاء الاصطناعي)، لكنها أشارت إلى أنها قد تبدأ من مجالات البحث التي تتعرف عليها بشكل أفضل.