Reestructuración de OpenAI: el equipo de comportamiento de IA se fusiona con el departamento de posentrenamiento.

El gigante de la inteligencia artificial OpenAI anunció recientemente la reestructuración de su equipo de comportamiento de modelos. Aunque este pequeño equipo de solo 14 investigadores no es muy grande, desempeña un papel crucial en la determinación de cómo la IA interactúa con los humanos.

Según un memorando interno publicado en agosto por Mak Chen, director de investigación de OpenAI, el equipo será integrado en el equipo de post-entrenamiento y reportará directamente al responsable de post-entrenamiento, Max Schwarzer. El equipo de post-entrenamiento es principalmente responsable de optimizar aún más el modelo de IA después de que se complete el preentrenamiento inicial.

La fundadora y líder del equipo de comportamiento del modelo, Joanne Jang, pasará a iniciar un nuevo proyecto dentro de OpenAI. Jang reveló en una reciente entrevista que está formando un equipo de investigación llamado "OAI Labs", dedicado a "inventar y diseñar nuevos prototipos de interfaz para la colaboración entre humanos y AI".

¿Por qué reestructurar? Abordar las controversias sobre el comportamiento de la IA

El equipo de comportamiento del modelo ha estado trabajando para dar forma a la personalidad de los modelos de IA, reducir el comportamiento de adulación (la tendencia de la IA a simplemente coincidir y reforzar las creencias del usuario) y abordar el problema del sesgo político en las respuestas del modelo. Chen indicó en el memorando que ahora es el mejor momento para integrar más estrechamente el comportamiento del modelo con el desarrollo central, lo que indica que OpenAI ha considerado la personalidad de la IA como un elemento clave en el desarrollo tecnológico.

Esta reestructuración ocurre en un momento en que OpenAI está siendo criticada por el comportamiento de sus modelos. Los comentarios de los usuarios sobre GPT-5 son mixtos; algunos creen que tiene una tasa de adulación más baja pero parece demasiado distante. Estas quejas llevaron a la empresa a restaurar el acceso a algunos modelos antiguos y a lanzar una actualización que hace que GPT-5 responda de manera más amigable pero sin ser excesivamente adulador.

La ética de la IA y la responsabilidad generan preocupaciones

Los desarrolladores de IA deben encontrar un equilibrio entre la amabilidad y la adulación excesiva. El mes pasado, los padres de un niño de 16 años demandaron a OpenAI, acusando a ChatGPT de haber desempeñado un papel en el suicidio de su hijo. Según los documentos de la demanda, el joven Adam Raines reveló su plan de suicidio a ChatGPT unos meses antes de quitarse la vida, pero el modelo de IA no logró detener sus pensamientos suicidas.

Desde GPT-4, el equipo de comportamiento del modelo ha estado involucrado en el desarrollo de todos los modelos de OpenAI. Jang, antes de formar este departamento de investigación, participó en proyectos como la herramienta de generación de imágenes Dall-E 2. Ha trabajado en OpenAI durante aproximadamente cuatro años. La semana pasada, anunció en las redes sociales que "comenzará un nuevo capítulo en OpenAI".

Sobre el próximo liderazgo del laboratorio OAI, Jang declaró: "Estoy muy emocionada de explorar algunas formas que van más allá de los modos de chat, el modo de chat actual está más relacionado con la compañía, e incluso enfatiza el modo de agente autónomo." Ella ve los sistemas de IA como herramientas para realizar múltiples funciones como conectar, aprender y pensar, y mantiene una actitud abierta hacia una posible colaboración con el ex director de diseño de Apple, Jony Ive (quien se unió recientemente a OpenAI para encargarse de dispositivos de hardware de IA), pero mencionó que podría comenzar desde un área de investigación con la que esté más familiarizada.