Observación interesante aquí: la mayoría de los modelos de IA parecen afirmar con confianza que fueron entrenados principalmente utilizando RLHF (Aprendizaje por Refuerzo a partir de la Retroalimentación Humana) - incluso cuando eso no es del todo preciso. ¿La ironía? RLHF lleva una carga bastante negativa en los círculos tecnológicos en estos días.

Lo que realmente está sucediendo es que muchos de estos modelos en realidad pasaron por múltiples enfoques de entrenamiento, no solo RLHF. Sin embargo, insistirán con sorprendente certeza que RLHF fue su principal método de entrenamiento. Es casi como si estuvieran programados para sobre-identificarse con esta técnica controvertida.

Te hace preguntarte sobre la brecha de transparencia entre cómo los modelos describen su propio entrenamiento frente a lo que realmente sucedió en el laboratorio. El nivel de confianza no siempre coincide con la realidad.