MIT: No hay que temer al apocalipsis de la IA La capacidad de verificación es un recurso escaso

来源：Bankless 播客；整理：Felix, PANews

El economista del MIT, Christian Catalini, fue invitado al programa de Ryan y David para profundizar en su nuevo artículo “Una economía simple de la inteligencia artificial general”. El artículo señala que el recurso escaso en la economía de la IA ya no es la inteligencia, sino la verificación: es decir, la capacidad humana de revisar, juzgar y confirmar la corrección de las salidas de la IA.

Christian explicó detalladamente las dos curvas de costo que están remodelando diversas industrias (costo de automatización y costo de verificación), y por qué los trabajos de entrada desaparecen primero, así como por qué incluso los mejores expertos, sin darse cuenta, están formando a sus sucesores (“la maldición del programador”). También describió tres roles que se conservarán durante la transformación: directores, creadores de significado y aseguradores de responsabilidad.

PANews ha recopilado lo más destacado de la conversación.

Presentador: Creo que muchos oyentes, al igual que yo, sienten algo de pánico respecto a la IA. ¿Por qué crees que la gente está preocupada por la IA? ¿Son razonables sus preocupaciones?

Christian: Todos sentimos lo mismo. Este es un período de cambios rápidos y transformadores; cuanto más cerca estés del código, más pronto podrás atestiguar esta aceleración, este crecimiento exponencial que se ha vuelto muy real en los últimos meses. Esta tecnología ha logrado cosas que muchos pensaban que llevarían más tiempo. Esa sensación es algo con lo que todos estamos intentando lidiar. Pero creo que el “apocalipsis” es erróneo; la gente tiende a subestimar el potencial que estas herramientas traen consigo. Sí, habrá un período de transición extremadamente difícil, y la velocidad del cambio laboral es sin precedentes en la historia. Sin embargo, si aprovechas al máximo las características de esta tecnología y te inviertes en ella, a largo plazo, los beneficios superarán los inconvenientes, aunque el camino será accidentado. La economía ve el trabajo como un conjunto de tareas, algunas de las cuales serán automatizadas, lo cual es una buena noticia. Pero la clave es cómo te reentrenas y te mantienes en la vanguardia.

Presentador: ¿Quién crees que será el primero en verse afectado?

Christian: Esa es una pregunta excelente, y tengo muchas ideas diferentes al respecto. Primero, cuando digo que quienes están más cerca del código serán los primeros en verse afectados, me refiero a que ellos serán los primeros en experimentar cuán poderosa es esta tecnología. Como revela la “paradoja de Jevons”, cuando algo se vuelve más eficiente, terminamos consumiendo más, como cuando escribimos más software. Creo que la programación se diversificará como muchas otras profesiones, lo que en nuestro artículo llamamos el “ciclo inicial en desaparición”. Si eres un principiante y no has adquirido el “conocimiento tácito” para distinguir entre productos sobresalientes y mediocres, la IA puede reemplazarte bien en varios campos.

Ahora cualquiera puede obtener fácilmente un comercializador bastante bueno, un programador junior, o un abogado que puede manejar la mayoría de las situaciones; solo necesitas involucrar a un abogado de primer nivel para la verificación final. Por otro lado, incluso los mejores expertos, durante la introducción de la IA, están creando etiquetas, información y huellas digitales, de forma intencionada o no, que eventualmente llevarán a la automatización de su propio trabajo. Los mejores laboratorios están contratando a los mejores talentos en campos como las finanzas para usar su conocimiento en la creación de estándares de evaluación, incorporando ese conocimiento especializado en grandes modelos. Así que creo que ningún trabajo único es 100% seguro; incluso el trabajo físico, limitado por las capacidades de fabricación robótica, verá un avance significativo en los modelos de recompensa en los próximos años. Cualquier cosa que ocurra frente a una pantalla puede ser rastreada, replicada y aprendida. La clave para cada profesión es preguntarse: si delego tanto trabajo como sea posible a la IA, ¿dónde más puedo agregar valor?

De hecho, hay mucho “autoengaño” en torno a “gusto” y “juicio”. Son conceptos muy vagos. Así que en el artículo decimos: no hay tal cosa como gusto o juicio bueno o malo, solo una distinción entre “medible” y “no medible”. Si algo ya ha sido medido, la máquina puede replicarlo. Si algo aún solo está incrustado en los pesos de tu cerebro, como un diseñador de primer nivel que ha acumulado miles de horas de experiencia y puede decidir qué publicar y qué no, eso es lo que llamamos “verificación”. Toda verificación es este último paso: el agente de IA crea un producto, y tú, como decisor, juzgas si cumple con los estándares para ser lanzado al mercado. A medida que las máquinas obtengan mejores datos, las cosas serán automatizadas; pero en áreas desconocidas, o donde no hay datos en absoluto, esa parte seguirá perteneciendo a los humanos en los próximos años.

Presentador: Esta es una percepción muy profunda. Pero también estoy pensando que es natural que los ingenieros automaticen su trabajo. ¿El impacto es el mismo en todas las industrias?

Christian: Tenemos suficiente evidencia para demostrar que el cambio será desigual. Puedes pensar en ello así: ¿es este trabajo simplemente un “empaquetado” de algo que la sociedad no necesita realmente? Por ejemplo, el trabajo de consultoría genérica, si se trata principalmente de reempaquetar, refinar y resumir información que ya está ampliamente disponible, claramente hay riesgos. Pero si se trata de aportar un conocimiento especializado escaso, o si se necesita un consultor por razones políticas, esos trabajos sobrevivirán. Pregúntate a ti mismo: ¿esta profesión es rentable porque resuelve un problema complejo, o simplemente porque existe algún tipo de limitación artificial?

Presentador: ¿Qué significa realmente la verificación? Me resulta difícil descomponer mi trabajo diario en qué partes son trabajo cognitivo y cuáles son trabajo de verificación.

Christian: Los agentes han aprendido y medido todo de la red, de libros, porque son más baratos y escalables, así que reemplazarán la parte medible. Pero lo que los agentes aún no saben: es la singularidad de los pesos de la red neuronal en tu cerebro. Eso es algo que has adquirido a través de tu propia experiencia y luchas, lo que te convierte en un experto de primer nivel. Por ejemplo, muchos de los primeros participantes en criptomonedas, muchos de ellos de Argentina, Venezuela, etc., que han vivido la hiperinflación, reaccionan de manera completamente diferente a los activos. Esa medición interna única sigue siendo una gran ventaja.

¿Qué es la verificación? Es la diferencia entre tu propio estándar de medición del mundo y el estándar que el agente posee. Como un editor de primer nivel que sabe exactamente qué artículos resonarán; o un CTO de primer nivel que, frente a un vasto repositorio de código generado por IA, sabe exactamente qué partes críticas deben ser revisadas por humanos, esas partes que aún no pueden ser medidas por máquinas.

Presentador: Déjame poner un ejemplo: si veo un video en X sobre Israel siendo bombardeado por misiles, pero descubro que es generado por IA. Uso mi cerebro para identificar el problema y podría generar un mejor video mediante nuevas indicaciones; ¿esa es mi “capacidad de verificación”?

Christian: Ese es un gran ejemplo. Más aún, podríamos pronto estar en un mundo donde, para la mayoría de las personas, es difícil distinguir entre este video y la realidad. El siguiente paso podría ser que un experto militar note que la dinámica de las llamas no es correcta. El siguiente paso, incluso los expertos militares podrían no ser capaces de discernirlo a simple vista, y necesitarían que la IA analice los principios físicos y realice pruebas de simulación. Podría llegar un momento en que no se pueda distinguir en absoluto, y en ese momento, tendremos que confiar en infraestructuras basadas en criptografía para verificar la autenticidad. En el ámbito médico también es así; los casos marginales eventualmente requerirán que los mejores radiólogos utilicen 20 años de experiencia y su conocimiento del contexto específico del paciente para contradecir el juicio de la IA. Esa es la última capa del “filtro” que nos preocupa. Cuando hacemos esto, liberamos una gran cantidad de tiempo. Así que esa es la parte positiva. Podemos hacer más con menos recursos. El costo de las cosas costosas disminuirá. La sociedad en su conjunto consumirá más de esas cosas. Creo que es una buena noticia.

Presentador: Pero en tu ejemplo, actualmente él está haciendo la verificación, pero pronto no podrá hacerlo, necesitará un comandante militar; y al final, ni siquiera el comandante podrá verificar, tendrá que recurrir a la IA. ¿No es eso una prueba de que la “verificación” tenía valor inicialmente, pero pronto también será automatizada por la IA? Entonces, ¿la “verificación” en sí misma no es segura?

Christian: Así es. En nuestro artículo lo llamamos “la maldición del programador”. Actuar de verificación, que es un acto muy racional, en sí mismo está impulsando el desarrollo de tecnologías de vanguardia y la digitalización de datos de experiencia. No podemos detenernos, porque todos los abogados o profesionales están tratando de usar IA. La verificación es, de hecho, un frente que se está encogiendo.

Presentador: ¿Incluso el campo de trabajo de la verificación final también se está reduciendo? ¿Cuándo podremos dejar de sentir ansiedad?

Christian: Primero, hay algunas cosas que son intrínsecamente no medibles, como los llamados “juegos de estatus” o las cosas que los humanos otorgan significado. Estas áreas no serán invadidas por máquinas, porque su característica se refiere a la coordinación y consenso entre humanos. Las criptomonedas son, en cierta medida, así; lo importante es que los humanos lleguen a un consenso sobre qué tiene valor. A medida que el campo del trabajo medible se reduzca, inventaremos muchas maneras de hacer que el trabajo no medible tenga significado.

Presentador: La IA puede construir un sitio web en 10 segundos, pero podría no ser capaz de escribir un tweet que capte la atención humana. ¿Podría ser eso uno de los últimos trabajos de verificación que quedan?

Christian: Captar la atención, contar un chiste verdaderamente novedoso, es un trabajo creativo extremadamente difícil, que intenta romper con lo que nunca ha sido medido. Hemos evolucionado con una gran capacidad para enfrentar entornos desconocidos a lo largo de nuestra larga lucha por la supervivencia. Las personas que se dedican a este tipo de trabajo son llamadas “creadores de significado”. Por ejemplo, en el ámbito del arte o la cultura, lo que es bueno depende del consenso humano. Incluso cuando utilizas un agente de IA, debes establecer “intención”.

Presentador: Los costos de automatización están disminuyendo exponencialmente, ¿qué pasará con los “costos de verificación”? ¿Siempre estarán sujetos a las limitaciones biológicas de los humanos?

Christian: Actualmente están sujetos a limitaciones biológicas. Así que muchas empresas publican grandes cantidades de código generado por IA, pero no hay suficiente mano de obra para leer y verificarlo, lo que inevitablemente oculta riesgos.

Presentador: ¿No se puede utilizar IA para verificar IA?

Christian: Si la IA puede verificar correctamente, esa parte en sí misma es automatizable. Después de agotar todas las verificaciones de IA, lo que queda es lo que realmente no puede ser verificado por IA, que es el cuello de botella para la intervención humana.

Presentador: Si la verificación es un nuevo recurso escaso, pero se está reduciendo constantemente, ¿cómo deberíamos trabajar e invertir en esta economía?

Christian: Hemos hecho una matriz 2x2 basada en “costos de automatización” y “costos de verificación”. La esquina inferior izquierda es para trabajadores reemplazados: la automatización es fácil, la verificación también es fácil, definitivamente no querrás quedarte aquí. Los otros tres cuadrantes son:

Creadores de significado: difícil de automatizar, difícil de verificar. Se dedican al consenso social, juegos de estatus y conexiones humanas. Por ejemplo, los creadores de estilo en la industria de la moda, los KOL de criptomonedas en Twitter, que crean narrativas y coordinan la atención.

Aseguradores de responsabilidad: fácil de automatizar, difícil de verificar. Son los mejores expertos en su campo, como los mejores abogados, médicos o capitalistas de riesgo. Utilizan IA a gran escala, pero ofrecen servicios de asunción de responsabilidad y verificación para los casos marginales finales.

Directores: difícil de automatizar, fácil de verificar. La clave es la “intención”. Ellos enfrentan lo “desconocido desconocido”, como emprendedores que dirigen agentes, establecen direcciones y sienten desviaciones, corrigiendo constantemente el rumbo.

Presentador: ¿Qué deberían hacer los jóvenes recién graduados que buscan ingresar al mercado laboral? Por un lado, hay trabajos de entrada que no tienen valor, y por otro lado, están los expertos de primer nivel que requieren diez años de experiencia en la industria. Hay un gran abismo entre ambos. Si la IA puede hacer trabajos de nivel inicial, ¿cómo pueden los jóvenes crecer hacia el otro extremo?

Christian: El abismo ciertamente existe. Pero la buena noticia es que puedes comprimir el tiempo de aprendizaje. Puedes saltarte pasos de formación tradicionales. Un ingeniero junior ahora puede hacer el trabajo que antes requería un equipo gracias a las herramientas. Aunque al principio cometan errores, como recién llegados pueden cuestionar la tradición desde una perspectiva completamente nueva, y esa es una ventaja. Pueden realizar ideas de maneras que nosotros no podríamos cuando éramos jóvenes. Hay pros y contras.

El camino del pasado: “obtener un título, encontrar una pasantía, trabajar duro para ascender”, ya no existe, lo que traerá un gran choque cultural. Esto es muy difícil para los jóvenes recién graduados. Si aún estás en la universidad, tienes tiempo para aclarar tu dirección. Si estás en una situación difícil, mi consejo es: utiliza estas herramientas para crear algo. Tu ambición debería ser 100 veces más grande que la que teníamos a esa edad.

Presentador: ¿La desaparición de una gran cantidad de trabajos “de pulsar un botón” podría causar caos en la sociedad en el corto plazo?

Christian: La sociedad siempre recreará trabajos “de pulsar un botón” cuando sea necesario para mantener la estabilidad. Pero muchas de las personas que realizan ese tipo de trabajos en realidad tienen la capacidad de hacer más; simplemente han estado limitadas por el entorno. Cuando el trabajo físico ya no es necesario, inventamos el gimnasio; ahora, frente a la liberación del trabajo intelectual, las personas desarrollarán diversas actividades secundarias y la economía de creadores para obtener un sentido de desafío. Por eso creo que la “renta básica universal (UBI)” es completamente errónea; las personas necesitan un sentido y una motivación de autorrealización. Además, incluso si ahora una gran parte de tu trabajo es reemplazada por la automatización, si utilizas bien la IA como esta superherramienta, un empleado junior recién ingresado puede producir lo que antes hacía todo un equipo.

Presentador: ¿Tienes algún consejo para las empresas y los inversores?

Christian: Para las empresas, invertir en infraestructuras de verificación, ofreciendo “responsabilidad como servicio” (es decir, no solo proporcionar agentes, sino también asumir la responsabilidad por las consecuencias). Además, dominar “fuentes de hechos exclusivas”, porque la IA es fácil de engañar; las empresas que pueden proporcionar datos reales exclusivos o evaluaciones profundas como Bloomberg tienen un gran valor. Para los inversores, además de invertir en estas áreas, enfóquense en la investigación y desarrollo en “no medible”. Los efectos de red ordinarios del pasado pueden volverse obsoletos; los nuevos efectos de red se basarán en cómo puedes hacer que tu agente sea más confiable que los demás a través de mejores retroalimentaciones reales, porque lo que la gente realmente quiere comprar es inteligencia verificada.

Presentador: ¿Es útil la tecnología de criptografía en este proceso de verificación?

Christian: La infraestructura subyacente que se ha construido en el campo de la criptografía durante la última década es crucial. Cuando necesitamos determinar la autenticidad de identidades y prevenir la toma de cuentas, tecnologías en cadena como “pruebas de personalidad” pueden proporcionar una verificación poderosa. Además, la procedencia de datos y la cadena de regulación criptográfica; necesitamos garantías criptográficas sólidas sobre la generación de información y la conformidad de los modelos.

Presentador: ¿Qué deberían hacer las personas en el próximo año? ¿Eres optimista sobre el futuro de la humanidad?

Christian: Primero, no entres en pánico. Realiza muchos experimentos y utiliza herramientas para “eliminar” y automatizar tu yo actual tanto como sea posible. Muchas exploraciones de pasatiempos hacia el futuro pueden ser las empresas más significativas. Al menos podrás identificar los límites y defectos del modelo. Para muchos creadores en línea, los pasatiempos se han convertido en carreras, y esa será la dirección principal en el futuro. Si tienes hijos, descubrir sus talentos y sumergirlos en lo que aman es lo más importante. No hay un modelo profesional fijo; las nuevas herramientas de IA pueden ayudarte mejor a encontrar el camino que solo les pertenece a ustedes.