El lado oscuro de la IA: Mi viaje a través del inframundo de deepfake de Telegram

He pasado semanas sumergiéndome en las turbias aguas de los bots de Telegram impulsados por IA, y lo que he descubierto es francamente perturbador. La tecnología que promete revolucionar las industrias tiene un lado siniestro del que pocos están hablando.

Dejemos de lado las tonterías sobre los "top 5" proyectos - quiero centrarme en DeepFakeAI, que se está comercializando como una revolución de la combinación de "blockchain, IA y construcción de comunidad." Lo que realmente están vendiendo es una herramienta inquietantemente accesible para crear videos falsos de personas reales diciendo y haciendo cosas que nunca hicieron.

Probé uno de estos bots yo mismo. Con solo unas pocas imágenes y algo de texto, creé un video de mi colega "anunciando" su renuncia - todo en menos de cinco minutos. La calidad era aterradoramente buena. No se requiere conocimiento técnico. Solo apunta, haz clic y viola la identidad digital de alguien.

Los materiales promocionales pasan por alto la pesadilla ética que esto crea. Están emocionados por "modulaciones de voz realistas" y "sincronización de labios" pero ignoran convenientemente lo fácil que esta tecnología podría ser utilizada como arma para pornografía de venganza, manipulación política o sabotaje corporativo.

Y no me hagas empezar con la economía de los tokens. Cada transacción "activa un evento de quema de tokens, lo que puede apoyar los precios a largo plazo." Traducción: han gamificado la impersonación digital y están obteniendo ganancias a partir de ello a través de su token nativo. Es explotación disfrazada de blockchain.

Mientras que otros proyectos como Fetch AI y SingularityNET pueden tener casos de uso legítimos, la normalización de la tecnología deepfake a través de bots de Telegram amigables para el usuario presenta una amenaza inmediata que la comunidad cripto parece estar demasiado dispuesta a ignorar.

Lo que más preocupa es lo casual con que se están comercializando estas herramientas: no se menciona de manera seria las salvaguardias, los mecanismos de consentimiento o los sistemas de verificación. Solo "¡crea deepfakes con poco conocimiento técnico!" como si eso fuera algo que celebrar.

El artículo menciona que estos proyectos "permiten a los usuarios abordar problemas del mundo real" - pero, ¿qué pasa con los problemas del mundo real que están creando? No son solo herramientas; son armas potenciales en la creciente guerra de información. He visto servidores de Discord donde los adolescentes comparten consejos sobre cómo crear deepfakes de compañeros de clase. Este ya no es un daño teórico.

La tecnología en sí misma no es inherentemente mala, pero el despliegue casual con motivos de lucro por delante de consideraciones éticas es un desastre que está a punto de ocurrir. Necesitamos una regulación seria aquí, no más especulación impulsada por tokens.