Las imágenes fabricadas con IA se difunden sin control: las plataformas actúan demasiado tarde y los matemáticos advierten de la dependencia de la tecnología
Una imagen fabricada con IA de la actriz Mia Goth se difundió de forma viral en Instagram sin que la plataforma interviniera, un ejemplo elocuente de cómo la responsabilidad se queda rezagada frente a la tecnología. Al mismo tiempo, destacados matemáticos occidentales, entre ellos los medallistas Fields Terence Tao y Peter Scholze, advierten de que las demostraciones generadas por IA erosionan la capacidad de pensamiento matemático independiente. La historia de lo que ocurre cuando nadie toma el timón.
Cuando la imagen engaña y nadie la detiene
Todo empezó con una camiseta. Una imagen fabricada —creada con IA— que representaba a la actriz Mia Goth se difundió de forma viral en Instagram la semana pasada. La imagen mostraba a una mujer con una camiseta con un mensaje que aludía al divorcio en curso de Goth. El problema: la persona de la imagen no existía. Era una creación de un ordenador, no una fotografía.
Goth reaccionó públicamente y describió como incomprensible que Instagram permitiera que la imagen circulara libremente sin intervenir, informa The Verge. Y es difícil no estar de acuerdo. Ya no hablamos de gráficos borrosos que se delatan a sí mismos: las imágenes sintéticas de hoy son lo bastante convincentes como para engañar a un desplazamiento rápido por el flujo de contenidos.
El caso está lejos de ser único. Situaciones similares han afectado a políticos, músicos y actores en todo el mundo. Pero lo que hace interesante el caso de Goth desde una perspectiva sistémica no es la imagen en sí, sino la ausencia de medidas correctoras. Las plataformas han tenido años para desarrollar sistemas sólidos que identifiquen y etiqueten el contenido generado por IA. Aun así, la reacción sigue siendo más reactiva que preventiva.
Es un problema de infraestructura tanto como un problema ético. Las herramientas para crear imágenes sintéticas son hoy muy accesibles y baratas. Las herramientas para detectarlas van por detrás. Y los incentivos de las plataformas para actuar con rapidez son, cuando menos, poco claros.
El conflicto interno de los matemáticos
Pero la preocupación por la IA no se limita a lo que la tecnología puede fabricar, sino también a lo que puede atrofiar. En Occidente se desarrolla en este momento un debate inusualmente sincero en un campo inesperado: las matemáticas.
Veinticinco medallistas Fields, entre ellos Terence Tao y Peter Scholze —es decir, algunas de las mentes matemáticas más agudas del mundo— han expresado una seria preocupación por que las demostraciones generadas automáticamente erosionen la comprensión profunda y creen una dependencia de herramientas que los investigadores no pueden seguir ni verificar por completo, informa The Decoder. Sectores de la comunidad investigadora debaten ahora un boicot declarado contra las demostraciones generadas por IA en las revistas científicas.
Es una postura que invita a reflexionar. No son ludditas hostiles a la tecnología: son precisamente las personas que más tienen que ganar con herramientas de cálculo potentes. Aun así, ven un riesgo en permitir que la IA asuma razonamientos que no pueden seguir paso a paso. Las matemáticas son, por naturaleza, un oficio en el que el proceso es la comprensión. Saltar a la respuesta sin entender el camino socava todo el sentido.
China tira en la dirección contraria
Mientras tanto, en Pekín, este fin de semana se presentó la "Yau Laboratory Alliance for Mathematics and Artificial Intelligence", una alianza que reúne a ocho instituciones bajo la dirección del medallista Fields Shing-Tung Yau. El objetivo es una red de más de mil investigadores y una integración activa de la IA en la investigación matemática. Yau advirtió explícitamente de que China corre el riesgo de quedarse atrás frente a Estados Unidos si no toma la delantera, escribe The Decoder.
La apuesta china se centra en desarrollar modelos especializados, demostraciones verificables por máquina y cadenas de razonamiento más transparentes dentro de la IA. Es ambicioso y estratégicamente bien pensado, y contrasta de forma marcada con la reticencia que caracteriza a la comunidad investigadora occidental en este momento.
Aquí se aprecia una dinámica geopolítica que merece tomarse en serio. Occidente se debate entre cuestiones éticas y discusiones internas —algo legítimo e importante—, mientras China opta por construir. Esto no es un argumento para que Occidente deje de plantear preguntas críticas. Pero sí es un argumento para que las respuestas lleguen más rápido.
Tres acontecimientos, un hilo conductor
¿Qué une la imagen de Mia Goth, el desconcierto en las matemáticas y la alianza de investigación china? Todos ilustran la misma tensión fundamental: la tecnología de IA avanza más deprisa que las instituciones y normas encargadas de gestionarla.
Las plataformas no logran construir mecanismos de protección suficientes. Las comunidades científicas no consiguen acordar reglas de juego comunes. Y los actores geopolíticos aprovechan el vacío que surge cuando Occidente se detiene a reflexionar.
La reflexión es necesaria. Pero debe combinarse con la acción.