Ni salvador ni engaño – así es la verdadera capacidad de la IA
El debate sobre IA se ha enquistado en dos trincheras: o bien la tecnología es la salvación de la humanidad, o bien es una máquina de engaño sofisticada. Pero la realidad es más matizada – y más interesante. Tres noticias actuales muestran exactamente dónde se encuentra la IA en este momento: potente en áreas acotadas, limitada en otras, y todavía en gran necesidad de un escrutinio riguroso.
Las trincheras ya no sirven
DI Digital publicó recientemente un artículo de debate que acierta de lleno: el debate sobre IA ha adquirido la misma forma polarizada que la política. Por un flanco, el consejero delegado de Nvidia Jensen Huang y el presidente de OpenAI Greg Brockman afirman que ya vivimos en la "era de la AGI". Por el otro están investigadores como Gary Marcus y Andrej Karpathy, que sostienen que tal avance está como mínimo una década lejos.
Cuatro personas con profunda pericia – conclusiones fundamentalmente distintas. Y fuera de la industria, la brecha es todavía mayor: o bien la IA pronto hará redundante gran parte del trabajo humano, o bien todo el movimiento es una burbuja de inversión construida sobre relleno de texto avanzado.
Como desarrollador de sistemas que trabaja prácticamente con estas herramientas cada día, quiero decirlo sin rodeos: ambos bandos están equivocados. Y lo peligroso no es que se equivoquen en los hechos – lo peligroso es que sus gritos acaparan tanto oxígeno que es difícil ver qué está sucediendo realmente.
Lo que la tecnología realmente logra – un ejemplo concreto
Tomemos Saaras V4, que la empresa india de IA Sarvam AI lanzó recientemente según MarkTechPost. Es un modelo de reconocimiento de voz que gestiona los 22 idiomas oficiales de India más inglés con un amplio espectro de acentos de todo el mundo.
No es AGI. Tampoco es un engaño.
Es un problema concreto y específico resuelto de manera impresionante. India tiene más de 1.400 millones de habitantes y una diversidad lingüística que convierte a Suecia – con nuestros dialectos en apuros – en un problema trivial. Construir un modelo que gestione desde hindi hasta tamil, telugu y manipuri en tiempo real, con soporte para terminología especializada mediante sugerencias de palabras clave y cinco modos de salida diferentes, es un avance tecnológico genuino para cientos de millones de personas.
El nivel de precio – 30 rupias por hora, aproximadamente tres coronas suecas – la hace además accesible de una manera que los sistemas anteriores nunca fueron. Es IA que democratiza el acceso a la tecnología, no IA que sustituya el pensamiento humano.
Una aclaración importante: todos los datos de desempeño hasta ahora son únicamente reportados por el proveedor y no han sido verificados de forma independiente. Es un recordatorio de que el entusiasmo y el escrutinio deben ir de la mano.
Pero necesitamos saber dónde fallan los modelos
Y eso me lleva a la tercera noticia, que quizá sea la menos glamurosa pero en muchos sentidos la más importante para quien realmente construye sistemas de IA.
AugLy, la biblioteca de Meta para el aumento de datos, es destacada por MarkTechPost como un marco estructurado para probar cómo los modelos de IA se desempeñan bajo perturbaciones – en imagen, texto y audio. Se puede, por ejemplo, someter un modelo de reconocimiento basado en imágenes a distorsiones sistemáticas, o probar un clasificador de texto contra ataques adversarios como errores tipográficos, caracteres invisibles y disfraces Unicode.
Los resultados muestran claramente qué tipos de transformaciones rompen los modelos. Y es precisamente esa comprensión la que falta en el gran debate.
Cuando Jensen Huang dice que la AGI ya está aquí y Gary Marcus responde que es una tontería – hablan pasándose el uno al otro porque ninguno de los dos especifica qué hacen los modelos realmente bajo qué condiciones exactas. La metodología de AugLy fuerza esa pregunta. La integración con PyTorch permite que las pruebas de robustez ocurran como parte del proceso de entrenamiento, con trazabilidad completa para cada paso de transformación.
Es ese tipo de disciplina la que eleva la IA de un reclamo de marketing a una ingeniería.
Una pregunta más productiva
En lugar de preguntarse "¿es la IA magia o engaño?", deberíamos preguntar: ¿Qué problema resuelve este modelo, bajo qué condiciones, y cómo sabemos que aguanta cuando la realidad es más desordenada que los datos de entrenamiento?
Saaras V4 responde a una pregunta concreta – y el nivel de precio sugiere que la respuesta puede llegar a quienes más la necesitan. AugLy nos da las herramientas para hacer las preguntas de seguimiento difíciles. Y el artículo de debate de DI Digital nos recuerda que las trincheras no llevan a ninguna parte.
No es un mensaje pesimista. Al contrario – un debate más realista sobre lo que la IA realmente es capaz de hacer es la condición previa para que la tecnología pueda marcar una verdadera diferencia.