Tres excursionistas recibieron recomendaciones de IA antes de escalar Mount Shasta — quedaron atrapados en un cañón a mitad de la noche

A las tres de la mañana — y el plan se torció rápidamente

Los tres hombres partieron en la oscuridad, a las 03:00, con un plan que según reportes se basaba en recomendaciones del servicio de IA Gemini de Google. Mount Shasta en el norte de California no es una montaña para principiantes — una ascensión requiere una planificación cuidadosa, el equipamiento adecuado y, sobre todo, una comprensión sólida de la importancia del tiempo a gran altitud.

La regla básica fundamental para ascensiones alpinas es bien conocida entre excursionistas experimentados: si no has llegado a la cumbre al mediodía como máximo, desciendes. El grupo alcanzó la cumbre a las 19:00 de la noche. Siete horas demasiado tarde.

Lo que ocurrió después se describe en un informe de la oficina del sheriff del condado de Siskiyou, y es una lectura que se queda con uno. En lugar de acampar y esperar el amanecer, los hombres intentaron descender en la oscuridad, contactaron con la oficina del sheriff para obtener orientación y terminaron atrapados en el de difícil acceso Mud Creek Canyon. A la mañana siguiente, fueron rescatados por guardabosques del servicio forestal junto con equipos de rescate voluntarios.

Gemini subestimó lo que el cuerpo necesitaba

Un detalle crucial en el curso de los eventos, que TechCrunch destaca en su reportaje, son los consejos que Gemini habría dado sobre suministros. La oficina del sheriff reporta que los excursionistas "fueron aconsejados por Gemini de llevar significativamente menos comida y agua de la que el grupo necesitaba" — una subestimación que tuvo consecuencias especialmente graves cuando la escalada planeada de ocho horas se convirtió en una aventura de varios días.

Esta es una debilidad clásica de los grandes modelos de lenguaje: están entrenados en texto, no en realidad. Un modelo de lenguaje puede reproducir consejos generales sobre cálculo de calorías o ingesta de agua en caminatas normales, pero carece de la capacidad de sopesar factores individuales como nivel de condición física, pronóstico meteorológico exacto, ganancia de elevación y retrasos imprevistos. Proporciona una respuesta que suena razonable — pero la razonabilidad y la seguridad no son lo mismo.

También vale la pena destacar lo que la oficina del sheriff señala: aún no está totalmente claro en qué medida el servicio de IA es responsable de todas las decisiones que se tomaron durante la caminata. Los hombres tomaron sus propias decisiones en el camino. Pero eso no cambia el problema fundamental — cuando un servicio de IA presenta información incorrecta o incompleta con el mismo tono de seguridad que la información correcta, se socava la capacidad del usuario de examinar críticamente los consejos.

El problema no es que la IA responda — es cómo responde

Como desarrollador de sistemas, tengo gran respeto por lo que los modelos de lenguaje modernos realmente pueden lograr. Pueden ser herramientas fantásticas para estructurar información, esbozar planes y dar una primera orientación en un tema desconocido. Pero hay una diferencia fundamental entre una herramienta de apoyo a la planificación y una fuente autoritaria.

Esa diferencia rara vez es clara en la interfaz. Gemini, ChatGPT y servicios similares se comunican con un tono que transmite seguridad y confianza — independientemente de si la respuesta está bien fundamentada o es completamente incorrecta. No es un error de diseño, es una propiedad inherente de la generación actual de tecnología. Los modelos están entrenados para producir texto fluido y coherente. La incertidumbre se comunica mal, y rara vez se ve cuando el modelo se aventura fuera de su zona de competencia.

Para contextos críticos para la seguridad — escalada de montañas, asesoramiento médico, decisiones legales — esa propiedad no es solo insuficiente. Es activamente peligrosa.

¿Qué se debe hacer?

Esto no es un argumento para desmantelar las herramientas de IA, sino para usarlas correctamente. Algunos aprendizajes concretos:

• Consulta fuentes primarias. Para una ascensión de Mount Shasta existen guardabosques, guías de montaña certificados y organizaciones establecidas con conocimiento local real.
• Trata los consejos de IA como un primer borrador, no como una respuesta definitiva — especialmente cuando los márgenes de error son bajos.
• Los desarrolladores de productos tienen una responsabilidad de comunicar más claramente las limitaciones de sus servicios, especialmente en contextos donde la información incorrecta puede causar daño físico.

El incidente de Mount Shasta es un ejemplo concreto y dramático de un problema que se repetirá mientras la brecha entre lo que se percibe que pueden hacer las herramientas de IA y lo que realmente pueden hacer siga siendo tan amplia como lo es hoy.