La IA no es inteligente como pensamos: simular no es comprender

Introducción

Los sistemas actuales de inteligencia artificial —especialmente los grandes modelos de lenguaje— pueden construir discursos coherentes, defender una postura y, segundos después, argumentar lo contrario con igual solvencia. En una persona, ese salto podría interpretarse como flexibilidad intelectual, habilidad retórica o incluso oportunismo. En la máquina, la explicación suele ser más sencilla: recibió otra instrucción. Ambos textos pueden estar bien formados sin que ninguno nos revele lo que la máquina «comprende».

Por eso es necesario diferenciar lo que hacen estos modelos de lo que entendemos por inteligencia humana. La confusión no es inocua: define cómo los adoptan empresas, gobiernos y profesionales en América Latina, y qué responsabilidades asumimos cuando delegamos decisiones en estos sistemas.

Qué hacen realmente los modelos de lenguaje

Técnicamente, estos modelos aprenden a predecir qué unidad de texto (letra, sílaba, palabra o subpalabra) sigue a otra, a partir de enormes cantidades de ejemplos. Esta estrategia, heredera de aproximaciones tempranas como las de Andréi Márkov y los experimentos de Claude Shannon, escala hoy con arquitecturas y datos mucho más complejos. El resultado es una capacidad notable para continuar argumentos, imitar estilos, generar código o resumir textos.

Sin embargo, el objetivo central de su entrenamiento es la plausibilidad de la continuación, no la verificación de su verdad. Eso explica por qué un mismo sistema puede ofrecer una explicación correcta y, bajo otra instrucción, una falsedad convincente. La corrección formal del texto —su gramática, coherencia y estilo— no garantiza que el sistema entienda por qué algo es verdadero, cuándo aplicar una conclusión o cuáles son las implicancias prácticas de una recomendación.

Una distinción clásica útil: ratio e intellectus

La tradición filosófica medieval, interpretada por Tomás de Aquino, distinguía dos operaciones de la facultad intelectual: la ratio y el intellectus. La ratio es el proceso paso a paso: comparar, inferir y justificar. El intellectus es la aprehensión directa de una verdad, sin necesidad de recorrer toda una cadena de inferencias.

Aplicada de modo analógico a la IA, esta distinción ayuda a ver límites importantes. Los modelos actuales automatizan muchas funciones de la ratio: ordenan información, identifican patrones, encadenan razones. Pero no han demostrado poseer algo equivalente al intellectus: no aprehenden una verdad contextualizada ni asumen la responsabilidad de su uso. Decir que esto los convierte en «no inteligentes» en sentido pleno es una conclusión razonable y útil para la toma de decisiones.

Implicaciones prácticas en sectores críticos

La diferencia entre simular razonamiento y comprenderlo se vuelve tangible cuando un resultado sale de la pantalla.

• En salud, un sistema puede resumir una historia clínica o enumerar diagnósticos posibles; no sustituye la capacidad del profesional para detectar información faltante, conversar con el paciente y asumir responsabilidad por un tratamiento. En contextos latinoamericanos, donde muchas decisiones sanitarias dependen de recursos limitados y de confianza paciente-profesional, confiar ciegamente en una recomendación automatizada puede agravar desigualdades o errores.

• En derecho, la IA puede generar borradores legales en segundos, pero corresponde al abogado verificar fuentes, interpretar normas locales y firmar con responsabilidad. En nuestras jurisdicciones hay matices procedimentales y contextuales que un modelo, entrenado en textos de diversas procedencias, puede no capturar correctamente.

• En investigación, un modelo puede sugerir hipótesis; el investigador humano decide qué experimento distingue entre explicaciones rivales y qué conclusiones son justificadas por los datos. En América Latina, donde la inversión en I+D varía mucho entre países, el uso de estas herramientas exige criterios rigurosos para no confundir velocidad con validez científica.

En todos estos casos, la máquina puede colaborar en la cadena de razonamiento, pero la comprensión, la contextualización y la responsabilidad final permanecen en el ámbito humano.

Riesgos culturales y organizacionales

Si atribuimos inteligencia a las máquinas solo por sus resultados formales, corremos el riesgo de redefinir la inteligencia humana según lo que ellas hacen mejor: rapidez, volumen y corrección estilística. Empresas, administraciones públicas y medios tienen incentivos claros para premiar esos atributos.

Ese sesgo puede desplazar prácticas valiosas pero más lentas: deliberación, contraste de fuentes, reconocimiento de incertidumbre y revisión crítica de convicciones. No se trata de idealizar la lentitud, sino de preservar espacios donde se privilegie la calidad del juicio sobre la mera eficiencia. Para América Latina, donde procesos públicos y privados a menudo se rigen por recursos limitados y presión por resultados rápidos, este riesgo es particularmente relevante.

Cómo deberían actuar decisores y profesionales

• Reconocer capacidades y límites: usar IA para tareas de apoyo (resúmenes, cribado de información, borradores) y no como sustituto del juicio profesional.
• Establecer protocolos claros de verificación: exigir comprobación humana de cualquier output crítico antes de tomar decisiones que afecten vidas, derechos o recursos.
• Capacitar equipos en pensamiento crítico y alfabetización en IA: entender cómo funcionan los modelos y qué tipo de errores pueden cometer.
• Diseñar responsabilidades legales y éticas que obliguen a la rendición de cuentas cuando se usen sistemas automáticos en contextos sensibles.

Estas medidas son relevantes tanto en grandes hospitales y bufetes como en gobiernos locales y startups tecnológicas de la región.

Conclusión

Los modelos de lenguaje representan un avance técnico impresionante: han automatizado buena parte de la ratio, la capacidad de encadenar y presentar razones. Pero aún no han demostrado poseer lo que la tradición llamó intellectus: la aprehensión contextual, la comprensión plena y la asunción de responsabilidad por las consecuencias de una afirmación.

Para quienes toman decisiones en América Latina, la distinción es práctica y urgente. La promesa de velocidad y escala no debe borrar la necesidad de juicio humano, deliberación y verificación. La adopción responsable de la IA exige reconocer sus límites, ajustar procesos organizacionales y mantener la responsabilidad ética y legal donde corresponde: con las personas que deciden y actúan, no con las máquinas que simulan entender.