Dos conciencias

Los sistemas de inteligencia artificial están avanzando a pasos agigantados. Cada día vemos cómo son capaces de escribir textos coherentes, resolver problemas complejos o incluso aprobar exámenes. Pero, ¿significa eso que «piensan» como los humanos? Una reciente investigación ha demostrado que la respuesta sigue siendo un rotundo no.

Aunque las IA pueden parecer listas, su “forma de pensar” sigue siendo radicalmente distinta a la nuestra. No se trata solo de una diferencia técnica, sino de un abismo en la manera en que entendemos el mundo, aprendemos de él y aplicamos ese conocimiento a nuevas situaciones.

El problema no está en los datos, sino en la forma de razonar

Investigadores que analizaron cómo los modelos de lenguaje, como GPT-4 de OpenAI, resuelven ciertos ejercicios de lógica descubrieron un patrón claro: cuando se les presenta un desafío basado en analogías abstractas, estos sistemas suelen fallar. Por ejemplo, a los humanos se les pidió identificar y eliminar letras repetidas en un patrón determinado. Para nosotros, eso es como un juego de mesa: vemos la regla, la aplicamos, y seguimos adelante. Para la IA, sin embargo, ese simple acto puede convertirse en una pesadilla de confusión.

La razón no es que le falten ejemplos. De hecho, estos modelos están entrenados con cantidades masivas de información. El problema es más profundo: no logran generalizar bien fuera de los contextos que conocen. Lo que hacen, básicamente, es predecir lo que “debería venir después” según los datos con los que fueron entrenados, pero sin comprender el «por qué».

¿Qué es el razonamiento abstracto y por qué se nos da tan bien?

Pensemos en una receta de cocina. Si un día no tienes sal, tú sabes que puedes usar un poco de salsa de soja como sustituto. Esa es una forma de razonamiento abstracto: aplicar una regla aprendida en un contexto diferente. Los humanos somos muy buenos en eso. No solo porque hemos vivido muchas experiencias, sino porque construimos modelos mentales flexibles que nos ayudan a adaptarnos.

Este tipo de razonamiento es crucial para tareas como enseñar, argumentar, escribir leyes o diagnosticar enfermedades. No se trata solo de memorizar información, sino de entender matices, detectar patrones nuevos y adaptarse a lo inesperado. Las IA, por su parte, funcionan como si aprendieran de memoria miles de recetas, pero si les cambias un ingrediente, no siempre saben cómo adaptarse.

Las implicaciones en profesiones donde el contexto lo es todo

Este límite en el razonamiento de las IA no es solo una curiosidad académica. Tiene efectos concretos en campos donde las decisiones no pueden basarse solo en datos, sino en interpretaciones complejas. Pensemos en un juez que debe evaluar si un caso es similar a un precedente legal, aunque los términos sean distintos. O en un médico que interpreta los síntomas de una manera no habitual, porque el paciente tiene una condición rara.

Una IA, incluso con millones de ejemplos previos, podría pasar por alto esas conexiones si no coinciden exactamente con lo que ha visto antes. Y cuando lo que está en juego es una vida, una sentencia o el aprendizaje de un estudiante, esos errores pueden ser graves.

¿Simulación o pensamiento real?

Aquí entra en juego una distinción fundamental: una IA puede simular el lenguaje humano, pero no está «pensando» como nosotros. Imagina que tienes una calculadora que, si le das la operación correcta, te da una respuesta precisa. Pero si le das una pregunta que no está en su manual, se bloquea. Las IA actuales funcionan de forma parecida: brillan en tareas conocidas, pero se tambalean cuando las reglas cambian o son ambiguas.

Este es uno de los motivos por los que la creatividad sigue siendo un terreno difícil para los modelos artificiales. Aunque puedan generar textos interesantes, no parten de una intención, una emoción o una experiencia personal. No crean con propósito; simplemente reorganizan lo que ya conocen.

El riesgo de perder nuestra capacidad de pensar

Hay otro aspecto preocupante que algunos expertos están empezando a señalar: si confiamos demasiado en estas herramientas, podríamos atrofiar nuestra propia habilidad de pensar críticamente. Es cómodo dejar que la IA nos dé una respuesta inmediata, pero ese hábito podría reducir nuestra disposición a analizar, contrastar y cuestionar. Y eso sí sería un problema, no de la tecnología, sino de cómo la usamos.

¿Estamos preparados para confiar tanto en algo que no entiende el «por qué»?

Modelos como el nuevo GPT o el llamado “o1-pro” están diseñados para ofrecer resultados impresionantemente precisos. Pero como advierten los investigadores, la precisión no siempre equivale a comprensión. Es como si un loro repitiera frases sin entender lo que dice. Puede sonar correcto, pero no sabe qué significan esas palabras ni cuándo es apropiado decirlas.

Por eso, antes de delegar decisiones importantes en estos sistemas, conviene hacerse preguntas difíciles: ¿Qué pasa si la IA se equivoca en un contexto que no entiende? ¿Quién asume la responsabilidad? ¿Estamos diseñando herramientas para ayudar, o para sustituir habilidades humanas que aún no comprendemos del todo?

Una herramienta útil, pero con límites muy claros

No se trata de despreciar los avances de la inteligencia artificial. Estas tecnologías tienen un enorme potencial para ayudarnos en tareas repetitivas, procesar grandes volúmenes de información o asistir en áreas donde el tiempo es crítico. Pero eso no significa que deban ser tratadas como sustitutos del pensamiento humano.

Como cualquier herramienta poderosa, la clave está en saber cuándo usarla y cuándo confiar en nuestro propio juicio. Al final, la verdadera inteligencia no está solo en dar respuestas, sino en saber cuándo una respuesta no basta, y hay que pensar un poco más allá.

---

https://ift.tt/txFp4yn
by Natalia Polo via WWWhat's new