Captura del sentido común
¿Por qué confiamos en la respuesta de una inteligencia artificial?
Hace unos años, durante una discusión, alguien que quería darla por terminada buscaba en Google y decía… “mirá, esta es la verdad” haciendo referencia al primer resultado del buscador. Lo que sucede es que en este tipo de buscadores el primer resultado no es necesariamente la verdad, porque el orden lo decide un algoritmo, y los primeros resultados suelen tener mucho trabajo de SEO detrás.
Hoy, con la inteligencia artificial integrada en casi todo, el primer resultado de Google ya es una IA. Y muchos ni siquiera revisan si las fuentes que toma Gemini son correctas, ni se les ocurre contrastar la respuesta con alguien que sepa del tema. No es que hayamos perdido el sentido común, es que lo estamos tercerizando.
Si vamos más profundo, ¿existe realmente el sentido común? ¿Qué es el sentido común?
Al buscar en Google, la primera respuesta es esta…
El sentido común es la capacidad de juzgar, razonar y actuar de manera sensata ante situaciones cotidianas, basándose en la experiencia acumulada y en saberes prácticos compartidos por una comunidad.
Fuentes: Significados, Concepto, La Vanguardia
Te invito a buscar el significado que publica la RAE sobre el concepto…
Por otro lado, Kahneman y Tversky partieron de la siguiente analogía: si un niño aplica reglas gramaticales sin conocerlas, ¿un adulto aplica reglas estadísticas sin conocerlas? Después de varios experimentos, la respuesta fue que no: muchas veces razonamos en contra de lo que indicaría la estadística, por varios sesgos. Entonces… ¿existe?
Supongamos que existe. Hoy el sentido común está capturado por los LLM que están al alcance de cualquier persona. Al ser de lenguaje natural, y ser muy buenos interpretando la petición, la persona le habla al modelo en su lenguaje cotidiano. Y como supone que tiene todo el conocimiento de internet, y supone que sabe filtrar qué es verdad y qué no, delega completamente el razonamiento. En un motor de búsqueda tipo SEO, podías decidir si quedarte con el primer resultado o no, a partir de su metadescripción, hoy decidir quedarte o no con la primera respuesta del LLM es más difícil, ya que no te dan opciones, es la persona la que tiene que solicitarle alternativas. Como hicimos acá, ¿nos quedamos con la definición de Gemini, o buscaste la definición de la RAE?
Entonces, ¿por qué confiamos en las respuestas de una inteligencia artificial? Porque nos la vendieron como un oráculo: sabe todo, razona sin errores, y además te habla con amabilidad… Y al utilizarla suponemos que sabe más que nosotros, y que evita los sesgos que nosotros cometemos. La realidad es que está también sujeta a sesgos y heurísticas, no los mismos que los humanos, pero sí los tiene. Un LLM aprende de lo que más se repite en internet. Su respuesta es el promedio de lo que muchos dijeron: un sentido común estadístico. Kahneman y Tversky mostraron que no razonamos con estadística; la ironía es que ahora le delegamos el juicio a una estadística que tampoco razona. ¿Acaso sabes con qué contenido fue entrenada la inteligencia artificial que utilizas?
Yo uso IA todos los días. Le pido alternativas, le pregunto de dónde saca lo que dice, y cuando importa, voy a la fuente. Es una decisión, hacerla consciente, y siempre mantener el juicio propio.