1
Filosofía, Odiseo y la virtud en la inteligencia artificial
Mientras amenaza muchos empleos, la IA está apelando a los filósofos para construir marcos éticos para las respuestas de sus modelos; ¿puede una máquina desarrollar virtudes?
6 minutos de lectura'
La Inteligencia Artificial genera incertidumbre económica, laboral y educativa. Pero hay un dato paradójico: mientras amenaza ciertos empleos, rescata a la filosofía de su histórica precariedad. Empresas como DeepMind, Anthropic y OpenAI contratan masivamente a filósofos para diseñar “constituciones éticas” que controlen modelos de Inteligencia Artificial (IA). The Economist señala en una nota reciente que los filósofos tienen una tasa de desempleo del 5% frente al 7% de ingenieros informáticos. ¿Qué rol puede tener la filosofía en las nuevas tecnologías?
Las tres éticas y la IA
En ética se suelen distinguir dos marcos. El deontológico (Kant) impone reglas absolutas, por ejemplo no mentir, no coaccionar, respetar la dignidad. El consecuencialista (utilitarista) sopesa costos y beneficios para maximizar resultados. Anthropic ha incorporado a Kant y la Declaración de Derechos Humanos en la “constitución” de Claude, mientras que OpenAI y Google diseñan sistemas consecuencialistas que buscan “beneficios que superen significativamente los riesgos previsibles”.
Pero existe un tercer marco que escapa a todo algoritmo: la ética fundada en el carácter. No aplica reglas universales ni calcula consecuencias óptimas, sino que busca desarrollar virtudes como la prudencia, la compasión o el coraje. Las virtudes son esenciales para enfrentar situaciones dilemáticas. Imaginemos una conversación difícil con un hijo donde la honestidad absoluta sería cruel, pero la mentira deshonesta. La virtud está en manejar la situación con equilibrio contextual entre ambos extremos.
Darwin entendió el marco de la virtud en 1838 cuando escribió una famosa lista de pros (“compañía, alguien con quien conversar”) y contras (“menos tiempo para investigaciones”) del casamiento. Pese a su intención de usar la matemática racional, pronto cayó en la cuenta de que el matrimonio no es un cálculo factible, porque sus consecuencias son radicalmente inciertas. No sabemos si durará, si nos hará felices, si los conflictos nos destruirán. Este es el problema moral de preguntar a una IA si uno debería casarse o no.
Racionalidad práctica y frónesis
Durante 30 años la economía de la conducta (la cruza entre economía y psicología) criticó al homo economicus revelando sus sesgos cognitivos sistemáticos. Pero el homo economicus de los economistas no es estrictamente un individuo “racional”, sino un lógico con capacidad de cálculo formal. Bajo esa definición, ¡todos somos irracionales!
Hace más de 2000 años, Aristóteles ofreció una teoría alternativa para juzgar bien en contextos inciertos, de cómo ser racional en situaciones donde simplemente no se puede actuar como un lógico implacable. Y a esto le llamó “frónesis”. La frónesis no aplica reglas universales y permite distinguir entre virtudes en tensión. La compasión y la justicia, por ejemplo, conflictúan. La honestidad y la amabilidad a veces también se oponen. Tomar decisiones en este marco moral exige, simplemente, la experiencia de vida. La máquina, que no experimenta, no envejece, no siente vergüenza ni arrepentimiento, no puede construir un sentido de frónesis.
Odiseo: navegando en la incertidumbre
La Odisea, recientemente llevada al cine por Christopher Nolan, es una escuela de frónesis. El héroe navega la incertidumbre radical sin fórmulas ni algoritmos. Las acechanzas que enfrente en su viaje lo obligan a experimentar todos los tipos de racionalidad.
A veces aplica la racionalidad lógica pura. Circe le advierte que debe elegir entre Scila (monstruo de seis cabezas) o Caribdis (remolino que engulle barcos). Odiseo hace un cálculo de pérdida esperada: mejor perder seis hombres a Scila que arriesgar la tripulación completa a Caribdis.
Otras veces, su humanidad lo traiciona. En un momento comete un error de frónesis que le costará diez años de viaje (y que no aparece en la película). Después de cegar al Cíclope Polifemo y escapar exitosamente bajo el falso nombre “Nadie”, Odiseo no puede resistirse a gritar su nombre real y su linaje desde el barco. Polifemo, ahora capaz de maldecirlo por su verdadero nombre, invoca a su padre Poseidón para vengarse. Es un momento de orgullo que destruye años de cálculo correcto. Es un fracaso de la prudencia, exactamente lo que Aristóteles decía que la frónesis ayudaba a evitar.
Otra aventura famosa de Odiseo ha sido estudiada por la Economía de la Conducta. El protagonista sabe que si escucha a las sirenas dirigirá la nave contra su voluntad hacia ellas, golpeando las rocas y naufragando. Entonces ordena a sus marineros ponerse cera en los oídos, pero él se ata al mástil para no sucumbir a la tentación. Fue la solución que encontró para escuchar la dulce melodía y, al mismo tiempo, salvar su vida. Pero la experiencia no fue la que esperaba. Odiseo sufre enormemente por no poder acercarse a las sirenas y desea fervientemente que la tentación termine lo antes posible. El truco no le funcionó como creía.
Odiseo se aparta de la racionalidad pura cuando la ninfa Calipso le ofrece inmortalidad si se queda con ella para siempre (tampoco en la peli). Odiseo rechaza: elige una esposa mortal, un hogar envejecido, una muerte segura. Ningún algoritmo que ejecute un cálculo de placer puede elegir esta opción. Odiseo hace lo correcto porque tiene un juicio sobre qué tipo de vida vale la pena vivir. No es deontología ni consecuencialismo. Es frónesis acerca de lo fundamental: qué significa vivir una vida humana. Y esta es la filosofía que ninguna IA posee.
La virtud es el hábito de actuar según una razón práctica, no lógica. No es un cálculo de beneficios ni una maximización de utilidad. Es disposición del carácter cultivada mediante repetición, aprendizaje, relación con el prójimo. Cuando actuamos virtuosamente, experimentamos eudaimonía, que significa vida plena, integrada y significativa.
En un mundo gobernado por algoritmos, la filosofía de la frónesis nos dice cuándo no debemos confiar en ellos. Estamos acostumbrados a reconocer las limitaciones técnicas de la IA generativa, pero quizás más importante que eso es desarrollar sabiduría sobre cuándo es moralmente corrosiva. Es lo que aprendió a la fuerza Odiseo durante su viaje eterno, aprendiendo de cada fracaso, recordando cada victoria, y desarrollando un sentido práctico que ninguna máquina posee.
El auge de los filósofos en empresas de IA no es un accidente. Es el reconocimiento de que la inteligencia verdadera requiere frónesis. Actuar de acuerdo al viejo arte de la frónesis en tiempos de certeza artificial es saber cuándo confiar en nosotros mismos, cuándo desconfiar de los números, y cuándo elegir la incertidumbre. Eso es lo que significa ser humano.
