1
La cara B del progreso ilimitado
Sin la brújula del sentido moral, el avance tecnológico, en lugar de ascender hacia una vida mejor, podría llevarnos al abismo
4 minutos de lectura'
PARA LA NACIONSergio Sinay
Ahora, cuando algunos de los creadores de la inteligencia artificial empiezan a asustarse de la peligrosa autonomía que podría adquirir su criatura, parece ser un buen momento para preguntar y preguntarnos qué significa el progreso y hacia dónde va. Varias personas ligadas a Anthropic, una de las empresas que lideran el desarrollo de la IA, fueron claras al respecto. “Esta tecnología podría causar la extinción humana o resultados igual de graves”, admitió Samuel Marks, miembro del personal técnico de Anthropic. “Creemos realmente que la IA podría matar a humanos”, corroboró Evan Hubinger, jefe de seguridad de la misma empresa. John Coxon, investigador de esta tecnología que trabajó en dos de las principales compañías dedicadas al tema y renunció al ver la perspectiva, dice de ellas: “Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas. Conocen el riesgo, pero no les importa, solo quieren llegar primero”.
Gray piensa que, al aumentar el poder humano, la tecnología amplifica también las imperfecciones humanas
Progresar significa, literal y etimológicamente, ir hacia adelante. Una interpretación simplista, sesgada y ampliamente divulgada del término confunde “adelante” con “bueno”. Pero allí, en ese más allá del presente, podría estar el precipicio. O la prometedora luz que se ve al final del túnel podría ser una locomotora que viene de frente y nos lleva puestos. El filósofo inglés John Gray, uno de los pensadores más originales e implacables de este tiempo, viene advirtiendo sobre ello en conferencias, entrevistas y libros imperdibles como Perros de paja, El silencio de los animales, Filosofía felina y, precisamente, Contra el progreso y otras ilusiones. “La idea de progreso se basa en la creencia de que el crecimiento del conocimiento y el avance de la especie van de la mano, si no ahora, a largo plazo”, dice Gray. “El mito bíblico de la Caída del Hombre encierra la verdad prohibida: el conocimiento no nos libera. Nos deja como siempre hemos sido, presas de toda clase de insensatez”. Y recuerda el mito griego de Prometeo, titán (deidad previa a los dioses olímpicos), que regaló a los humanos el fuego y la metalurgia, por lo cual Zeus lo castigó condenándolo a que un águila le comiera el hígado todas las noches mientras permanecía encadenado a una roca.
En ese más allá del presente, podría estar el precipicio. O la prometedora luz que se ve al final del túnel podría ser una locomotora que viene de frente y nos lleva puestos
Gray piensa que, al aumentar el poder humano, la tecnología amplifica también las imperfecciones humanas. Claro que, en el caso de la IA, esta especie de Frankenstein parece condensar en su ADN tecnológico algunas de las más siniestras de esas imperfecciones: la ambición, la voracidad, la desmesura del poder, la ignorancia de los límites, la irresponsabilidad, la ausencia de empatía y compasión. “Quienes ignoran el potencial destructivo de las tecnologías futuras solo pueden hacerlo porque ignoran la historia”, alerta Gray. Y vuelve sobre un tema esencial que, sin embargo, se suele dejar de lado cuando irrumpe la euforia tecnológica. El divorcio extremo que se advierte hoy entre el progreso tecnológico y el retroceso moral. Cuanto mayor es esa brecha, menor es el control sobre los usos de la tecnología y sobre los fines para los cuales se la concibe. Desaparecen los límites orientadores.
“Si tan solo fuéramos más inteligentes y más morales, podríamos usar la tecnología solo para fines benéficos. La culpa no está en nuestras herramientas, sino en nosotros mismos”, sostiene Gray al respecto. Y, a falta de inteligencia natural, los riesgos de la IA parecen confirmar lo que el economista italiano Carlo Cipolla decía en sus Cinco leyes fundamentales de la estupidez humana: el estúpido daña y se daña. A partir de un punto, concluye Gray, el avance tecnológico sólo demuestra la vulnerabilidad humana. El progreso, sea científico, tecnológico o económico, desprovisto de orientación moral es un viajero que carece de brújula, y mientras cree que asciende puede descubrir que, finalmente, cayó al fondo del abismo.
Por Sergio Sinay
