1
Decisión de pocos, consuelo de muchos
La capacidad de las grandes tecnológicas para incidir en la vida de toda la población ya es parte del sentido común (y no tanto de las discusiones) de la época
4 minutos de lectura'
PARA LA NACIONSonia Jalfin
Hay una idea sobre el poder, formulada por el jurista alemán Carl Schmitt hace un siglo, que sigue siendo incómoda: el poder real no se ve en los tiempos normales, cuando las leyes funcionan y las instituciones hacen lo suyo. Se ve en el momento de excepción, cuando las normas no alcanzan y alguien tiene que decidir. Hasta hace poco, ese alguien era un líder político. Hace dos semanas fue un CEO de San Francisco.
Pero lo más curioso y escalofriante tal vez no sean los riesgos que acechan en cada pantalla que tocamos o cada clic que hacemos, sino esta nueva modalidad de toma de decisión: unipersonal, desde el sector privado, y de enormes consecuencias
La historia empezó con el nuevo modelo de inteligencia artificial de Anthropic, bautizado Mythos. Al parecer, este modelo es tan magistral para encontrar vulnerabilidades en los sistemas informáticos que el CEO de Anthropic, Dario Amodei, decidió no lanzarlo por temor a que caiga en manos maliciosas y lo usen para perpetrar ciberataques. En cambio, convocó a más de 40 empresas —entre ellas Apple, Microsoft, Google y Cisco— y las puso a trabajar juntas para encontrar esos errores y arreglarlos.
El nuevo modelo encontró mil vulnerabilidades críticas en los principales sistemas operativos y navegadores del mundo, algunas con décadas de antigüedad. Nicholas Carlini, investigador de Anthropic, lo resumió diciendo que había encontrado más bugs en las últimas dos semanas que en toda su vida.
Pero lo más curioso y escalofriante tal vez no sean los riesgos que acechan en cada pantalla que tocamos o cada clic que hacemos, sino esta nueva modalidad de toma de decisión: unipersonal, desde el sector privado, y de enormes consecuencias. No habíamos visto aún una decisión tan binaria, y tan a la vista de todos, sobre un riesgo que amenaza el home banking, la compra del supermercado, los archivos privados, las redes sociales, el sistema financiero mundial, el acceso a internet o a la energía, en fin, todo.
Esta semana, mientras crecían las repercusiones de Mythos, la revista The New Yorker publicó un extenso perfil de Sam Altman, el CEO de OpenAI y principal competidor de Anthropic, titulado “Sam Altman puede controlar nuestro futuro, ¿podemos confiar en él?” Con más de cien entrevistas, el artículo retrata a alguien con “una voluntad de poder implacable”. Altman respondió en su blog con una metáfora: comparó la carrera por la inteligencia artificial con el anillo de El señor de los anillos, un objeto que otorga un poder incalculable y genera una obsesión por controlarlo. Según Altman, la IA “hace que la gente haga cosas locas”. Es una idea apropiada viniendo del CEO que, cuando fue echado por el directorio OpenIA en 2023, según The New Yorker, montó un campamento de colaboradores en su mansión, organizó una sala de situación por donde circulaba en pijama, y logró volver a su puesto en solo cinco días.
Hay razones concretas por las que la IA deposita estas decisiones en tan pocas manos: el conocimiento técnico está casi exclusivamente en las propias empresas; la IA va a una velocidad inalcanzable para las instituciones; y su acción es por naturaleza de consecuencias globales.
En un mundo donde los acuerdos se caen y las coaliciones estallan, Anthropic logró reunir a más de 40 organizaciones –incluyendo competidores directos– alrededor de un objetivo común. ¡Hasta grabaron juntos un video de lanzamiento! Y si bien es cierto que es mucho más fácil ponerse de acuerdo entre competidores que, por ejemplo, entre países en guerra, lo cierto es que la decisión de Amodei se siente a contrapelo del tono general de nuestra época.
Schmitt, el padre del decisionismo, terminó prestando su teoría al nazismo y justificando jurídicamente las Leyes de Nuremberg. Pero la observación sobre el poder y la excepción sobrevivió a sus errores. Lo que no anticipó es que, algún día, el soberano que decide en la excepción podría ser un empresario como Amodei. Esta vez, al parecer, eligió bien. Pero quién sabe la próxima.
La autora es directora de Sociopúblico
Tipo de trabajo:
opinión
Más leídas
