1
El algoritmo como profecía autocumplida
Muchas veces las predicciones funcionan como veredictos que condicionan oportunidades, decisiones y comportamientos antes de que ocurran
3 minutos de lectura'
PARA LA NACIONMartina Rua
Hace unas semanas se celebró TED 2026 en Vancouver y luego de escuchar muchas buenas charlas del evento ya tengo a mi favorita. Carissa Véliz es profesora en el Instituto de Ética en IA de la Universidad de Oxford, asesora de los gobiernos del Reino Unido y España, y autora del bestseller Privacy Is Power. Su nuevo libro, Prophecy, se agotó en la librería del evento en pocas horas luego de su charla “Cuidado con el poder de la predicción”, en la que expuso cómo los algoritmos no solo anticipan el futuro, sino que tiene el poder de fabricarlo. Y la IA volvió a las predicciones más sofisticadas, más veloces, más eficientes.
Su argumento fue que las predicciones suelen adoptar la forma del conocimiento, pero no lo son. En muchos casos, son una forma de poder que se disfraza de diagnóstico y lanzó la pregunta ¿qué le hace al mundo el hecho de que existan esas predicciones? Porque una predicción no es un espejo neutro de la realidad, sino que es una intervención sobre ella. Si un algoritmo determina que cierto candidato tiene baja probabilidad de éxito, esto puede volverse un veredicto que nadie cuestiona. Si un sistema de crédito predice que una persona no pagará, esa persona no obtiene el préstamo y la predicción se cumple. No porque fuera inevitable, sino porque fue predicho. “Los algoritmos emiten veredictos sobre quiénes somos antes de que hayamos tenido la oportunidad de demostrarlo nosotros mismos”, dijo Véliz en Vancouver. La filósofa no se quedó en el diagnóstico y propuso tres movimientos para quienes quieran recuperar agencia en la era de la predicción automatizada. El primero: anclar la mente al presente. En lugar de vivir hipnotizados por los escenarios futuros, desarrollar el juicio sobre lo que está pasando ahora. La intuición entrenada, la lectura del contexto, la capacidad de leer una sala, esas son habilidades que ningún modelo puede reemplazar, precisamente porque requieren estar presente.
El segundo, prepararse en lugar de predecir. Predecir es buscar el futuro “correcto” y apostarle. Prepararse es decidir qué futuro queremos y trabajar para construirlo, “no en términos de conocimiento, sino de creatividad”, dijo. El planeamiento por escenarios, en ese marco, deja de ser un ejercicio de pronóstico y se convierte en uno de diseño.
Y el tercero es aumentar la serendipia deliberadamente. Cuanto más delegamos en los algoritmos lo que vemos, con quién hablamos y qué consumimos, más estrecho se vuelve el mundo que habitamos. La curiosidad desordenada, los encuentros imprevistos, las conversaciones con desconocidos: todo eso que la eficiencia de la IA tiende a eliminar es la fuente de las ideas más originales.
La apuesta de Véliz es que la ventaja competitiva del futuro no va a estar en quien tenga el mejor oráculo, sino en quien conserve la capacidad de sorprenderse. Cuando el mundo promete predecirlo todo, cultivar la incertidumbre puede ser el acto más más inteligente que nos queda.
