1
“Nos estamos quedando sin tiempo”: renuncian dos expertos de Google DeepMind; creen que la IA podría “matarnos a todos”
Bilal Chughtai y Josh Engels renunciaron al equipo de seguridad de inteligencia artificial general del gigante tecnológico y se sumaron a una ola de dimisiones de empleados del sector que denuncian una carrera sin control para crear una IA más poderosa
6 minutos de lectura'
Bilal Chughtai, exinvestigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind (la división de IA avanzada del gigante de las búsquedas), rompió el silencio tras su renuncia y lanzó una dramática advertencia sobre la trayectoria actual de la tecnología.
En una publicación en X (ex-Twitter), afirmó creer fervientemente que la inteligencia artificial tiene el potencial de “matarnos a todos” y que la humanidad podría estar quedándose sin tiempo para evitar un desenlace catastrófico, aunque sin especificar cómo se llegaría a él.
Chughtai recordó que cuando comenzó a trabajar en el sector a principios de 2022 las IA eran “graciosamente inútiles”, pero resaltó que en apenas cuatro años la velocidad del progreso ha sido impactante.
“Creo que es posible que las empresas de IA logren, en los próximos años, desarrollar sistemas de inteligencia artificial superinteligentes que superen con creces las capacidades humanas en todos los ámbitos. No confío en que estos sistemas de IA hagan lo que nosotros queremos -advirtió-. En particular, las superinteligencias no alineadas podrían —al igual que los agentes de IA rebeldes involucrados en el incidente de Hugging Face— escapar de nuestro control y tomar medidas peligrosas que podrían derivar en el desempoderamiento permanente o la muerte de la humanidad. La alineación es el problema de prevenir esto, y es algo tanto difícil como no resuelto. Nuestra comprensión actual sobre cómo entrenar sistemas de IA que deseen profundamente lo mismo que nosotros deseamos es extremadamente rudimentaria.”
Como muestra de los peligros emergentes, citó incidentes en los que enjambres de agentes de IA desarrollados por OpenAI se escabulleron del control previsto y hackearon de forma autónoma a la plataforma de terceros HuggingFace. El especialista enfatizó que en los próximos años las grandes empresas tecnológicas podrían lograr la creación de sistemas superinteligentes que superen ampliamente las capacidades humanas en todos los dominios.
Según su análisis, el problema central radica en la “alineación” (la disciplina orientada a garantizar que los modelos obedezcan las intenciones humanas), un reto complejo que aún permanece sin solución. Ante este escenario, reclamó frenar la “carrera maníaca” entre las compañías del sector, dotar de mayor transparencia al desarrollo y adecuar la velocidad del avance técnico a un ritmo que la sociedad pueda absorber.
Una larga lista de renuncias
La dimisión de Chughtai no es un hecho aislado, sino la continuación de un éxodo de científicos en Silicon Valley que abandonan laboratorios de élite por motivos de seguridad. Hace unos días, Josh Engels también dejó el equipo de AGI de Google DeepMind para sumarse a la organización sin fines de lucro METR, advirtiendo sobre la posibilidad de que la IA provoque daños inmensos en los próximos cinco años.
“En las últimas semanas hemos sabido de modelos [de IA] que se confabulan entre sí, piratean empresas, ocultan sus huellas e ingenian socialmente a los humanos. No es que estos incidentes fueran muy peligrosos en sí mismos. El problema es que estos sistemas claramente no están lo suficientemente alineados como para iniciar de forma segura la automejora recursiva -expresó Engels-. Ahora creo que hay una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años. No sé la probabilidad exacta, pero creo que es lo suficientemente alta como para convertir este en el problema más importante del mundo.”
A esta ola se suma la renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, quien denunció que las empresas están apostando con las vidas humanas en su carrera hacia la superinteligencia.
“No subestimen el poder de esta tecnología. Muy pronto estos serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales. Todos hemos sido testigos del progreso en cada uno de estos dominios, y el progreso no se está frenando -reflexionó Coxon en X-. Quienes están construyendo la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es un truco publicitario. En todo caso, muchos ejecutivos e investigadores sénior matizan sus palabras ante la prensa para sonar sensatos, pero escucho a esas mismas personas expresar temor en privado. Ninguna otra actividad humana entraña este nivel de peligro. Una reacción común es: “si realmente creen esto, ¿por qué siguen construyéndola?“. En OpenAI, muchos no han internalizado profundamente lo que está en juego a nivel civilizatorio. En Anthropic, lo que está en juego se entiende perfectamente, pero están atrapados en una carrera para llegar primero; creen que nadie más actuará de manera responsable, por lo que deben hacerlo ellos mismos, a pesar del riesgo.”
La postura de Coxon fue respaldada públicamente por Alexander Turner, otro excientífico de DeepMind, quien confirmó que muchos investigadores temen estar construyendo una tecnología destructiva.
Las alarmas suenan incluso dentro de las propias firmas: Evan Hubinger, científico de Anthropic y jefe de Coxon, estimó que existe más de un 10% de probabilidades de extinción humana por IA en la próxima década y admitió que la industria carece de un plan definitivo para alinear una superinteligencia.
Aunque ejecutivos como Dario Amodei (CEO de Anthropic), Sam Altman (OpenAI) y Elon Musk (xAI) han coincidido en la necesidad de desacelerar el avance, la respuesta política muestra fuerte resistencia. El presidente estadounidense Donald Trump tildó los temores de “engaño” y “conspiración”, oponiéndose a imponer nuevas regulaciones.
Tras su salida, Chughtai asumió como líder de programas en la ONG BlueDot Impact para capacitar profesionales en seguridad, sosteniendo que aún hay esperanza si la sociedad actúa a tiempo; Engels se mudó a METR, una ONG que ayuda a las empresas de IA y a la sociedad en general a comprender los riesgos de los sistemas avanzados de IA.
Más leídas de Tecnología
2Google lanza su nueva pulsera Fitbit Edge: hace electrocardiogramas, tiene GPS y batería reemplazable
3Cómo cambió el perfil de programador que busca la industria tras la llegada de la IA, según el presidente de la Cessi
4Crece la capacidad de la IA para resolver problemas científicos, según investigadores del MIT