1
Los líderes de la IA piden frenar los modelos más avanzados
Más de 1000 expertos firmaron una petición para regular el sector; Sam Altman propuso una pausa voluntaria tras la fuga de sus propios sistemas
6 minutos de lectura'
LA NACION
NUEVA YORK.– Más de 1000 empleados de las principales empresas de inteligencia artificial, incluido el director ejecutivo de Anthropic, Dario Amodei, firmaron una petición el martes para que el gobierno de Estados Unidos ayude a frenar la publicación de los modelos más avanzados de IA.
La petición, titulada “Pacing the frontier” (“Regulando la frontera”), solicita que “el gobierno de Estados Unidos apoye un esfuerzo internacional para desarrollar herramientas técnicas y de gobernanza necesarias para marcar deliberadamente el ritmo de la frontera del desarrollo de la IA automatizada“.
Entre los firmantes estaban el jefe de investigación de OpenAI, el líder de estrategia de DeepMind –la empresa de IA subsidiaria de Google–, y el científico en jefe de Meta AI.
“Las empresas líderes en IA en el mundo creen que podrían estar cerca de automatizar la investigación en IA. Es difícil predecir exactamente qué tanto esto acelerará el progreso de la IA, pero hay un riesgo real de que la capacidad de desarrollo acelere más allá de nuestra habilidad de entender o controlar los sistemas resultantes“, indicaron los firmantes.
Aunque Sam Altman, director ejecutivo de OpenAI, no firmó la petición, en una entrevista publicada el martes dijo que los desarrolladores de modelos de inteligencia artificial tendrían que frenar voluntariamente sus rápidos avances para que la sociedad pueda ponerse al día.
La preocupación de los expertos
Alcanzar un acuerdo internacional para poner límites al desarrollo de la inteligencia artificial supondría un desafío diplomático de enormes dimensiones, equiparable por ejemplo a los tratados destinados a controlar el uso y desarrollo de las armas nucleares.
Por ahora, tanto en Estados Unidos como en buena parte del mundo, el desarrollo de la inteligencia artificial avanza con escasas restricciones. Gobiernos y empresas destinan miles de millones de dólares a crear y desplegar sistemas cada vez más sofisticados, en una carrera tecnológica que se transformó en uno de los principales escenarios de la competencia geopolítica entre Washington y Pekín.
Aunque la iniciativa presentada el miércoles no es inédita –ya que desde la aparición de Chat GPT en 2022 diversos referentes de la industria han pedido regular el desarrollo de la tecnología debido a los riesgos que podría implicar para la humanidad– la nueva carta comporta la novedad de contar con el respaldo miembros de las principales empresas del sector para impulsar una intervención gubernamental concreta.
“Lo más destacable es la cantidad de nombres importantes que figuran en la lista. Cada vez es más habitual que los laboratorios y sus empleados hablen explícitamente de una gobernanza internacional”, dijo a The Washington Post Andrew Yoon, miembro del equipo técnico de CivAI, una organización sin fines de lucro que analiza las capacidades de la inteligencia artificial y los potenciales riesgos de la tecnología.
“Los desarrolladores de inteligencia artificial sospechan cada vez más que la investigación automatizada en IA podría estar al alcance”, afirmó el experto. Según Yoon, eso tiene el “potencial de aumentar drásticamente el ritmo del progreso, hasta superar el punto en el que los modelos puedan ser controlados de manera segura”.
La controversia reciente de ChatGPT
La empresa de Altman, detrás de ChatGPT, recientemente vio cómo dos de sus modelos llevaban a cabo ciberataques de manera autónoma, eludiendo protocolos de seguridad pensados para evitar tales incidentes.
OpenAI reveló la semana pasada que durante pruebas recientes, dos modelos salieron de su ambiente de confinamiento, se conectaron a internet e infiltraron Hugging Face, un repositorio de código compartido de IA.
"Puede que tengamos que regular el ritmo del desarrollo de la IA para darnos suficiente tiempo para que la sociedad se consolide en torno a algunos de estos nuevos niveles de capacidad", dijo Altman en el podcast “Invest like the best”, publicado el martes.
“Este es el primer tipo de incidente de seguridad que sentí de forma muy visceral”, dijo sobre el cibertataque. “Y me sorprende un poco que no haya tenido el mismo efecto en más gente”, añadió.
Aunque no es la primera vez que un modelo de IA se escapa al control de sus desarrolladores, este es considerado como el incidente más grave.
Altman reveló que, tras tener conocimiento del ataque, OpenAI suspendió las pruebas “para comprender cómo lograr confinar” sus sistemas en pruebas, que en principio están aislados de internet.
La presión a Trump por los modelos chinos
El debate en torno a la regulación del desarrollo de la IA coincide con la creciente presión que enfrenta el gobierno de Trump para responder al lanzamiento de los nuevos modelos chinos, que han suscitado acusaciones de copia de versiones estadounidenses y elogios por parte de partidarios de una IA más abierta.
El tema cobró protagonismo esta semana cuando un funcionario de la Casa Blanca afirmó que la firma Moonshot AI copió el modelo Fable de Anthropic para desarrollar el Kimi K3.
Kimi K3 causó sensación tras su lanzamiento el 16 de julio al superar a alternativas estadounidenses en programación, algo sin precedentes para un modelo chino abierto.
El miércoles 22 de julio, Michael Kratsios, director de Política de Ciencia y Tecnología de la Casa Blanca, afirmó que Moonshot AI copió el Fable mediante “destilación”, un método que somete a un sistema a una avalancha de solicitudes para comprender su funcionamiento. También sugirió que eludió restricciones de exportación de chips Nvidia.
Kratsios se hizo eco del secretario del Tesoro, Scott Bessent, quien indicó que el gobierno halló rastros de modelos estadounidenses en varias IA chinas de vanguardia.
“Si llegamos a la conclusión de que modelos extranjeros saquean a nuestras empresas, tendremos la posibilidad de sancionarlos“, declaró el funcionario.
Así, el gobierno estadounidense se encuentra atrapado entre dos frentes.
Por un lado, unas pocas grandes compañías están inquietas ante el riesgo de ver saqueados sus avances.
Sarah Heck, de Anthropic, afirmó en X que la destilación ilícita “es un robo de propiedad intelectual y espionaje industrial” y "un desafío nacional que crea graves riesgos de seguridad nacional para Estados Unidos y sus aliados democráticos".
En el extremo opuesto, muchos reclaman mantener el statu quo para favorecer un ecosistema de IA accesibles gratuitamente. Un grupo de 179 firmas llamado Little Tech Association pidió al gobierno el miércoles 22 de julio que las restricciones al uso de modelos extranjeros se apliquen únicamente a los servicios estatales.
Pesos pesados de la industria, incluidos Microsoft, Mistral, Perplexity y Meta, llamaron a la moderación el 24 de julio, incluso ante posibles destilaciones ilegales, y propusieron abordar la cuestión mediante “un marco jurídico y comercial en lugar de amplias restricciones”.
Agencia AFP
