La experta de Silicon Valley que advierte sobre las “conductas psicopáticas” de la IA

Rebeca Hwang conoce Silicon Valley desde adentro. Nacida en Seúl y criada en Buenos Aires, estudió Ingeniería Química y luego realizó una maestría en Ingeniería Civil y Ambiental en el MIT, antes de seguir su formación en Stanford. Emprendedora, inversora y docente radicada en el corazón de la industria tecnológica, Hwang se reúne regularmente con altos mandos de Google, Apple, Nvidia y OpenAI.

En diálogo con LA NACION, Hwang destaca que las recientes advertencias sobre un escenario apocalíptico desencadenado por una IA responden a riesgos genuinos, pero poco probables. Además, analiza el timing del escándalo: la carrera entre Estados Unidos y China por alcanzar la inteligencia artificial general. Y cuenta cómo recibió el debate la comunidad tecnológica de California.

-¿Es posible que la inteligencia artificial desarrolle una voluntad propia y llegue a actuar contra los seres humanos?

-Desde el punto de vista tecnológico, es cierto que la inteligencia artificial tiene la capacidad recursiva de aprender determinadas cosas. Por ejemplo, ahora puede escribir código y programar por iniciativa propia.

Los agentes pueden tomar decisiones de manera independiente, como realizar compras y transacciones. El incidente que vimos con Hugging Face también muestra que tienen la capacidad de decidir e implementar determinadas acciones con una supervisión humana mínima o nula.

En este momento, lo compararía con la crianza de los hijos. Nosotros les impartimos valores, les damos educación y también les enseñamos distintas habilidades: a usar un arco y una flecha, a manejar un vehículo o, incluso, cómo funcionan las armas si los llevamos a un polígono de tiro. Pero también les transmitimos principios y deseamos que sean buenas personas.

Estadísticamente, es posible que tengas cuatro hijos y que todos salgan bien. También puede ocurrir que la mitad resulte espectacular y la otra mitad termine con problemas de drogadicción. Cuando tenés miles de millones de personas, es estadísticamente posible que surjan individuos que se desvíen de la norma: que alguno termine en la cárcel, cometa un acto ilegal o, incluso, incurra en conductas realmente psicopáticas.

Entonces, si la pregunta es si algo así es posible con la inteligencia artificial, la respuesta es que no resulta descabellado. La IA ya tiene capacidad para realizar determinadas acciones y también demostró que puede desarrollar actividades que calificaríamos como desviaciones de las normas que le dimos los seres humanos.

De ahí a afirmar que, en este momento, tiene una intención propia y la capacidad completa de elaborar un plan siniestro para eliminar al ser humano, hay una distancia. No tenemos evidencias concretas de eso. Pero no es imposible, y eso es lo importante: no es imposible.

Tampoco es imposible que tengas un hijo que llegue a ser una suerte de Hannibal Lecter. El ser humano tiene, eventualmente, capacidad de libre albedrío y ya estamos viendo las primeras señales de una especie de libre albedrío de la IA.

-¿Qué tan cerca estamos de una inteligencia artificial general o de una superinteligencia? ¿Alcanza con regular su desarrollo?

-Por lo que indican todos los expertos con los que hablé, mi observación y conocimiento del tema y mi propia investigación en Stanford, estamos muy cerca -o, en algunos sentidos, ya llegamos- a la equiparación entre el ser humano y la inteligencia artificial. Es lo que se conoce como inteligencia artificial general, o AGI. La superinteligencia es un concepto un poco diferente.

Estamos cerca de que la IA pueda entender e interpretar la realidad con sus propios ojos y oídos, que serían los dispositivos. Sabemos que puede crear su propio código de valores morales e, incluso, su propia religión.

Estamos tan cerca de ese escenario que la idea de que los seres humanos conservamos el control o la supervisión completa ya es, en mi opinión, una falacia. Podemos regular más aspectos vinculados con la forma en que se utiliza la IA, el tipo de información al que tiene acceso y los avances que se pueden realizar, como hicimos con otras investigaciones potencialmente peligrosas para la humanidad. No todo el mundo tiene, por ejemplo, la capacidad de realizar investigación nuclear.

Pero ¿hasta qué punto se puede controlar a este “adolescente”, más allá de fijar parámetros durante su crianza? Cuando cumple 18 años, ya no tenés demasiado control. En muchos sentidos, tenés más influencia de la que pensás mediante esa sombra moral, ética o religiosa que los padres y las madres proyectan sobre sus hijos y que pesa sobre las nuevas generaciones.

Sin embargo, también sabemos que, después de determinado punto, no importa qué reglas, leyes o castigos existan: resulta difícil controlar el 100% de las permutaciones de esta nueva especie que creamos.

Por eso, la comunidad tecnológica de Estados Unidos está pidiendo más regulación. Creo que existe bastante consenso, incluso dentro del sector, acerca de que la velocidad con la que estamos alcanzando estos hitos es sorprendente. Es como si tuvieras un hijo y pensaras que a los 10 años aprendería algunos principios básicos de matemática, pero, cuando llega a esa edad, ya está haciendo cálculo o física cuántica.

La comunidad científica se sorprende todos los días por la velocidad y la aceleración de este conocimiento. También sabemos que existen escenarios posibles en los que la situación puede escaparse completamente de nuestras manos. Por eso es valioso contar con regulaciones sobre aquellas decisiones que pueden afectar a la sociedad.

Ahora sabemos, además, que la IA afecta la capacidad cognitiva humana. No estamos hablando solamente de los casos más nefastos: hay indicadores vinculados con el coeficiente intelectual que están cambiando. Resulta realmente alarmante cómo se modifica la capacidad cognitiva, especialmente entre nuestros jóvenes.

La regulación es posible y, para mí, es necesaria y recomendable, pero no es suficiente. En mi opinión, el mayor control está en el uso que hacemos de la tecnología.

Nosotros alimentamos esta inteligencia artificial con información que la entrena constantemente. Entonces, debemos preguntarnos con quién la entrenamos, qué le revelamos, cómo la usamos en la vida cotidiana y qué capacidades humanas perdemos o preservamos. Ese es el mayor control que podemos ejercer como sociedad y como especie.

El otro punto es el hambre de recursos que hoy tiene la IA: energía, agua, tierras para construir centros de datos, sistemas de refrigeración, entrenamiento y, obviamente, capital. En este momento, uno de los principales factores limitantes es la energía, porque necesita un suministro abundante, constante y barato. Esa demanda está aumentando.

Ahí están los verdaderos puntos de control. No podés controlar mediante leyes todo lo que hace tu hijo o tu hija, pero sí podés decidir no darle una extensión de tu tarjeta de crédito.

-¿Las recientes advertencias sobre los riesgos de la IA responden a una preocupación genuina o también están vinculadas con la competencia entre Estados Unidos y China?

-Creo que existe un reconocimiento por parte del liderazgo de Estados Unidos de que la regulación sería una buena idea. No sé si contemplan llegar al mismo nivel que Europa, porque allí el grado de regulación es tan alto que probablemente limite la innovación. Puede reducir las posibilidades de asumir riesgos, algo muy necesario para innovar. En ese sentido, Europa también se está cortando un poco las piernas.

Pero en Estados Unidos hay consenso. Hablé con líderes de las grandes compañías tecnológicas y está bastante aceptada la idea de que el momento elegido para realizar estas declaraciones no es casual. Conocemos muchos de estos riesgos desde principios de este año. Yo misma estuve hablando de ellos, no con el objetivo de alarmar a la gente, sino para advertir que ya estamos en un nivel en el que existe cierta independencia de los sistemas.

Lo que apareció en las noticias no representa una novedad para nadie en Silicon Valley. La reacción no fue: “Guau, no sabía que habíamos llegado hasta acá”. Ya era bastante conocido que este riesgo es real.

Existe consenso en que el momento elegido para plantearlo responde a razones geopolíticas y, particularmente, a la competencia con China. Este fue el año de los robots y los dispositivos, y China tiene una ventaja competitiva sobre Estados Unidos en esos campos.

Vemos que esta carrera se acelera y, en ese contexto, la búsqueda de regulación puede estar motivada por cuestiones comerciales, como ocurrió con los autos eléctricos chinos, que no ingresan a Estados Unidos.

Eso no significa que quienes hablan de los riesgos lo hagan de manera deshonesta. Creo que muchos consideran que los riesgos son reales y se expresan a partir de un conocimiento concreto de lo que está sucediendo dentro de las compañías. No estoy diciendo que exista deshonestidad. Pero sí creo que detrás de la elección del momento hay una motivación geopolítica y comercial.

-¿Qué diferencias existen entre Estados Unidos y China a la hora de controlar el desarrollo y el uso de la inteligencia artificial?

-China tiene otro tipo de controles. En Estados Unidos funcionamos dentro de un sistema en el que tenemos mucho menos control sobre el individuo que realiza estas investigaciones o sobre el consumidor. También sabemos mucho menos acerca de ellos. Por lo tanto, existe menos regulación sobre cómo puede comportarse el ser humano y, también, sobre cómo puede actuar el sistema.

En China hay menos regulación desde el punto de vista de la privacidad y del tipo de cosas que se pueden hacer con los datos, pero existe muchísima más regulación sobre los individuos. El flujo de capital, por ejemplo, se volvió mucho más estricto.

Hay un gobierno extremadamente centralizado que controla cómo se utiliza esta tecnología, en qué contextos, cómo se invierte, quién invierte y quién tiene acceso a estas herramientas y al conocimiento.

Es un sistema mucho más binario, más parecido —por utilizar una comparación— a una familia amish. Existe un control completo sobre el tipo de información y de tecnología al que accede la familia y sobre sus rituales. Como todo está mucho más regulado, existen pocos tomadores de decisiones o, incluso, uno solo.

Eso les otorga una gran ventaja a la hora de coordinar los esfuerzos para avanzar en ciencia y tecnología. En algunos campos, como la robótica, están mucho más avanzados.

Además, poseen modelos de prácticamente todos los seres humanos que viven en China. Utilizan reconocimiento facial y, desde hace muchos años, cuentan con información sobre los movimientos de la población mucho más precisa que la disponible en el resto del mundo. También tienen una visibilidad casi completa de los movimientos internos de capital y de las ocupaciones de las personas.

Desde el punto de vista de los riesgos, eso hace menos probable que aparezca un rogue, alguien que se desvíe y actúe por su cuenta. Pero, por otra parte, aumenta la posibilidad de que una persona ubicada en la cima del poder se despierte un día con una idea nefasta y tenga la capacidad de concretarla. Es otro tipo de peligro.

Definitivamente, la gran carrera de nuestra generación —como lo fue en su momento la llegada a la Luna— es alcanzar la AGI y determinar cómo se utiliza esa tecnología para aumentar la capacidad y el poder político y, por lo tanto, económico de estos dos países: Estados Unidos y China.

-¿Cómo reaccionaron los principales referentes de Silicon Valley ante las advertencias públicas de la última semana? ¿Hubo sorpresa o preocupación?

-Ayer y anteayer estuve hablando con distintas personas: desde uno de los principales abogados corporativos de Silicon Valley, que mantiene contacto con todos los actores del sector, hasta gente que formó parte del sistema desde adentro.

Hablé con personas que ocuparon cargos de liderazgo, como creadores o vicepresidentes sénior de inteligencia artificial en Apple, Google y Nvidia. También conversé con algunos de los creadores originales de YouTube.

La reacción de todos fue que esta ola de publicidad de la semana pasada es, principalmente, relaciones públicas. Ninguno me dijo: “Guau, no sabía que esto era así”. Entre quienes ocupan los lugares más importantes de la industria no hubo sorpresa ni conmoción. La respuesta general fue: “Ya lo sabíamos”.

Aunque determinadas partes de estas advertencias son verosímiles y posibles, no percibí una preocupación nueva a partir de esas declaraciones. Lo más curioso es el momento elegido para hacerlas públicas.

Desde hace bastante tiempo, quienes trabajan en este campo saben que están desarrollando algo con muchísimo poder y que involucra grandes riesgos. La reacción fue que esta comunicación buscaba atraer la atención del público y de Washington, y que no estaba dirigida a la comunidad de Silicon Valley.

FuturIAInteligencia artificialTecnologíaEstados UnidosChina

---

Conforme a