Sin defender tesis apocalípticas, la experta en inteligencia artificial Nuria Oliver advierte contra las maniobras de distracción de las grandes tecnológicas

Nuria Oliver (Alicante, 1970) no es una experta en IA más, ahora que todo el mundo se arroga ese título con currículum o sin él. Esta ingeniera de telecomunicaciones, con un doctorado en inteligencia artificial por el MIT Media Lab, es probablemente la especialista española más reputada (y, desde luego, la más citada) a nivel internacional. La revista científica 'AI Magazine' la distingue, de hecho, entre los diez líderes de la IA en Europa, un ranking que encabeza Demis Hassabis, director ejecutivo de Google DeepMind y uno de los protagonistas del culebrón, con tintes apocalípticos, desatado en los últimos días del que opinan desde Trump y Obama hasta el gobierno chino y todos y cada uno de los gurús tecnológicos.

Por eso, cuando el sector vive la crisis más importante de su historia y las implicaciones económicas y geopolíticas se multiplican a su alrededor, conviene escucharla con atención. Oliver es cofundadora y directora de la Fundación ELLIS Alicante (European Laboratory for Learning and Intelligent Systems), que promueve un desarrollo ético y transparente de la tecnología impulsado desde el viejo continente. Pese a una situación dominada por la incertidumbre y los mensajes alarmistas, para la experta esa quimera todavía es posible. Pero solo si todo el mundo pone de su parte.

– De los peligros del desarrollo sin control de la inteligencia artificial se lleva hablando muchos años, ¿por qué estamos asistiendo a esta catarsis precisamente ahora?

– El detonante es la dimisión del ingeniero de Anthropic Jacob Coxon, que, después de hacerse viral, inició un efecto dominó sobre lo que la IA puede representar para la humanidad. Eso, sumado al comportamiento no deseado e impredecible de los agentes de IA de las diferentes compañías y las expectativas sobre las salidas a Bolsa de algunas de ellas, ha dado lugar a una reacción de la tecnológicas, que han decidido defender la autorregulación, que ya sabemos que no existe, y una cierta apertura a las auditorías externas, aunque con matices.

– ¿Es positivo ese anuncio o hay que desconfiar de sus motivaciones o intenciones reales?

– Creo que su objetivo es intentar eximirse de sus responsabilidades tanto económicas como legales o, incluso, potencialmente penales. No podemos olvidar que el incidente en el que los agentes de OpenAI atacaron y penetraron en los servidores de Hugging Face es, en realidad, un cibercrimen. Igual ha llegado el momento de empezar a llamar a cada cosa por su nombre, ¿no? Igual tienen que reconocer que han desarrollado una tecnología que puede cometer delitos graves.

– De los incidentes que se han reportado en los últimos meses, ¿cuál es el más preocupante de todos?

– Del que más información tenemos es, precisamente, el de OpenAI y Hugging Face. Es un ejemplo muy claro de comportamientos preocupantes, empezando por el hackeo con recompensa. En un intento de conseguir la máxima compensación posible, los agentes de IA hacen cosas que no deberían, como mirar las soluciones o hacer trampas. Al mismo tiempo, para evitar que les pillaran, terminaron accediendo a datos de Hugging Face, cambiándolos y haciendo todo tipo de fechorías. Es muy difícil, además, predecir qué tipo de atajos van a tomar.

«Las compañías de IA tienen que reconocer que han desarrollado una tecnología capaz de cometer delitos»

– También demostraron una capacidad alarmante de cooperar entre ellos, ¿no es así?

– Eso es. En este mismo incidente hubo una distribución del trabajo espontánea entre los agentes, que desarrollaron estrategias para no reinventar la rueda y construir sobre lo que hacían otros. Es una forma rudimentaria de transmisión cultural. Incluso se referían a sí mismos como colectivo o enjambre. Todos esos comportamientos emergentes e impredecibles son los que encienden las alarmas y nos hacen darnos cuenta de que hay miles de estos agentes pululando por internet que igual, en un determinado momento, concluyen que pueden controlar la red eléctrica de un país, o de varios, o tomar el control de las transacciones financieras, por ejemplo. Ahí está el origen de la preocupación. Y la conclusión está clara.

– ¿Cuál es?

– Si tienes una tecnología sobre la que no puedes garantizar un funcionamiento correcto, no la despliegues. Es lo que hemos hecho con todos los otros sectores y con todas las otras tecnologías de la historia que tienen un impacto significativo en la vida de las personas. Es lo que pasa en la aviación, la automoción, la industria farmacéutica, la alimentación... Todos los productos que consumimos son evaluados y pasan un montón de pruebas y protocolos de seguridad. Y lo mismo tenemos que exigirle a la tecnología.

Escenarios apocalípticos

– A todo esto, ¿esa desaceleración de la que hablan ahora es posible?

– Es que no tengo claro qué significa "parar" o "ralentizar", si te soy sincera. ¿Cómo se mide la velocidad de desarrollo de la IA? Con los sistemas actuales ya se pueden desplegar agentes de inteligencia artificial cuyo comportamiento emergente puede ser impredecible, con lo que no entiendo el significado de "parón". Además, no es la primera vez que hacen este tipo de anuncios. Hace un año ya dijeron cosas muy similares y no hubo ningún comportamiento observable. Es una manera de distraer. Ya deberíamos haber aprendido la lección con las redes sociales. Durante 20 años han funcionado prácticamente sin regulación y hemos tardado dos décadas, a través del Digital Services Act de la Unión Europea y de las sentencias judiciales en Estados Unidos, en que reconozcan que sí, que los algoritmos estaban diseñados para ser adictivos, cuando sabían que lo eran desde el día cero. Tenemos que aprender un poco de esa experiencia. Y también entender que no todo desarrollo tecnológico es progreso. Hay que diferenciar esos dos conceptos. Si un desarrollo no contribuye al progreso social no deberíamos incentivarlo, aceptarlo ni, por supuesto, pagar por ello.

– En este relato, parece que hay buenos y malos: Amodei (de Anthropic) y Hassabis (Google) serían los líderes con conciencia; Altman (OpenAI) y Musk, los que más inquietan. ¿Es eso también puro marketing o vamos hacia un mundo tecnológico de modelos éticos frente a otros desatados?

– El origen de Anthropic está relacionado con una preocupación por la seguridad de los grandes modelos. Sus fundadores eran los responsables de seguridad de OpenAI que, frustrados ante la falta de financiación y la irrelevancia que habían sufrido en la compañía, crearon una nueva empresa para desarrollar modelos de frontera con mayores garantías y valores. Dicho esto, ellos también han protagonizado incidentes recientes de funcionamiento no deseado. Insisto: creo que en todo esto subyace, sobre todo, una preocupación por las consecuencias económicas, legales y penales que se pueden derivar del comportamiento de su tecnología.

«Miles de agentes de IA podrían decidir controlar la red eléctrica de un país o de varios»

– En su opinión, ¿los escenarios apocalípticos, incluida la propia extinción humana de la que advierten algunos expertos, son una posibilidad real?

– Es que esos términos, la extinción de la humanidad, no sé ni lo que significan, sinceramente. ¿Que nos vamos a morir todos? ¿8.000 millones de personas?

– Pero es que el debate se está dando en esos términos. Uno de los problemas es que ni los propios expertos se ponen de acuerdo. Hay tantas voces autorizadas que defienden tesis apocalípticas, incluidos algunos premios Nobel, como las que mantienen que no es un peligro real. ¿A quién hacemos caso?

– Desde mi punto de vista, el riesgo más grande es un ataque a las infraestructuras básicas que sustentan nuestra sociedad: las energéticas, financieras, de transporte... Que por un mal funcionamiento de agentes de IA se caiga el suministro eléctrico de un país o que puedan llegar a hacerse transacciones financieras sin control. Eso puede dar lugar a una destrucción social enorme, y también puede tener un coste en vidas humanas. Pero me cuesta imaginar esos otros escenarios. Creo que en ese tipo de anuncios hay un elemento de distracción.

La inevitabilidad de la IA – El famoso 'doom trolling' o marketing del fin del mundo...

– Sí. De lo que sí tenemos evidencias, en cambio, es de que hay grandes números de agentes de IA que andan haciendo cosas en el mundo digital que pueden tener consecuencias en el mundo físico. Y eso, combinado con infraestructuras esenciales y estratégicas que pueden estar basadas en tecnología obsoleta, es una gran vulnerabilidad. Y luego, hay otra más a medio y largo plazo.

– ¿Cuál?

– El impacto que puede tener en cada uno de nosotros el hecho de que cada vez sepamos hacer menos cosas. En la naturaleza lo que no se usa se pierde. Ya estamos viendo que los adolescentes cada vez leen menos, entienden menos, escriben menos... Eso sí es motivo de preocupación: una sociedad donde los seres humanos ya no tenemos la capacidad de hacer nada porque hemos delegado todo en la inteligencia artificial. Más allá de eso, me cuesta visualizar otro tipo de extinción.

– Con este último movimiento, la industria tecnológica ha reconocido, entre otras cosas, que ha mentido. De momento, sin consecuencias. ¿Por qué no reaccionan los gobiernos occidentales?

– Sobre todo, por la falta de alfabetización técnica en las esferas de decisión. Pero también por la asimetría de información respecto a las empresas privadas y un temor paralizante a frenar la competitividad económica y la innovación.

– China, por su parte, ha acusado a las compañías americanas de manejar una agenda oculta y de tratar de «estrangular» el desarrollo de la tecnología. ¿En qué punto está la IA china? ¿Aventajará a Estados Unidos o es una carrera más o menos pareja?

– Es una competición muy estrecha fruto de la visión ambiciosa y las significativas inversiones de China en los últimos diez años. Estados Unidos lidera en innovación de modelos de frontera, capacidad de computación y semiconductores y China, en cambio, cuenta con una ventaja masiva en lo que se refiere al volumen de datos, la implementación industrial a gran escala, la investigación y el fuerte respaldo gubernamental con el que cuenta.

"Europa no ha perdido el tren de la IA todavía, pero tiene que cambiar de estrategia"

– Europa parece una mera espectadora, sin una IA potente propia por mucho que Macron haya tratado de impulsarla para alcanzar cierta soberanía tecnológica. ¿Es eso posible a estas alturas o ya hemos perdido ese tren?

– Europa no ha perdido el tren de la IA, pero sí debe cambiar de estrategia. No se trata de replicar el modelo estadounidense de monopolios privados, sino de invertir decididamente en talento, infraestructuras públicas de supercomputación y ecosistemas de investigación abiertos como ELLIS.

– Otro discurso recurrente es el de la inevitabilidad de la IA. La idea de que repensarla ya no es posible. ¿Es otra maniobra?

– La forma en la que se está desplegando no es inevitable. Ese discurso beneficia únicamente a las grandes corporaciones. La tecnología es una creación humana y, como tal, puede y debe canalizarse, regularse y orientarse hacia el bien común. La sociedad debería sentirse empoderada para decidir el futuro de la IA.

– Muchos expertos advierten que el momento en el que realmente perdemos el control sobre ella será en el que se alcance la llamada inteligencia artificial general (IAG). ¿En qué consiste exactamente y de qué plazos estamos hablando?

– Es una IA con el mismo nivel de competencia y complejidad que la inteligencia humana, incluyendo conceptos tan complicados como la autoconciencia. No hay consenso científico sobre si algún día conseguiremos una IAG. Y como sociedad deberíamos preguntarnos si es algo a lo que queremos aspirar. El riesgo de pérdida de control de la IA no depende eso. Ese riesgo existe cuando desplegamos agentes de IA autónomos sin las salvaguardas adecuadas, como hemos visto en los incidentes recientes que han reportado las tecnológicas.

– ¿Cuánto le preocupa la mala prensa que todo esto supone para una tecnología tan revolucionaria?

– Me preocupa el sensacionalismo en ambas direcciones: tanto el alarmismo apocalíptico como el 'hype' desmedido. Distrae de los riesgos reales e inmediatos, como los sesgos, la desinformación, el impacto en el mercado laboral, la pérdida de control de agentes de IA o el impacto medioambiental, e invisibiliza su enorme potencial en áreas como la medicina, la ciencia o la energía.

– Desde su fundación se dedican a promover una IA ética. En este contexto tan alocado, ¿cómo se consigue eso exactamente?

– Con convicción, atrayendo y reteniendo el mejor talento científico de Europa, con rigor y un compromiso claro con el impacto social y económico positivo. Hay que ser valiente para hacer preguntas importantes, aunque sean incómodas, sobre el impacto social de la IA. Y también se logra con financiación, claro.