Reportaje de Rubén Fernández-Costa O’Dogherty: El nuevo orden digital

Tres conversaciones en profundidad componen este reportaje especial de CyberLideria MGZN sobre la configuración mundial de un nuevo ecosistema —también llamado ‘nuevo orden digital’— tras las revolución de la IA y, por consecuencia, cuáles son los vectores clave a los que poner atención.

Nuria Oliver es Directora de la Fundación ELLIS, computer scientist y PhD en Media Lab MIT

“Como científica”, Nuria Oliver cuenta con una gran trayectoria en la academia, además de industria y policy, “yo describo este momento como la consolidación de la Cuarta Revolución Industrial, donde la IA actúa como el corazón y motor de una unión íntima entre el mundo físico, el biológico y el digital. En este contexto, conviven actores con intereses profundamente divergentes: por un lado, gigantes tecnológicos estadounidenses, que acumulan no solo poder económico sino crecientemente poder político sin precedentes; por otro, el modelo de control estatal chino, que prioriza la eficiencia sistémica sobre la libertad individual; y frente a ellos, la academia y las redes de talento como ELLIS, que luchamos por una investigación en IA abierta, transparente y para el Bien Social. El cuarto actor, y el más vulnerable, es la ciudadanía, que en esta revolución corre el riesgo de ser un mero espectador o un producto”.

“Europa se encuentra en una encrucijada crítica”, señala, dado que “o lideramos una tercera vía soberana que utilice la IA para resolver los grandes retos del estado de bienestar y la sostenibilidad planetaria, o delegamos nuestro futuro en algoritmos desarrollados por otros, con intereses no necesariamente alineados con los nuestros. Como defiendo en mi libro Inteligencia Artificial, naturalmente, nuestro desafío es convertir esta Cuarta Revolución en un verdadero humanismo tecnológico, asegurando que la tecnología sea una herramienta para el progreso inclusivo y la prosperidad compartida”, con retos que van “desde la asimetría de poder y la opacidad algorítmica hasta su impacto en el mercado laboral y la sostenibilidad, no conocen fronteras. Una gobernanza global es la única vía para evitar una ‘carrera hacia el fondo’ donde la competitividad se logre sacrificando los derechos humanos. Debemos aspirar a un marco internacional que garantice que la IA respete los derechos fundamentales en cualquier rincón del planeta. Necesitamos entender la IA como un bien público global”, subraya, “similar al clima o la salud, cuya gestión no puede quedar en manos de monopolios comerciales o de modelos autoritarios”.

“Desde la mirada de España”, en su opinión, el momento actual se define por una dualidad: “poseemos un talento científico y una infraestructura de datos de primer nivel, pero nos enfrentamos al desafío histórico de traducir esa excelencia en soberanía industrial y competitividad real. España vive un despertar donde instituciones y academia han entendido que no podemos ser meros espectadores”. Se refiere a temas como “la soberanía tecnológica, entendida como la capacidad de desarrollar soluciones tecnológicas propias que nos permitan dejar de ser consumidores de cajas negras creadas en otros continentes; la lucha contra la manipulación y desinformación, un reto sistémico para nuestra salud democrática; y la IA para el Bien Social, centrada en su potencial para mejorar servicios públicos esenciales como la sanidad o la transición ecológica. Asimismo, yo agregaría la necesaria inversión en talento, el activo más valioso”.

Desde su perspectiva, el reto fundamental reside en transitar hacia ese “modelo de excelencia ética y eficiencia algorítmica. El sector público tiene la responsabilidad histórica de garantizar que la IA sea una herramienta de valor público, liderando la creación de infraestructuras de datos soberanas y seguras que fortalezcan el estado de bienestar sin comprometer los derechos fundamentales. Por su parte, el sector privado debe entender que la competitividad no vendrá de la especialización, la frugalidad computacional y la innovación responsable”.

El mayor desafío compartido sería “la gestión del talento: si no somos capaces de crear ecosistemas vibrantes que retengan (y atraigan) a nuestras mentes más brillantes, seremos meros consumidores de una tecnología creada por otros. Debemos poner el foco en una colaboración público-privada que actúe como catalizadora de la investigación de alto riesgo y alto impacto, entendiendo que invertir en ciencia no es un gasto, sino el único seguro de vida para nuestra autonomía futura. Precisamente, tanto ELLIS Europa como ELLIS Alicante, la fundación que dirijo, tienen como objetivo atraer y retener el talento investigador excelente en IA con un modelo de financiación público-privado. En este contexto, aprovecho para hacer un llamamiento hacia la filantropía a la investigación científica. Esta necesidad de colaboración público-privada es acuciante”.

En un mundo donde la infraestructura crítica depende de algoritmos, “la seguridad es una necesidad existencial. En cuanto a la desinformación, el reto es quizás el más urgente para nuestra salud democrática, ya que la IA generativa ha reducido a cero el coste de crear contenidos sintéticos hiperrealistas. Para combatirla, no basta con soluciones técnicas como el marcado de agua o la detección algorítmica, que son necesarias pero insuficientes. La alfabetización digital crítica y la supervisión para velar por el cumplimiento de la ley son fundamentales. Debemos empoderar a la ciudadanía para que entienda que estamos en una realidad donde «ver ya no es creer», fomentando una sociedad que cuestione la fuente y la intención de la información. Como defiendo en mi libro, la mejor defensa contra la manipulación es una población educada y un ecosistema de información basado en la verificabilidad, donde la tecnología se use para amplificar la verdad y no para acelerar la mentira”.

En esta nueva configuración, la Universidad, la Academia y los centros de Investigación “deberían ser los garantes de la soberanía intelectual. Instituciones como ELLIS Alicante, dedicada a investigación sobre IA ética, responsable y para el Bien Social, son fundamentales porque representan un modelo de investigación científica de vanguardia con total independencia de los intereses comerciales de las grandes corporaciones. Nuestro objetivo es liderar en excelencia científica con propósito social, asegurando que la IA se desarrolle bajo los principios de transparencia, justicia y beneficio para la humanidad.

La Universidad debe evolucionar hacia un modelo de formación polímata, donde el pensamiento crítico y las humanidades se entrelacen con la tecnología. Sin una investigación básica independiente y académicamente rigurosa, corremos el riesgo de que el conocimiento se convierta en un secreto industrial opaco. La formación y la investigación independiente son la única base sólida sobre la que podemos construir una sociedad que gobierne la tecnología, en lugar de ser gobernada por ella”.