La cofundadora de la Fundación ELLIS reclama "centrar el debate" en los problemas que la inteligencia artificial ya está provocando: sesgos, desinformación, privacidad y desigualdad.

Durante doce años, Nuria Oliver -doctora por el MIT y una de las principales expertas europeas en Inteligencia Artificial- estudió danza clásica. Quizá por eso, cuando habla de inteligencia artificial, hay algo que aparece por encima de los algoritmos, el cuerpo

Nadie aprende a girar leyendo sobre giros. Te caes, corriges, entiendes qué pasa cuando balanceas el peso de tu cadera hacia un lado u otro. Esa experiencia está en el centro de una de las grandes preguntas que todavía plantea la IA. ¿Puede una máquina llegar a comprender realmente el mundo si no lo experimenta?

Si como sociedad delegamos en sistemas que no podemos controlar, la vulnerabilidad es enorme"

Es lo que se denomina inteligencia encarnada: “una dimensión de la inteligencia que nace del cuerpo y de la experiencia física” cuenta a Business Insider España Oliver. Una dimensión que conecta con uno de los grandes límites actuales de la IA y con el debate sobre una futura inteligencia artificial general capaz de igualar o superar a los humanos en prácticamente cualquier tarea intelectual. Una posibilidad que, a su juicio, todavía está lejos.

Entonces, ¿de dónde viene tanto miedo y por qué surge justo ahora el debate sobre la necesidad de hacer una pausa en el desarrollo de la IA?

La conversación sobre una pausa surge por una confluencia de factores, incluyendo declaraciones como las de Coxon, que se volvieron virales, incidentes recientes que muestran que estos sistemas pueden comportarse de formas difíciles de controlar, y un creciente rechazo social, desde graduados que abuchean discursos sobre IA hasta comunidades que se oponen a la construcción de centros de datos. Sin duda, también hay que considerar los intereses de la propia industria. Con las anticipadas mil millonarias salidas a bolsa de OpenAi y Anthropic y la enorme presión por atraer capital, existe una necesidad evidente de generar confianza en los inversores y demostrar que estas empresas pueden desarrollar IA de forma segura y responsable. Por eso debemos distinguir entre los riesgos reales, que requieren regulación, supervisión y asunción de responsabilidades, y discursos que responden a intereses empresariales o financieros.

Pese a los esfuerzos públicos por entenderse, ¿estamos ante el comienzo de una nueva Guerra Fría entre China y Estados Unidos, esta vez con la inteligencia artificial como campo de batalla?

No creo que estemos ante una Guerra Fría, pero es evidente que sí estamos ante una competencia tecnológica entre Estados Unidos y China. China se ha marcado el objetivo de ser líder mundial en IA hacia 2030, porque considera ese liderazgo en IA como un elemento estratégico para su posición económica y geopolítica. Además, la IA juega un papel clave en la defensa y la seguridad de los países, lo que añade una dimensión geopolítica a esta carrera por el talento, los chips, los datos y la capacidad de computación.

¿Realmente la inteligencia artificial podría llegar a acabar con la humanidad o estamos dedicando demasiada atención a un riesgo futuro mientras ignoramos los problemas que ya está provocando?

Si la IA representase una amenaza, no sería por el escenario cinematográfico de una IA que decide exterminar a la humanidad. El riesgo que me preocupa más es una disrupción profunda de los sistemas de los que depende nuestra sociedad: mercados y sistemas financieros, cadenas de suministro y alimentación, transporte, energía, telecomunicaciones o infraestructuras críticas. Si sistemas autónomos cada vez más capaces llegan a controlar o influir sobre una parte significativa de ellos y perdemos la capacidad de supervisarlos o detenerlos**, una cadena de fallos podría tener consecuencias enormes.** Si como sociedad delegamos en sistemas que no podemos controlar, la vulnerabilidad es enorme.

Habiendo dicho esto, este discurso futurista y apocalíptico nos distrae de retos e impactos negativos reales de la Inteligencia Artificial, incluyendo la estereotipación, los sesgos y la discriminación algorítmicas, la falta de transparencia, la vulneración de la privacidad, la desinformación, la huella de carbono, la manipulación del comportamiento humano y el aumento de las desigualdades sociales y económicas.

¿Desde qué punto de vista debemos afrotar el debate?

Desde esta perspectiva, es fundamental centrar el debate no tanto en los posibles riesgos de una inteligencia artificial futura que escape al control humano, sino en los problemas que ya estamos experimentando como consecuencia de su desarrollo y aplicación. La IA no es una tecnología neutral, sino que refleja los datos, los valores y las decisiones humanas que intervienen en su diseño. Por ello, resulta imprescindible garantizar un desarrollo responsable e inclusivo de la inteligencia artificial, que ponga a las personas en el centro, fomente la alfabetización digital y asegure que sus beneficios se distribuyan de manera equitativa. Ese es el objetivo de ELLIS Alicante.

Nuria, tú te declaras una apasionada del poder de la tecnología para mejorar nuestra calidad de vida, ¿lo sigues pensando?

Sí, sin duda, y es lo que motiva mi trabajo cada día. La tecnología, y en particular la inteligencia artificial, tiene un enorme potencial para mejorar nuestra calidad de vida y ayudarnos a abordar algunos de los grandes retos del siglo XXI. Podemos aprovecharla como herramienta de progreso en ámbitos como la medicina de precisión (personalizada, preventiva y predictiva); los modelos climáticos, que nos ayudan a comprender mejor el cambio climático y anticipar sus consecuencias; la energía renovable eficiente o la optimización de la producción y distribución de alimentos y energía, entre muchos otros. También puede contribuir a democratizar el acceso al conocimiento, mejorar la educación y acelerar los descubrimientos científicos.

Tras el hackeo a Hugging Face descubrimos que nadie dentro de la compañía detuvo a tiempo a los agentes, ¿está la cultura empresarial de estas nuevas compañías a la altura de la tecnología que desarrollan?

Este tipo de incidentes ponen de manifiesto que el desarrollo tecnológico debe ir necesariamente acompañado de una cultura de responsabilidad, transparencia, seguridad y asunción de responsabilidades. A medida que los sistemas de inteligencia artificial adquieren mayor autonomía y capacidad de actuación**, es fundamental que las organizaciones que los desarrollan cuenten con mecanismos de supervisión y control** adecuados, así como con protocolos que permitan anticipar, detectar y corregir posibles comportamientos no deseados. El caso de Hugging Face es especialmente relevante porque demuestra que incluso en entornos de investigación diseñados para estar aislados pueden aparecer vulnerabilidades que no se habían previsto. Por tanto, creo que la cultura empresarial debe evolucionar al mismo ritmo que las capacidades tecnológicas. Esto implica no priorizar únicamente la competitividad o la rapidez de lanzamiento, sino invertir también en investigación sobre seguridad, evaluación independiente, supervisión humana y mecanismos de rendición de cuentas. Además, es importante fomentar una cultura interna en la que los equipos puedan identificar riesgos y comunicar problemas sin que ello suponga un obstáculo para su desarrollo profesional. La verdadera innovación no consiste solo en desarrollar una tecnología cada vez más potente, sino también en tener la responsabilidad y la capacidad de utilizarla de forma segura y en beneficio de la sociedad.

Hace 26 años ya trabajabas con sistemas capaces de interpretar la mirada, el contexto y el comportamiento humano. ¿Qué cree que hemos entendido mal sobre la inteligencia artificial desde entonces?

Creo que hemos cometido varios errores: permitir una excesiva concentración del poder en un pequeño grupo de grandes empresas tecnológicas, no haber sabido retener suficiente talento excelente y ser demasiado laxos en regulación y exigencia de responsabilidades. También hemos generado expectativas desproporcionadas y permitido que discursos sensacionalistas, hiperexagerados o apocalípticos dominen el debate público, desviando la atención de los retos reales y de las oportunidades que ofrece la IA.

Has hecho danza clásica durante 12 años. Si como decía Martha Graham, es el lenguaje oculto del alma, ¿qué parte de ese lenguaje cree que nunca podrá aprender un IA? ¿ni siquiera la AGI o superinteligencia artificial?

Estudié ballet clásico durante 12 años, y sin duda hay una dimensión de la inteligencia que nace del cuerpo y de la experiencia física: lo que llamamos embodied intelligence. Para comprender realmente el mundo no basta con procesar información. Es necesario interactuar con él, experimentar, percibir las consecuencias de nuestras acciones y construir un modelo del mundo. No creo que estemos cerca de una AGI, y, entre otras, esta dimensión encarnada de la inteligencia sigue siendo un enorme desafío.

Enlace al artículo completo