Vivencias en primera persona de nuestra Comunidad: Adrián Arnaiz Rodríguez, investigador en ELLIS Alicante y becado joven de investigación de la Fundación Banco Sabadell: “La IA fiable debe ser segura, justa, explicable y gobernable.”

«Como investigador en ELLIS Alicante y becado joven de investigación de la Fundación Banco Sabadell, mi trabajo parte de una convicción: la inteligencia artificial (IA) en la que merece la pena confiar no es la que automatiza más, sino la que entiende mejor el mundo humano en el que actúa. Cuando hablamos de IA, casi siempre lo hacemos en los mismos términos: más capacidad, más precisión, más automatización. Yo también empecé mi trayectoria investigadora atraído por esa promesa. Pero tras mi doctorado en ELLIS Alicante he llegado a otra conclusión: la gran pregunta ya no es solo si una IA puede decidir bien, sino qué significa decidir bien cuando hay personas, derechos, contextos sociales y reglas en juego. Mi tesis doctoral, dirigida por la Dra. Nuria Oliver, defendida en septiembre de 2025, titulada “A Sociotechnical Approach to Trustworthy AI: from Algorithms to Regulation”, resume ese recorrido: pasar de mirar solo los algoritmos a entender la inteligencia artificial como un sistema más amplio y sociotécnico.

Para mí, hablar de inteligencia artificial fiable significa pedir que los sistemas de IA no solo sean potentes, sino también justos, robustos, interpretables, auditables y alineados con los valores y las normas de la sociedad en la que se usan. Esa ha sido la idea que ha guiado mi investigación en ELLIS Alicante, donde he trabajado sobre decisiones de alto impacto, redes sociales, colaboración entre humanos y algoritmos, y la intersección entre IA, regulación y gobernanza. No son temas separados. Forman parte del mismo problema.

Una de las primeras cosas que aprendí al investigar fue que la justicia algorítmica no puede tratarse como un adorno ético que se añade al final. Cuando delegamos en un algoritmo decisiones que afectan al empleo, a las finanzas personales o al acceso a servicios públicos, la precisión técnica deja de ser suficiente. También hay que preguntarse a quién perjudica más cuando se equivoca, qué sesgos reproduce y qué daños puede reforzar sin que apenas nos demos cuenta. Por eso, una parte importante de mi trabajo ha girado en torno a la discriminación algorítmica y a cómo convertir diferentes perspectivas de justicia en un problema técnico medible. Pero también entendí algo igual de importante: no basta con arreglar el modelo. Hay que analizar el sistema sociotécnico completo.

Esto se ve con especial claridad en las redes sociales, donde los algoritmos no solo “predicen” o “clasifican”: recomiendan, priorizan contenidos, deciden qué gana visibilidad y condicionan qué vemos y qué dejamos de ver. En otras palabras, también dan forma a parte de nuestro entorno social. Por eso me interesa estudiar no solo la justicia en decisiones individuales, sino también la desigualdad estructural en redes y sistemas de recomendación. Es uno de los debates centrales de nuestro tiempo: entender que el impacto de la IA no depende solo de su precisión. También depende del ecosistema social que ayuda a construir

«La inteligencia artificial (IA) en la que merece la pena confiar no es la que automatiza más, sino la que entiende mejor el mundo humano en el que actúa.»

Mi estancia internacional en el Max Planck Institute for Software Systems reforzó una convicción de que el reto en la interacción humano-IA está en diseñar mejores formas de colaboración entre ambos, saber cuándo la IA puede complementar el juicio humano, cuándo conviene supervisarla y cómo repartir mejor las decisiones para reducir errores y asumir mejor la responsabilidad. Esa idea de complementariedad entre decisión humana y apoyo algorítmico me interesa precisamente porque aporta una mirada menos tecnológica y más realista del problema.

También he comprobado que conseguir una inteligencia artificial en la que podamos confiar depende de su gobernanza. Es decir: de la capacidad de traducir principios generales a prácticas concretas, de conectar innovación con rendición de cuentas, y de crear instituciones capaces de supervisar sistemas complejos. Por eso parte de mi trabajo se ha centrado en debates sobre regulación, derechos digitales y responsabilidad algorítmica. He podido participar en espacios muy distintos, desde colaboraciones vinculadas a la Carta de Derechos Digitales hasta charlas en entornos de policy-making como el Joint Research Centre de la Comisión Europea o al Comité JURI del Parlamento Europeo. Esa experiencia me ha reafirmado en una idea: una buena IA tiene que poder explicarse y gobernarse.

Al mirar atrás, veo mi etapa en ELLIS Alicante como un aprendizaje continuo. Empecé por los modelos, seguí con las redes y la equidad, y terminé por entender que la confianza en la IA también radica en cómo se integra en organizaciones, instituciones y procesos humanos. En ese recorrido he colaborado con equipos internacionales, he sido investigador visitante en MPI-SWS, he coorganizado un tutorial en ICML 2024 sobre graph learning y he dado ponencias sobre IA, justicia algorítmica y regulación. También he podido conocer a premios Nobel y Turing como Heidelberg Young Researcher, colaborar con investigadores de instituciones punteras como Intel Labs o Google Research, y participar en actividades de liderazgo dentro de la comunidad científica. Este recorrido no habría sido posible sin el apoyo de instituciones que, como la Fundación Banco Sabadell, entienden que la excelencia investigadora debe ir unida a un compromiso firme con la sociedad y sus problemas reales.

Si hoy tuviera que resumir mi investigación en una sola frase, reiteraría que la inteligencia artificial en la que merece la pena confiar no es la que automatiza más, sino la que entiende mejor el mundo humano en el que actúa, porque detrás de cada modelo hay personas, decisiones e instituciones que importan. Y eso exige más que buenos algoritmos. Exige criterio, supervisión, contexto y reglas. Exige, en definitiva, una inteligencia artificial que no solo sea capaz, sino también digna de nuestra confianza. »