Nuria Oliver, Idoia Salazar y Alicia Asín huyen del sensacionalismo y desentrañan qué hay detrás de las alertas de OpenAI y Anthropic sobre las amenazas que supone el desarrollo de esta tecnología
¿Es tan peligrosa la inteligencia artificial (IA) como dicen, repentinamente, sus desarrolladores? Ese apocalipsis prometido, ¿es un truco para desviar la atención de donde realmente hay que mirar? ¿O quizás una salvaguarda ante un potencial incidente que no puedan controlar—un yo ya te lo dije, emoji encogerse de hombros—?
Sea cual sea la respuesta correcta, es la polémica del momento en el ecosistema tecnológico y en todo el mundo.
Todo empezó con una salida y un número. El adiós de Jacob Coxon a Anthropic alertando de que las empresas de IA “están jugando con nuestras vidas”. Y el 10% de posibilidades de que esta tecnología acabe con todos los humanos en esta década del que habló, minutos después, Evan Hubinger, investigador de la misma empresa.
De ahí, las advertencias escalaron a lo más alto. De Dario Amodei (Anthropic) a Sam Altman (OpenAI), pasando por Elon Musk (xAI). Donde hasta hace nada todos veían potencial y respondían a esa creencia con crecimiento acelerado, ahora hay una petición unánime: ralentización. Bajar las revoluciones al motor, enfriarlo.
De ahí, las advertencias escalaron a lo más alto. De Dario Amodei (Anthropic) a Sam Altman (OpenAI), pasando por Elon Musk (xAI). Donde hasta hace nada todos veían potencial y respondían a esa creencia con crecimiento acelerado, ahora hay una petición unánime: ralentización. Bajar las revoluciones al motor, enfriarlo.
Entonces, ¿qué hacer ahora con esas herramientas que se han incorporado a nuestra rutina, que nos liberan de tareas tediosas y que incluso nuestras empresas nos invitan a usar más y más? ¿Estamos cavando nuestra propia tumba?
Artículo14 ha contactado con destacadas expertas españolas en IA para desentrañar qué está sucediendo y por qué. Así explican los acontecimientos vertiginosos de la última semana.
Cuidado con los mensajes apocalípticos
Nuria Oliver, directora de la Fundación ELLIS Alicante, atribuye el momento actual a dos detonantes.Por un lado, la dimisión de Coxon y las declaraciones de los líderes de Anthropic y OpenAI. Por otro, los incidentes que han salido a la luz este verano en los sistemas de estas empresas no funcionaban de forma adecuada en procesos de entrenamiento y evaluación. “Probablemente, el primero más por la visibilidad que ha recibido un mensaje tan apocalíptico“, señala.
No cree, eso sí, que lo que está pasando vaya a suponer un punto de inflexión. “No es la primera vez que hacen este tipo de anuncios, ya pasó hace un año y medio, y ni siquiera está claro qué significa ralentizar. ¿Van a teclear a la mitad de velocidad?”, se pregunta la ingeniera y doctora por el Media Lab del Instituto Tecnológico de Massachusetts.
También descarta un parón Idoia Salazar: “No habrá un acuerdo entre las grandes empresas para frenar los avances en la carrera de la IA”. La cofundadora y presidenta del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA) avala que “se alerte sobre los riesgos”, pero condena la forma. “Este tipo de mensajes a una población poco familiarizada con estos temas son muy negativos; pueden provocar un miedo infundado a una tecnología que puede hacer mucho bien“, destaca.
“No tiene sentido que digan que puede acabar con la humanidad. Además, al adentrarse en el terreno de la ciencia ficción, en vez de centrarse en su potencial, generan mucho más hype, más expectación”, agrega.
Al hype también alude Oliver para poner sobre la mesa un factor relevante: el debut bursátil de Anthropic y OpenAI.
“El peor momento para una salida a Bolsa es cuando hay una mala reputación para la IA y/o incertidumbre; y en este caso, se dan las dos”, afirma la directora de la Fundación ELLIS Alicante.
Para contextualizar lo que está pasando, invita a echar la vista atrás. “En los últimos seis meses, en Estados Unidos, ante una referencia a esta tecnología en los discursos de fin de grado, la reacción fue abuchear. Hay un sentimiento negativo en relación a la pérdida de empleos en los puestos de entrada por la IA, que está perdiendo el hype“, considera Oliver.
La experta recuerda que, “por su naturaleza y objetivos, la IA es como convertir a los seres humanos en dioses. Ese componente fascinante ha generado siempre sobreexpectativas y, ante un incumplimiento de estas, una decepción, un invierno”.
Dicho de otra forma, hasta la irrupción de los modelos de lenguaje de gran tamaño (LLM) y las valoraciones inéditas de empresas como el fabricante de chips Nvidia, la IA vivía una primavera: tenía valor y se utilizaba para tareas del día a día, en la medicina preventiva o en el desarrollo de nuevos medicamentos.
“Con las sobrevaloraciones y la carrera por conseguir el modelo más grande y más poderoso, se crean sobreexpectativas. Entran en el terreno de la ciencia ficción y dependen de esas sobrevaloraciones para su propia existencia económica ya que el entrenamiento de los modelos exige chips, energía y talento”, argumenta.
Dónde está Europa
Así, Oliver defiende que “no pueden sobrevivir sin crear expectativas de generación de riqueza”. Y, si tienen que asumir las consecuencias económicas y penales de su tecnología, tampoco.
Ahonda en el componente económico y en la potente apuesta por la IA de estas empresas y otros titanes tecnológicos como Google, Meta o Amazon. “Están ajustando plantilla por el coste de mantener y entrenar los modelos; no está claro el retorno de una inversión que es billonaria y donde ahora hay más competencia de los modelos abiertos”, aclara. Para el presidente de Estados Unidos sí lo está. Donald Trump considera un bulo el riesgo de extinción para la humanidad y aboga por mantener el ritmo en “el mayor motor de desarrollo económico de la historia”.
Alicia Asín, cofundadora y CEO de Libelium, apuesta por marcar distancias de lo que nos llega desde Estados Unidos o Asia: “Para Europa, es un debate irrelevante, seguimos consumiendo esos relatos ajenos como espectadores pasivos, mientras la brecha de adopción tecnológica nos devora y condiciona nuestra competitividad global”.
Desde su punto de vista, “nos da igual el relato que utilicen las grandes potencias porque nosotros ni siquiera estamos compitiendo en la misma carrera“. Por tanto, la urgencia “es dotar de músculo, autonomía y resiliencia a nuestro tejido productivo innovador. Lo estamos haciendo mediante un enfoque pragmático, conectando pymes, centros tecnológicos de vanguardia y la Administración para transferir soluciones operativas directamente a la economía real”.
Regulación y criterio para la nueva era
Según Oliver, “Europa necesita autonomía computacional, con independencia del desarrollo de la IA, porque la computación va a ser lo que la electricidad en la segunda Revolución Industrial”.
Partidaria de fijar límites —“no toda innovación tiene por qué ser buena”—, cree que la regulación fija las reglas del juego y “dirige la innovación hacia el progreso de la sociedad”.
Asín lo equipara a los inicios en el campo del Internet de las Cosas, ámbito donde opera su compañía. “La regulación debe exigir trazabilidad, propósito y responsabilidad a quienes diseñan la tecnología, sin sofocar la capacidad del tejido productivo, especialmente de las pymes, para adoptar soluciones reales. Y, sobre eso, la innovación surgirá”, asegura.
Salazar también avala la regulación y recuerda el caso de otra tecnología de gran impacto que se enfrentó a este proceso: el automóvil.
En relación a los incidentes que se están produciendo, espera que “se trabaje en medidas prácticas de control y alineamiento para que la IA amplifique a los seres humanos al tiempo que evoluciona”.
Y pone el foco en la educación. “El mundo no será igual en cinco años y la sociedad no está preparada, debemos hacer un rediseño de la humanidad para afrontar el cambio más rápido de la historia”, apunta. No se refiere a capacitación técnica, sino a entender el impacto que IA tendrá en nuestras vidas. “No aprender a convivir con ella es un riesgo mucho mayor, apocalíptico, porque seremos fácilmente manipulables”, alerta.
Reclama un esfuerzo común, implicando a políticos y empresas, y consciencia individual: “La IA es una herramienta de ayuda, no un oráculo. La persona debe mantener el control en la toma de decisiones y la responsabilidad de sus actos”. Como aclara Oliver, “no es un buscador ni tu amiga”.