Decenas de casos de IA que se salta órdenes y oculta información reavivan el debate sobre si ralentizar la carrera por el dominio de esta tecnología. ¿Hay capacidad humana para revisar a la IA? ¿Nos está ya superando?

«Estas empresas operan con mucha opacidad y es difícil saber exactamente desde cuándo y cuántos incidentes se han producido, pero sabemos que en contextos o bien de entrenamiento de modelos o bien de evaluación, los modelos han demostrado un comportamiento emergente, no anticipado, imprevisible y que en muchos casos ha dado lugar a cometer ciberataques contra los servidores de otras empresas. A esto se le suma las declaraciones de Coxon, que ha dimitido alegando que consideraba que el comportamiento de estas empresas era irresponsable y que podía representar una amenaza para la supervivencia de la humanidad, y, al mismo tiempo, ha crecido un sentimiento negativo hacia la IA en la sociedad americana. Creo que, fruto de todo eso, a las empresas no les ha quedado más remedio que intentar calmar un poco los ánimos con este tipo de declaraciones que afirman que están abiertas a que haya auditorías», opina Nuria Oliver, cofundadora de la Fundación Ellis Alicante, dedicada a la investigación sobre IA responsable y centrada en las personas.

Para la experta hay que diferenciar entre «violaciones de privacidad, acceso a datos personales sin permiso, impactos en el sector creativo, retos medioambientales o la transformación del mercado laboral son retos conocidos y bien documentados. Otros, como una posible extinción humana, son evidentemente especulativos, pero aún así parece evidente, en base a los incidentes reportados en los últimos meses, que las capacidades de los agentes de IA generan potenciales consecuencias negativas no deseadas. Cuando se despliegan cientos de agentes, su comportamiento es difícil de predecir».