Nuria Oliver se une al Panel Científico Internacional de Expertos en Seguridad de la IA Avanzada
Rebeca de Miguel
Directora de Operaciones de ELLIS Alicante
Se publicará un informe con impacto global en el futuro de la seguridad de la IA. El Dr. Yoshua Bengio, pionero de la Inteligencia Artificial, dirige el grupo de 32 expertos.
Nuria Oliver, directora de ELLIS Alicante y vicepresidenta de la red ELLIS, ha sido designada para formar parte de un órgano consultivo internacional que aportará la opinión de expertos sobre el “Informe científico internacional sobre seguridad en la IA avanzada”. La Dra. Oliver es la representante de España junto a 32 expertos de 30 naciones, según anunció a principios de este mes el Departamento de Ciencia, Innovación y Tecnología del Gobierno británico.
El informe, primero en su género, conducirá a una comprensión actualizada y basada en la ciencia sobre la seguridad y los riesgos de los sistemas avanzados de IA de última generación. Tras su anuncio en la Cumbre sobre Seguridad de la IA (AI Safety Summit) celebrada en noviembre de 2023, el Reino Unido ha encargado la elaboración del informe al informático canadiense Yoshua Bengio, galardonado con el Premio Turing de IA y miembro del Consejo Científico Asesor de la ONU sobre IA. El informe servirá como punto de referencia y herramienta de trabajo en las próximas cumbres sobre seguridad de la IA (AI Safety Summits).
Los miembros del panel asesorarán al Dr. Bengio sobre el contenido del informe y se espera que compartan y promuevan sus conclusiones en sus países de origen, garantizando que puedan orientar a los responsables políticos y a los tecnólogos en la toma de decisiones informadas sobre la seguridad de la IA. Se espera que la primera publicación tenga lugar en la primavera de 2024 y que a finales de año se publique una segunda iteración. El informe está llamado a convertirse en una publicación de referencia sobre las investigaciones científicas más avanzadas acerca de los riesgos y las capacidades del desarrollo de la IA en la frontera del conocimiento. Su objetivo es consolidar el impulso de la comunidad científica para garantizar que los debates sobre la seguridad de la IA sigan siendo un esfuerzo de colaboración internacional, que aúne la experiencia y diversas perspectivas globales en la materia.
Además de Nuria Oliver, los miembros del Grupo Asesor de Expertos representan a todos los continentes, incluidos el Dr. Hiroaki Kitano, Director Técnico de Sony; Amandeep Gill, Enviado Técnico de las Naciones Unidas; Dame Angela McLean, Asesora Científica Principal del Gobierno Británico; y Saif M Khan, Asesor Principal del Secretario de Tecnologías Críticas y Emergentes del Departamento de Comercio de los Estados Unidos. La lista completa de los miembros del panel puede consultarse aquí.here.
Con más de 25 años de experiencia en investigación sobre IA centrada en el ser humano, la participación de la Dra. Oliver en este panel de expertos está totalmente alineada con la visión y misión de ELLIS Alicante, una fundación privada sin ánimo de lucro dedicada a la investigación científica sobre IA responsable para el Bien Social. ELLIS Alicante aboga por el desarrollo responsable, transparente y centrado en el usuario de la Inteligencia Artificial, enfocándose en temas relevantes, como la equidad y transparencia algorítmica, la privacidad, la inclusividad en la interacción humano-IA y el estudio del impacto social de la IA. El objetivo es garantizar el impacto positivo de la IA en la sociedad.
Para obtener más información sobre las investigaciones en ELLIS Alicante, visite ELLIS Alicante