# Inteligencia Artificial: la Comisión avanza en su trabajo sobre directrices éticas

Sobre la base del trabajo del grupo de expertos independientes nombrada en junio de 2018, la Comisión está poniendo en marcha una fase piloto para garantizar que las directrices éticas para el desarrollo y el uso de la inteligencia artificial (IA) puedan aplicarse en la práctica. La Comisión invita a la industria, los institutos de investigación y las autoridades públicas a probar la lista de evaluación detallada elaborada por el Grupo de expertos de alto nivel, que complementa las directrices.

Los planes son un entregable bajo el Estrategia de IA de abril de 2018, cuyo objetivo es aumentar las inversiones públicas y privadas hasta al menos 20 millones de euros anuales durante la próxima década, haciendo que haya más datos disponibles, fomentando el talento y garantizando la confianza.

El vicepresidente del mercado único digital, Andrus Ansip, dijo: “Doy la bienvenida al trabajo realizado por nuestros expertos independientes. La dimensión ética de la IA no es una característica de lujo ni un complemento. Es solo con confianza que nuestra sociedad puede beneficiarse plenamente de las tecnologías. La IA ética es una propuesta en la que todos ganan que puede convertirse en una ventaja competitiva para Europa: ser un líder de la IA centrada en el ser humano en la que la gente puede confiar ".

La comisaria de Economía y Sociedad Digitales, Mariya Gabriel, añadió: “Hoy estamos dando un paso importante hacia una IA ética y segura en la UE. Ahora tenemos una base sólida basada en los valores de la UE y tras un compromiso amplio y constructivo de muchas partes interesadas, incluidas las empresas, el mundo académico y la sociedad civil. Ahora pondremos en práctica estos requisitos y, al mismo tiempo, fomentaremos un debate internacional sobre la IA centrada en el ser humano ".

La inteligencia artificial (IA) puede beneficiar a una amplia gama de sectores, como la salud, el consumo de energía, la seguridad de los automóviles, la agricultura, el cambio climático y la gestión de riesgos financieros. La IA también puede ayudar a detectar fraudes y amenazas a la seguridad cibernética, y permite a las autoridades policiales luchar contra el crimen de manera más eficiente. Sin embargo, la IA también presenta nuevos desafíos para el futuro del trabajo y plantea cuestiones legales y éticas.

La Comisión está adoptando un enfoque de tres pasos: establecer los requisitos clave para una IA confiable, lanzar una fase piloto a gran escala para recibir comentarios de las partes interesadas y trabajar en la creación de consenso internacional para la IA centrada en el ser humano.

1.Siete elementos esenciales para lograr una IA confiable

La IA confiable debe respetar todas las leyes y regulaciones aplicables, así como una serie de requisitos; Las listas de evaluación específicas tienen como objetivo ayudar a verificar la aplicación de cada uno de los requisitos clave:

• Agencia humana y supervisión: Los sistemas de inteligencia artificial deben permitir sociedades equitativas al apoyar la acción humana y los derechos fundamentales, y no disminuir, limitar o desviar la autonomía humana.
• Robustez y seguridad: La IA confiable requiere que los algoritmos sean seguros, confiables y lo suficientemente robustos para hacer frente a errores o inconsistencias durante todas las fases del ciclo de vida de los sistemas de IA.
• Privacidad y gobernanza de datos: Los ciudadanos deben tener un control total sobre sus propios datos, mientras que los datos que les conciernen no se utilizarán para dañarlos o discriminarlos.
• Transparencia: Debe garantizarse la trazabilidad de los sistemas de IA.
• Diversidad, no discriminación y equidad: Los sistemas de IA deben considerar toda la gama de habilidades, destrezas y requisitos humanos, y garantizar la accesibilidad.
• Bienestar social y ambiental: Los sistemas de IA deben usarse para mejorar el cambio social positivo y mejorar la sostenibilidad y la responsabilidad ecológica.
• Responsabilidad: Deben establecerse mecanismos para garantizar la responsabilidad y la rendición de cuentas por los sistemas de IA y sus resultados.

2. Proyecto piloto a gran escala con socios

En el verano de 2019, la Comisión pondrá en marcha una fase piloto en la que participará una amplia gama de partes interesadas. Ya hoy, empresas, administraciones públicas y organismos pueden adherirse al Alianza europea de AI y recibir una notificación cuando comience el piloto. Además, los miembros del grupo de expertos de alto nivel en IA ayudarán a presentar y explicar las directrices a las partes interesadas pertinentes en los Estados miembros.

3. Creación de consenso internacional para la IA centrada en el ser humano

La Comisión quiere llevar este enfoque de la ética de la IA al escenario mundial porque las tecnologías, los datos y los algoritmos no conocen fronteras. Con este fin, la Comisión fortalecerá la cooperación con socios de ideas afines como Japón, Canadá o Singapur y seguirá desempeñando un papel activo en los debates e iniciativas internacionales, incluidos el G7 y el G20. En la fase piloto también participarán empresas de otros países y organismos internacionales.

Próximos pasos

Los miembros del grupo de expertos en IA presentaron su trabajo en detalle durante el tercer Día digital en Bruselas el 9 de abril. Después de la fase piloto, a principios de 2020, el grupo de expertos en IA revisará las listas de evaluación para los requisitos clave, basándose en los comentarios recibidos. Sobre la base de esta revisión, la Comisión evaluará el resultado y propondrá los próximos pasos.

Además, para garantizar el desarrollo ético de la IA, la Comisión, para el otoño de 2019: pondrá en marcha un conjunto de redes de centros de investigación de excelencia en IA; comenzar a establecer redes de centros de innovación digital; y, junto con los Estados miembros y las partes interesadas, iniciar debates para desarrollar e implementar un modelo para compartir datos y hacer el mejor uso de los espacios de datos comunes.

Fondo
La Comisión está facilitando y mejorando la cooperación sobre IA en toda la UE para impulsar su competitividad y garantizar la confianza basada en los valores de la UE. Siguiendo su Estrategia europea sobre IA, publicado en abril de 2018, la Comisión creó el Grupo de expertos de alto nivel sobre IA, que consta de 52 expertos independientes que representan a la academia, la industria y la sociedad civil. Ellos publicado un primer borrador de las directrices éticas en diciembre de 2018, seguido de una consulta con las partes interesadas y reuniones con representantes de los estados miembros para recabar comentarios. Esto sigue el plan coordinado con los estados miembros para fomentar el desarrollo y el uso de la IA en Europa, también presentado en diciembre de 2018.

Más información

Comunicación: 'Generar confianza en la inteligencia artificial centrada en el ser humano'

Pautas de ética de la IA

Ficha informativa sobre inteligencia artificial

Grupo de expertos de alto nivel sobre IA

Alianza europea de AI

Inteligencia artificial: una perspectiva europea

Reloj de inteligencia artificial