Cómo afectará la Ley de Inteligencia Artificial de la UE a las instituciones financieras

La Ley de Inteligencia Artificial de la UE, que entró en vigor el 1 de agosto de 2024, es un avance legislativo importante para las instituciones financieras (IF). Las disposiciones comenzarán a aplicarse en un período de seis a 36 meses, y la mayoría de las normas de la Ley serán aplicables después de dos años. Y tiene importantes implicaciones, especialmente para las IF que utilizan sistemas de IA de alto riesgo, como modelos de calificación crediticia y herramientas de evaluación de riesgos. escribe David Salloum, director jurídico del grupo Eastnets.

El potencial de la IA en materia de financiación del comercio, gestión de riesgos y lucha contra los delitos financieros es enorme. Sin embargo, se necesita una regulación eficaz para garantizar la confianza y salvaguardar los derechos fundamentales. La Ley de IA de la UE es un paso clave en esta dirección, ya que garantiza que la IA evolucione de forma segura y ética.

Los elementos clave

La Ley se aplica a los sistemas de IA comercializados, utilizados o que afectan a personas dentro de la UE, incluidos los de países no pertenecientes a la UE. Adopta un enfoque basado en el riesgo, categorizando las aplicaciones de IA en función de los niveles de riesgo, con requisitos estrictos para los casos de uso de alto riesgo, como la infraestructura crítica y la aplicación de la ley, entre una lista de ocho áreas.

Los sistemas de IA de alto riesgo deben cumplir con estrictos estándares de calidad y gobernanza de los datos. Esto garantiza que el software no se entrene con datos deficientes o incompletos que podrían generar un resultado adverso. Se requiere documentación, trazabilidad y transparencia para garantizar que la IA pueda ser auditada y sus decisiones explicadas. La supervisión humana es obligatoria para permitir la intervención en las decisiones de la IA, lo que es crucial para las aplicaciones en diagnósticos médicos o casos legales.

Además, la Ley exige el uso de datos sintéticos o anónimos al entrenar modelos de IA para detectar y corregir sesgos. Los datos sintéticos, creados artificialmente en lugar de recolectarse de eventos del mundo real, ayudan a garantizar que los sistemas de IA sean justos y precisos. Si estos métodos reducen el sesgo, entonces los proveedores de sistemas de IA deben usarlos.

Consecuencias para las instituciones financieras

Para las instituciones financieras, cumplir con estos requisitos es crucial. Para ello, hay algunas medidas importantes que deben adoptarse. En primer lugar, si aún no existe, debe crearse un organismo de gobernanza de la IA. Este organismo debe rendir cuentas de todo uso de la IA en toda la empresa y debe evaluar cuidadosamente los sistemas para determinar su clasificación en virtud de la Ley.

Por ejemplo, los sistemas de inteligencia artificial utilizados para la calificación crediticia o la evaluación de la solvencia probablemente se clasificarán como de alto riesgo debido a su impacto significativo en el acceso de las personas a los recursos financieros. Por el contrario, el Parlamento Europeo propone que los sistemas de inteligencia artificial implementados para detectar el fraude en los servicios financieros no se consideren de alto riesgo en virtud de la Ley. Este matiz permite a las instituciones financieras seguir innovando en la detección del fraude al tiempo que garantizan el cumplimiento de los principios generales de la Ley.

En segundo lugar, este grupo debe garantizar la supervisión humana de todos los sistemas para garantizar que la IA se utilice de forma transparente, ética, justa, segura y con controles de privacidad. Por ejemplo, cuando el software interactúa con humanos, debe revelar que es IA. Además, el contenido generado por IA debe estar claramente etiquetado para evitar tergiversaciones. Los usuarios también deben estar informados cuando la IA utiliza el reconocimiento de emociones o la categorización biométrica.

Por último, todo órgano de gobierno debe garantizar también la alta calidad de los datos de entrada, para minimizar los sesgos y evitar resultados discriminatorios. También debe ser totalmente transparente en su propio trabajo, registrando sus decisiones y poniéndolas a disposición cuando sea necesario.

El incumplimiento de los requisitos de la ley podría dar lugar a multas. El Comité Europeo de Inteligencia Artificial supervisará la aplicación, y las autoridades nacionales serán responsables de la supervisión y el cumplimiento. También habrá una base de datos pública de sistemas de IA de alto riesgo para garantizar la transparencia y la supervisión.

Implicaciones a largo plazo

En futuras leyes se abordarán los sistemas de inteligencia artificial de uso general, como los utilizados en el reconocimiento de imágenes y de voz. El marco flexible de la Ley de IA le permite evolucionar con la tecnología de IA, lo que garantiza que los nuevos avances estén adecuadamente regulados.

Las instituciones financieras deben mantenerse informadas sobre estos cambios, ya que afectarán la forma en que se puede utilizar la IA para lograr eficiencia e innovación en áreas como el procesamiento de documentos, la gestión de riesgos y el cumplimiento.

Equilibrar la innovación y la regulación

Si bien la regulación excesiva puede obstaculizar la innovación, la Ley de IA de la UE proporciona un conjunto de pautas muy necesarias para una tecnología en rápido desarrollo. Por un lado, pretende garantizar que los sistemas de IA sean seguros y protejan los derechos de las personas. Por otro, mejorará la innovación y la inversión gracias a la transparencia y apertura que exige la Ley. Los desarrolladores podrán colaborar mejor y mejorar el software.

Sin embargo, la regulación debe seguir siendo flexible y avanzar a la misma velocidad que la tecnología. Los responsables de las políticas deben tener en cuenta las opiniones y colaborar con la industria, especialmente de sectores como los servicios financieros, donde las normas tienen un mayor impacto. Y si bien las consideraciones éticas deben estar siempre en el centro de la regulación, esto debe equilibrarse con un estímulo positivo a la tecnología.

A medida que comienza la cuenta regresiva para el cumplimiento, las instituciones financieras deberían ser positivas. Sin duda, hay trabajo por hacer en términos de cumplimiento, pero el resultado será mejor para todos: desarrolladores, empresas y consumidores.

* La información de esta entrada de blog es solo para fines informativos generales y no constituye asesoramiento legal. El contenido se basa en la interpretación del autor y podría no reflejar la evolución legal más reciente. Se recomienda a los lectores buscar asesoramiento legal profesional para cualquier inquietud específica. Todos los derechos sobre el contenido de terceros al que se hace referencia pertenecen a sus respectivos autores.

Comparte este artículo: