La automatización de decisiones como la concesión de créditos, la selección de personal o el acceso a servicios hace indispensable garantizar equidad y transparencia en los sistemas de Inteligencia Artificial (IA). Estos retos no solo son técnicos sino también sociales, por lo que requieren reflexión ética, supervisión y compromiso institucional. Este es el objetivo del proyecto ‘Fair Learning’, coordinado por la Data University de BBVA y el Instituto de Ciencia de Datos e Inteligencia Artificial (DATAI) de la Universidad de Navarra, que busca responder a este reto desde las perspectivas tecnológica, filosófica y legal.
Durante los próximos tres años, veinte expertos, que incluyen científicos de datos de BBVA y académicos de la Universidad de Navarra de diversas disciplinas como ingeniería, filosofía, medicina, derecho y economía, colaborarán para diseñar un marco «que permita detectar, mitigar y corregir sesgos, garantizar la privacidad, la justicia y la autonomía de las personas, y definir buenas prácticas conforme a la normativa vigente».
«Este proyecto es pionero en el ámbito financiero y reafirma el compromiso de BBVA con avanzar en su transformación tecnológica sin perder el foco en las personas», explicó Josep Amorós, coordinador del proyecto y senior manager en Analytics Transformation en BBVA. «La IA ya es un pilar fundamental de la transformación del banco y lo seguirá siendo aún más en los próximos años, por lo que debemos asegurar que su desarrollo sigue principios de equidad, responsabilidad y transparencia», agregó.
«La IA responsable es uno de los grandes retos de esta nueva era y más allá de la mera aplicación de los principios éticos generales queda un campo abierto que explorar mediante una investigación multidisciplinar. Este tipo de investigación está en la esencia de la Universidad de Navarra, que dispone de los recursos humanos óptimos para llevarla a cabo, junto al equipo de la Data University de BBVA», añadió Jesús López, coordinador del proyecto por parte de la Universidad de Navarra y director del DATAI.
EL MÉTODO
Una de las principales exploraciones de ‘Fair Learning’ es cómo mitigar la presencia de sesgos en los datos. Para ello, el equipo de trabajo utilizará métodos matemáticos y estadísticos avanzados que ayudan a evitar que los modelos aprendan patrones «discriminatorios o sesgados» durante su entrenamiento. Así mismo, estas técnicas compensan la infrarrepresentación de conjuntos de datos (por ejemplo, de un grupo demográfico determinado) en otros de mayor amplitud o monitorizan los resultados de modelos ya entrenados para garantizar que no vulneran los intereses de ningún grupo poblacional.
Además, el equipo incorporará marcos filosóficos como la IA centrada en el ser humano (‘human-centered AI’) y la ética de la virtud, que guía el desarrollo tecnológico siguiendo criterios morales y responsabilidad social. El objetivo es construir sistemas que garanticen el respeto a la privacidad, promuevan la equidad y refuercen la autonomía de las personas sin suplantarlas. Y en el ámbito regulatorio, el proyecto analizará el marco legal vigente, con base en el nuevo reglamento europeo de IA (EU AI Act), para «definir buenas prácticas y proponer recomendaciones en su implementación ética y jurídicamente alineada».
El proyecto ‘Fair Learning’ forma parte de la trayectoria de colaboración entre BBVA y la Universidad de Navarra en el ámbito de los datos. Esta trayectoria se inició en 2020 con un acuerdo pionero para formar en datos a los empleados del banco, crear un grupo propio en el máster oficial en Big Data Science y promover doctorados industriales conjuntos. En la actualidad, ya son más de 90 los graduados del máster, 135 científicos de datos certificados y 12 doctorandos, elevando a 239 los profesionales especializados surgidos de la alianza.
