Pilar Herrera.
A estas alturas, ya nadie duda que la Inteligencia Artificial (IA) es una tecnología que ha venido para quedarse y que aporta grandes beneficios a todos los sectores de la economía y la sociedad. Programamos, escribimos textos, generamos imágenes con ayuda de la IA generativa. Ya ni siguiera hacemos búsquedas en Internet en buscadores; utilizamos este tipo de IA para consolidar respuestas, por poner algunos ejemplos. Pero esta rápida evolución de la tecnología tampoco está exenta de riesgos, por lo que deben aplicarse principios éticos y de responsabilidad.
En la medida en que los sistemas de IA se utilicen para tomar decisiones que afecten a las personas como en el empleo, la sanidad, la justicia o los asuntos sociales, no se puede permitir que se creen algoritmos sesgados que perpetúen desigualdades o discriminaciones. Tampoco debería admitirse que los algoritmos sean ‘cajas negras’, que no se sepa cómo funcionan internamente o en los que haya que hacer un acto de fe de que el desarrollador ha tomado precauciones para no introducir datos erróneos. Datos que, en todo el proceso de transformación de la información, puedan desnaturalizarse y generar respuestas incorrectas. Los algoritmos ‘caja negra’ tienen que poder ser explicados y auditados. La explicabilidad es una dimensión compleja, ya que paradójicamente dejamos a otro algoritmo más sencillo que proporcione explicabilidad al que queremos auditar. Y esto no es suficiente porque, además, la explicación algorítmica tiene que ser entendida por una determinada audiencia a la que va dirigida. Parece necesario buscar otros mecanismos de control como nuevos modelos de IA que sean transparentes per se.
Lo mismo ocurre si los sistemas de IA se utilizan para tomar decisiones, por ejemplo, en dominios de seguridad como las infraestructuras críticas. Existe un alto riesgo de que el algoritmo tome decisiones sobre estas infraestructuras sin un control y la supervisión humana, que deben estar presentes en todas las fases de generación del sistema, desde los datos originales, su transformación, la construcción del modelo, hasta su puesta en marcha. Y en caso de que se produzca un problema, cuando ya ha pasado todos los filtros y este sistema está en operación, son las personas las que todavía tienen que estar por encima de toda decisión. Durante el apagón del pasado mes de abril, parece que el sistema mostró síntomas de inestabilidad minutos antes. Un sistema de IA podría haber detectado esa incidencia en cuanto se produjo analizando los datos, pero la respuesta a la misma tiene que estar sujeta a una decisión informada humana.
«Los grandes modelos de lenguaje presentan un desafío técnico y ético superior porque no se sabe cómo se han entrenado, de dónde se ha obtenido la información. Consecuentemente, sus decisiones son difíciles de explicar»
Las respuestas de los sistemas de IA también deben ofrecer resultados correctos cuando trabajan en condiciones establecidas. Porque un sistema siempre va a ofrecer una respuesta cuando se le solicita, pero tenemos que conocer cómo de seguro está cuando ofrece esa respuesta con una estimación de la confianza para tomar acciones consecuentemente.
En este sentido, los grandes modelos de lenguaje presentan un desafío técnico y ético superior porque no se sabe cómo se han entrenado, de dónde se ha obtenido la información. Consecuentemente, sus decisiones son difíciles de explicar. Ya existen demandas por violar los derechos de autor. Y es más: según estudios, estos modelos de lenguaje muestran una contaminación por fuentes de información no controlada nada desdeñable y proporcionan respuestas erróneas. Existe un alto riesgo de que introducir información falsa pueda llegar a ser un acto intencionado para manipular. La protección de la información usada en las consultas también presenta conflictos, porque esos datos pasan a ser contenido de entrenamiento y aquellos más personales o profesionales pueden presentarse como respuesta a otro usuario. La utilización de estos grandes modelos de lenguaje en aplicaciones específicas tiene que ser analizada en sus riesgos de suministrar información incorrecta.
LOS AGENTES DE IA
Y qué decir de los agentes de IA. No solo están automatizando tareas repetitivas, sino que tienen capacidad para operar de manera autónoma, planificar estratégicamente, percibir y adaptarse al entorno, mantener memoria de experiencias pasadas y aprender continuamente. Estos agentes no necesitan supervisión humana, lo que es especialmente crítico para los que operan en dominios sensibles como las finanzas, la salud, el empleo y la educación.
«Frente a los modelos de Estados Unidos y China, las grandes potencias en esta tecnología y donde la regulación es más laxa, Europa ha apostado por una IA con mayores garantías»
Los riesgos expuestos no hacen que los sistemas de IA sean malos, sino que su uso debe regularse. Frente a los modelos de Estados Unidos y China, las grandes potencias en esta tecnología y donde la regulación es más laxa, Europa ha apostado por una IA con mayores garantías. De ahí que la Ley Europea de Inteligencia Artificial clasifique los sistemas por el riesgo que producen a las personas: desde el inaceptable, como manipulación de personas que está totalmente prohibido; el alto, del que el desarrollador del sistema IA tiene que rendir cuentas; el medio, sujeto a transparencia; y hasta el que no tiene ninguna limitación.
Esta ley, que entró en vigor en agosto de 2024, prohibió en febrero aquellos sistemas de riesgo inaceptable. Paulatinamente, entrarán en vigor el resto de las disposiciones hasta agosto de 2026, cuando la normativa exigirá su aplicación completa para sistemas de alto riesgo. Sin embargo, esta ley es una gran desconocida. Es necesario un mayor esfuerzo de divulgación y concienciación de los derechos de la ciudanía, los requisitos normativos que tienen las empresas que desarrollan productos basados en IA, y las empresas y organizaciones que compran y aplican estos productos en sus procesos.
Los detractores de esta ley dicen que es un freno a la innovación en Europa. Pero el modelo europeo creará confianza y garantizará los derechos y las libertades. Los desafíos, como la complejidad de la ley y las presiones externas para relajarla, no son pocos…
En la Asociación de la Industria Navarra (AIN), somos conscientes de que tenemos que abordar nuestros desarrollos cumpliendo los principios de una IA responsable. Y eso lleva a trabajar en el enfoque tecnológico, la equidad algorítmica, la explicabilidad y la fiabilidad, la rendición de cuentas, la calidad de los datos… Todo ello junto con la normativa que implica el análisis de riesgos y la autoevaluación para que todos los aspectos importantes se hayan tenido en cuenta, con el objetivo de que el desarrollo de nuestros sistemas de IA cumplan la regulación y los principios éticos.
Pilar Herrera
Responsable de Innovación y Proyectos Europeos de Inteligencia Artificial en la Asociación de la Industria Navarra
