La irrupción de la Inteligencia Artificial (IA) está redefiniendo la economía y el mercado laboral, creando tanto oportunidades como desafíos socioeconómicos. Su adopción, por otro lado, plantea dilemas éticos clave como la equidad, la transparencia y la responsabilidad, que exigen un liderazgo capaz de equilibrar el avance tecnológico con valores éticos.
Ante este escenario, preparar a la sociedad para comprender y gestionar los beneficios y riesgos de la IA se presenta como un reto crucial de cara a garantizar un desarrollo inclusivo y justo. Y ese fue, precisamente, uno de los objetivos planteados en la jornada ‘NAIR ConciencIA: Inteligencia Artificial y sociedad. Retos y oportunidades de futuro’, organizada este jueves por NAIR Center, centro de investigación de referencia en Navarra dedicado a la investigación, la innovación y el análisis en torno a la Inteligencia Artificial.
En ese sentido, su director gerente, Gorka García, vinculó la celebración del encuentro a uno de los ejes estratégicos de su entidad. «Nos proponemos explorar cómo la Inteligencia Artificial transforma y es transformada por la vida de las personas. Investigamos no solo su impacto en la economía, la política y las organizaciones, sino también cómo la percepción social influye en su desarrollo y su adopción ética», explicó. Además, señaló como otro gran propósito la promoción de las carreras STEM entre las mujeres: «Nos preocupa el sesgo en los modelos porque, si las mujeres están subrepresentadas, ¿cómo vamos a ser capaces de construir algoritmos verdaderamente equitativos?».
TRANSFORMACIÓN SOCIOECONÓMICA
La consejera de Universidad, Innovación y Transformación Digital, Patricia Fanlo, subrayó en sus palabras de bienvenida «el firme compromiso del Gobierno de Navarra con la IA y los valores éticos que deben orientar el progreso tecnológico». En esa línea, destacó «el papel crucial de la Inteligencia Artificial en la transformación de la sociedad», poniendo como ejemplo iniciativas como el propio NAIR Center y el Polo de Innovación Digital de Navarra IRIS, «que consolidan a la Comunidad foral como referente» en investigación y transformación digital. «Estamos convencidos de que la IA debe ser accesible, justa y estar al servicio de todas las personas, y trabajamos para que Navarra lidere este cambio de manera responsable», añadió.
Finalizada la apertura institucional se inició un primer bloque bajo el epígrafe ‘IA y transformación socioeconómica», en el que participó Manuel González, director general de Planificación Estratégica en Tecnologías Digitales y Nueva Economía de la Lengua en la Secretaría de Estado de Digitalización e Inteligencia Artificial. En su intervención, explicó que la irrupción de ChatGPT y la IA generativa «implosionó» el sector hace dos años. «Por eso, en la estrategia que aprobamos el pasado mayo hemos decidido actualizar el primer plan que desarrollamos sobre Inteligencia Artificial en 2020», señaló.
García mostró su preocupación ante el reto de construir algoritmos verdaderamente equitativos e inclusivos.
La aceleración que se está produciendo en torno a esta tecnología de vanguardia hace que la dependencia de las infraestructuras sea cada vez mayor. Pero García enfatizó que «España tiene una de las infraestructuras en supercomputación más potentes del mundo» y que, ahora, el objetivo «es extender su uso al sector privado, de tal forma que un 20 % de esa red dé servicio a la industria». Asimismo, desglosó el trabajo que el sector público está llevando a cabo para contar con un modelo lingüístico propio basado en el español y otras lenguas romances, que sirva de fuente de conocimiento para los usuarios de IA.
Por su parte, la PhD y consultora freelance en Inteligencia Artificial Nerea Luis resaltó que aún «es difícil» pensar que «una IA te vaya a reemplazar». «Más bien se asemeja a un piloto que puede ayudarte y guiarte», apostilló. Desde esta perspectiva, identificó al menos cuatro tendencias clave en el futuro de esta tecnología: la personalización de resultados, la multimodalidad con un enfoque destacado en la voz, el análisis y simplificación de procesos complejos y la capacidad de facilitar la interacción del usuario con otros servicios.
Según esta experta, el impacto del uso extensivo de la Inteligencia Artificial es comparable a revoluciones tecnológicas anteriores, como las provocadas por la llegada de Microsoft o Google. «La mayoría de las industrias integrarán herramientas con IA generativa, y en pocos años todos estaremos creando trabajos apoyados en esta tecnología», auguró.
ÉTICA Y RESPONSABILIDAD EN IA
Posteriormente, la jornada continuó con un segundo bloque titulado ‘Ética y responsabilidad en IA’, que se inició con la ponencia de Cristina Contero, socia gerente de Aphaia. A juicio de esta, existe «demasiada teoría» al respecto pero poca concreción, y para entender el panorama actual de la ética en torno a la Inteligencia Artificial es necesario comprender «de dónde venimos y a dónde vamos». Para ilustrar su reflexión, mencionó elementos de la cultura popular que integran la IA en su trama, como ‘Black Mirror’, ‘Terminator’ o ‘Yo, Robot’, entre otros. Elementos que tratan la inseguridad de la sociedad ante las últimas tecnologías, la necesidad de la supervisión humana o la creación de unas «leyes de la robótica».
La consejera Patricia Fanlo subrayó el compromiso del Gobierno de Navarra con la Inteligencia Artificial.
Temas de actualidad que Contero, especialista en protección de datos y privacidad, analizó mostrando cómo aún quedan muchas etapas que completar en lo que a la regulación de la IA se refiere. «Sobre la mesa hay planteados ciertos dilemas desde el ámbito ético. Por ejemplo, respecto a la brecha de habilidades. Vamos a necesitar capacidades especializadas para analizar datos, y eso significa que algunos puestos de trabajo desaparecerán, pero surgirán nuevos. Para eso es fundamental mejorar la formación en los centros educativos», apostilló.
En paralelo, destacó que el «sesgo algorítmico» es uno de los temas que más preocupan a los expertos. «La IA también puede caer en esa trampa porque los datos están incompletos o porque los propios modelos de análisis están sesgados», certificó. De cara a alcanzar un mayor grado de fiabilidad, Contero enumeró siete principios para consolidar un punto de partida: asegurar la intervención y supervisión humanas para tener control sobre la IA; robustez y seguridad técnica; privacidad y gestión de datos para cumplir con la normativa europea; transparencia; diversidad, indiscriminación y equidad para evitar sesgos y recopilar feedback; bienestar social y medioambiental; y rendición de cuentas en caso de errores.
La jornada continuó con una mesa redonda moderada por Angela Bernardini, responsable de Innovación y Transferencia Tecnológica de NAIR Center. El primer invitado en tomar la palabra fue Agustín Zubillaga, viceconsejero de Administración Digital y Servicios Generales en la Consejería de Gobernanza, Administración Digital y Autogobierno del Gobierno Vasco-Eusko Jaurlaritza. «Hablamos de IA como si fuera únicamente tecnología cuando hay muchos factores más a tener en cuenta: resistencia al cambio, inercias, protección, sensación de vulnerabilidad… Estamos regulando aspectos a medida que se van desarrollando», subrayó tras apuntar que la región vecina cuenta desde la legislatura pasada con un Manifiesto Ético del Dato y una oficina especializada para garantizar una buena gestión y uso.
«Tenemos que evangelizar y persuadir a la ciudadanía de que hay ventanas de oportunidad, pero también de riesgos. Abordar aproximaciones maximalistas en un periodo de cinco años está muy fuera de la realidad. Es impracticable», sentenció para coincidir con Contero en que «no se puede pretender que la IA no esté sesgada». ¿Y cómo se puede mejorar? Según Zubillaga, debe plantearse una respuesta coordinada si se llevan a cabo conversaciones entre juristas, programadores, responsables de recursos humanos y más expertos. «De lo contrario, estaremos pilotando un Ferrari con una venda en los ojos», ilustró a raíz del ejemplo mencionado anteriormente por Nerea Luis.
De igual manera que en el País Vasco, Navarra cuenta con una Oficina del Dato y un Manifiesto Ético del Dato. Josean Vizcay, director general de Telecomunicaciones y Digitalización del Gobierno de Navarra, advirtió de que la sociedad en general corre el riesgo de sufrir el ‘efecto Netflix’. «De igual manera que todos pagamos cuando el precio aumentó de 4 euros hasta 7, y luego hasta 9, estamos enganchados. Nos genera una necesidad», alertó.
El evento concluyó con una mesa redonda, donde los ponentes abordaron cómo debe ser el liderazgo en esta era.
No obstante, Ezcay señaló que en Navarra se están dando pasos para implementar la IA en diversas áreas con un impacto directo en la sociedad, como la sanidad. Precisamente, indicó que el Servicio Navarro de Salud- Osasunbidea cuenta con una herramienta «pionera» en el campo oftalmológico, impulsada por IA, para tratar la pérdida de visión asociada a la edad.
El broche de oro a la mesa redonda lo puso Ángel Sanz, director gerente de AST-Aragonesa de Servicios Telemáticos, quien profundizó en la estrecha relación que existe entre los beneficios y riesgos de la IA: «Sanidad, investigación, educación, movilidad… En general, nos puede ayudar a establecer servicios públicos más eficaces, pero los procesos de certificación son vitales para saber si los sistemas disponibles cumplen o no con la normativa vigente».
En esta misma línea, recordó que Aragón está destinando recursos a la implementación de la IA en su sistema público como, por ejemplo, para analizar el «elevado número de expedientes» presentado a las bolsas de empleo.
IMPACTO EN EL EMPLEO
Tras una pausa para el almuerzo, la vicedecana de la UPF Barcelona School of Management, Ana Freire, hizo hincapié en que la IA impactará en el 40 % de los empleos, según datos del Fondo Monetario Internacional (FMI). Este fenómeno traerá tanto oportunidades como desafíos. Por un lado, permitirá una disrupción positiva en muchas empresas, potenciando su productividad hasta cinco veces, según estimaciones de Price. Por otro lado, supondrá despidos en los trabajos más mecánicos, como los administrativos o auditores.
Freire recalcó la necesidad de preparar a los trabajadores para esta transformación. «No hace falta ser ingeniero, pero sí conocer la IA desde una perspectiva multidisciplinar», valoró para centrarse después en la importancia de desarrollar habilidades como el pensamiento analítico, el liderazgo y el aprendizaje activo. Sin embargo, alertó de una brecha entre la formación académica y las necesidades del mercado, lo que deja cada año 900.000 puestos de trabajo vacantes en Europa por falta de personal cualificado. Para reducir esta brecha, propuso visibilizar los nuevos roles tecnológicos desde la educación primaria.
Preparar a la sociedad para comprender los beneficios y riesgos de la IA es una de las claves que se abordaron en el encuentro.
Entre los sectores que ya están aprovechando el potencial de la IA, mencionó ejemplos como el marketing, el comercio electrónico -donde plataformas como Amazon personalizan ofertas gracias al análisis masivo de datos-, la salud y la energía. En este último ámbito, la IA no solo consume grandes cantidades de recursos en centros de datos, «sino que también contribuye a reducir su huella energética mediante optimizaciones avanzadas».
No obstante, Freire advirtió de los riesgos asociados a la IA, como la perpetuación de sesgos de género o raza. «La IA no discrimina, aprende de los datos generados por los humanos», defendió de igual modo que la importancia de garantizar diversidad en los equipos que diseñan y entrenan estos sistemas. También abogó por una legislación adecuada, destacando la relevancia de la primera ley europea sobre IA, para mitigar estos riesgos y asegurar un desarrollo ético y responsable de la tecnología.
El encuentro finalizó con un foro de debate moderado, de nuevo, por Angela Bernardini y donde Iván Cordon, director de Innovación en DATAI; la profesora titular de la UPNA Laura de Miguel; María Beunza, CEO de HumanAI; y la directora de Legal y Cumplimiento de Veridas, Leire Arbona, profundizaron en cómo debe ser el liderazgo en esta era de la IA.
