sábado, 24 febrero 2024

«Ejércitos de personas sostienen ChatGPT por menos de dos dólares la hora»

Así lo defendió Ramon López de Mántaras, investigador del Instituto de Inteligencia Artificial y profesor de investigación emérito en el CSIC, durante la cuarta edición de Capital Trends. El invitado, uno de los mayores expertos de España sobre la materia, desgranó los grandes defectos de ChatGPT como su "incontinencia verbal", la "invención" de datos, su nula memoria a largo plazo, sus sesgos o el plagio de información, entre otros. El acto contó con el patrocinio de BBVA, LORTU Desarrollo Empresarial y el Grupo Enhol, así como con la colaboración de Binter.


Pamplona - 25 mayo, 2023 - 21:30

Ramon López de Mántaras analizó las ventajas y carencias de la IA para la sociedad y la empresa. (Fotos: Víctor Ruiz)

Mayo de 2023. El consejero delegado de International Business Machines (IBM), Arvind Krishna, anunció que su empresa dejará de contratar personal en los próximos años para determinadas funciones que, a su juicio, pueden sustituirse por la Inteligencia Artificial (IA). En concreto, se refería a cargos con tareas no orientadas a clientes, como las administrativas, que en su organización suman un total aproximado de «26.000 trabajadores». «Podría ver fácilmente a un 30 % de ellos siendo sustituidos por IA y automatización en un período de cinco años», defendió sin tapujos.

Esta tendencia creciente sumó poco después un segundo hito, cuando la multinacional inglesa BT comunicó su intención de suprimir el 42 % de sus puestos de trabajo para 2030 y de cambiarlos por esta tecnología. Ambos ejemplos representan dos de las estrategias más drásticas conocidas a este respecto en materia de personal y colocan en el centro del debate los límites de la IA, su impacto en el sistema democrático o sus repercusiones en el mercado laboral y en la organización del trabajo. Pero, ¿tan revolucionarias y sistémicas son tecnologías como ChatGPT?

«La IA todavía sufre muchas limitaciones. Tiene poco de inteligente en cuanto a lo que entendemos como inteligencia humana. Curiosamente, cuando miras entre bambalinas, es evidente que no solo se basan en capacidades de cómputo de altas prestaciones, sino que también se sustentan en ejércitos de personas que introducen manualmente reglas y entrenan el sistema por refuerzo. Y muchas de ellas reciben menos de dos dólares la hora. Podríamos considerar que hay una cierta explotación aquí«, subrayó Ramon López de Mántaras, investigador en el Instituto de Inteligencia Artificial y profesor de investigación emérito en el Consejo Superior de Investigaciones Científicas (CSIC), durante la cuarta edición de Capital Trends.

Ramon López de Mántaras: «ChatGPT es un sistema intrínsecamente programado para generar siempre. No sabe callar y, cuando no tiene idea, inventa datos»

Este foro, promovido por Navarra Capital, busca romper con el formato clásico de las jornadas empresariales y conectar a distintas generaciones de profesionales con intereses, experiencias e inquietudes similares.

Bajo el título ‘¿Debemos tener miedo a desarrollos de IA como ChatGPT?’, se celebró en la Fundación Museo Jorge Oteiza con el patrocinio de BBVA, LORTU Desarrollo Empresarial y el Grupo Enhol, así como con la colaboración de Binter.

López de Mántaras fue contundente a la hora de desgranar las carencias de ChatGPT. En primer lugar, citó su «incontinencia verbal», que le lleva ocasionalmente a «inventar» datos: «Es un sistema intrínsecamente programado para generar siempre. No sabe callar y, cuando no tiene idea, inventa. De hecho, un amigo me llegó a contactar preocupado porque, al preguntar al sistema por mí, este le soltó que había fallecido. De la misma forma, se equivocaba en muchos datos de mi vida». Y no solo eso. Además, «no tiene memoria a largo plazo».

Por otro lado, el sistema demuestra que no comprende de la misma forma en que los humanos: «Si pensamos que comprender un texto o un lenguaje es predecir cómo será la siguiente palabra a una secuencia, ChatGPT lo hace. Pero, para mí, el lenguaje es mucho más que eso». De ahí que este experto se mostrara crítico respecto al uso de ChatGPT en las aulas. En concreto, parafraseó al lingüista y filósofo Noam Chomsky, quien habla de «plagio de alta tecnología» cuando analiza modelos grandes de lenguaje (LLM, según sus siglas en inglés) como el afamado chat y los litigios sobre derechos de autor a los que OpenAI, su empresa promotora, se enfrenta.

«La máquina no es neutral. Alguien la ha programado y los sesgos del programador se trasladan al sistema. No nos tiene que dar miedo la Inteligencia Artificial, sino la estupidez natura

«Hay quien dice que se puede explotar la herramienta para que, en clase, el alumno genere un texto con ChatGPT y luego haga una crítica sobre él. No lo descarto pero, ¿estamos obligados a enseñar usando ChatGPT? Yo soy defensor de que los ordenadores deberían estar fuera de las aulas para enseñar con lápiz y papel», incidió.

Al mismo tiempo, advirtió sobre los sesgos de este y otros desarrollos de Inteligencia Artificial. «Es un error pensar que la máquina es neutral. Alguien la ha programado y los sesgos del programador se trasladan al sistema, con lo que el verdadero problema no es tanto la tecnología como las personas que están detrás de ella. En este sentido, no nos tiene que dar miedo la inteligencia artificial, sino la estupidez natural», explicó entre risas.

IMPLANTACIÓN DE LA IA EN LA EMPRESA

Según un informe de Plain Concepts e IDC, el 91 % de las empresas españolas considera que la IA «les ayudará en sus objetivos de crecimiento», aunque solo el 22 % la está utilizando. En este punto, López de Mántaras alertó sobre el riesgo de caer en el «hype» de esta tendencia: «Primero, hay que analizar la situación y comprobar que es necesario aplicar este tipo de tecnología. Es posible que una solución más clásica funcione igual de bien o mejor». Igualmente, señaló que, «si bien una decisión más informada es mejor, tiene que ser tomada por una persona y no por la IA».

En este sentido, el investigador y profesor emérito del CSIC destacó la necesaria complementariedad entre el talento humano y la capacidad tecnológica de estos sistemas. «Uno completa el otro, y así es como de esa cooperación entre personas y máquinas se sale ganando. Esta simbiosis es perfecta, existe desde hace años y, en el contexto actual, se ve con más claridad», apuntó para compartir acto seguido algunos ejemplos como la vuelta de operarios humanos para fabricar coches personalizados en Mercedes-Benz o las aplicaciones prácticas de estos sistemas en la medicina.

Una de las conclusiones del experto es que ve «muy improbable» que el coche autónomo sea una realidad a corto o medio plazo. «En la actualidad, ya existen los que oscilan entre el nivel 2 y el nivel 3 de autonomía. Yo ya he tenido la oportunidad de probar coches que tenían la opción de Smart Drive, una modalidad que, no obstante, requiere que no despegues tus manos del volante ni tus ojos de la carretera. Pero, ¿para qué queremos este tipo de capacidades? Para llegar al no va más, el nivel 5, haría falta una infraestructura viaria casi perfecta», subrayó.

LAS REACCIONES

Varios representantes de las empresas patrocinadoras aportaron su perspectiva tras el acto. «La irrupción de la Inteligencia Artificial (IA) en las empresas nos brinda magníficas oportunidades para ser más eficientes y sostenibles”, afirmó el director de Estrategia Tecnológica y Transformación Digital de Grupo Enhol, Carlos Fiol. Pero al mismo tiempo matizó que, «como en toda evolución», las organizaciones deben aprender a utilizarla «con responsabilidad para optimizar los procesos y potenciar al máximo las habilidades de los equipos».

Similar fue el análisis de Joseba Pérez, CEO y fundador de LORTU Desarrollo Empresarial, quien recomendó a los gestores y responsables de las empresas «trabajar antes la inteligencia emocional». Esta constituye, en su opinión, un factor de futuro clave para cualquier organización: «Desde luego, en mi caso, nunca dejaría que la IA sustituyera a la labor crucial que realizan las personas para que las empresas crezcan, se desarrollen y alcancen los objetivos marcados en su plan de negocio». 

Por su parte, el director de Pymes de BBVA en Pamplona, Roberto del Cerro, dejó constancia de que, en un primer momento, había acudido al encuentro pensando que a descubrir cómo de cerca estamos de que las máquinas sustituyan a las personas. «Y lo que me he dado cuenta es de que la Inteligencia Artificial ha desarrollado unas herramientas que pueden ser muy útiles para los directivos de las empresas en la toma de decisiones», valoró.

Entra aquí para leer más sobre Navarra Capital.


To Top