Inteligencia artificial un tema que da mucho que reflexionar

Crónica de la actividad Inteligencia Artificial desde una perspectiva crítica EL ATENEO DE AGUA DE MAYO. Viernes 13 de febrero a las 18h

A pesar de la tarde lluviosa y desapacible del viernes 13 de febrero, está claro que el tema de la inteligencia artificial nos interesa como individuos y como comunidad, a juzgar por el llenazo que tuvimos en nuestro local.

Se presentaba la primera sesión del nuevo espacio de reflexión y pensamiento crítico con nombre propio: El Ateneo de Agua de Mayo. Y parece que el la inteligencia artificial es un tema que necesita de un espacio para dialogar y formarnos sobre el, dada la complejidad y todas las implicaciones y campos que atraviesa. Si queréis escuchar la sesión al completo aquí tenéis los podcast.

Conozcamos un poco como funciona la IA

En la primera parte Brianda y Joseba nos han acercado a la parte técnica de como funciona la IA sobre todo para que entendamos que aunque lo llamemos Inteligencia Artificial, realmente los resultados que nos devuelven SIEMPRE son una probabilidad y por tanto tienen un margen de error que, dependiendo del número de datos con el que trabaje, será mayor o menor, pero no tenemos esa información de cual es el porcentaje de error de las respuesta que nos está dando.

IA perspectiva critica ateneo mesa

El funcionamiento se basa en un mecanismo que se llama Redes Neuronales, que funciona por muchas capas y que desde que nosotros hacemos una entrada hasta que tenemos un resultado, hay una «caja negra, basada en modelos matemáticos» en la que realmente no sabemos lo que está pasando.

Nos adentraron también en lo que es un modelo LLM que es el que utiliza la IA generativa. Estos modelos están entrenados con miles de datos de información disponible en internet, con todo el sesgo que ello conlleva y por tanto deja fuera a muchas realidades. Ahora se están empezando a entrenar con fondos documentales para que los resultados sean más reales.

No debemos tampoco olvidar que los modelos están entrenados para responder SIEMPRE, en los entrenamientos en conversaciones humanas no van a dejarnos sin respuesta, si no lo saben «se lo inventan». Acumulan información pero NO piensan, NI recuerdan.

Cuando tienen un error es muy difícil que lo corrijan, nos dicen: «es verdad, me esta no era la respuesta» pero es muy difícil que cuando entran en ese punto nos den un resultado correcto.

Otra de las figuras de la IA son los AGENTES que son figuras que se suponen que van a automatizar tareas encadenadas gestionando ellos los pasos intermedios. Son propuestas muy atractivas que se supone que nos van a ahorrar mucho trabajo pero que tenemos que ser conscientes de lo que implica si, por ejemplo, le damos a un AGENTE permiso para que nos lea y nos conteste y organice nuestro correo … Además, como ellos gestionan los pasos, si hay un error, lo sigue arrastrando en todo el proceso.

La IA desde una perspectiva más amplia. ¿Cómo está afectando a nuestros entornos medioambientales, económicos, sociales, personales?

El concepto de NUBE para virtualizar una cosa que tiene un impacto tremendo en el entorno. La nube no es una entidad abstracta, sino una red mundial de centros de datos que funcionan como una sola unidad. Permite a usuarios y empresas alquilar capacidad de computación y almacenamiento sin gestionar el hardware físico. Pero lo que ha supuesto es la creación de mega centros de Datos, hiperescalables que consumen energía y agua para su refrigeración en unos niveles cuyo impacto es difícilmente calculable. En la actualidad comarcas como la de Aragón están viendo como estos macrocentros están afectando a su entorno ya. Hay iniciativas ciudadanas como No es sequía, es saqueo, o Tu nube seca mi río, que están intentando visibilizarlo y concienciar a la población de lo que supone la instalación de estos centros.

Otros aspectos sobre los que reflexionamos son las implicaciones a nivel laboral que tiene el uso masivo e indiscriminado de la IA, no solo en la eliminación de muchísimos puestos de trabajo si no en la creación de otros tantos puestos de trabajo «fantasmas» como son las de las personas que etiquetan textos en modo «low cost» o las personas que moderan el contenido violento que hay que desgranar y calificar, con las consiguientes repercusiones en su salud mental.

También a nivel social y de comunidad. Ya se están sustituyendo los aprendizajes colectivos por los chat que nos responden cuando tenemos una duda, con la consiguiente pérdida de valor y también de conocimiento heredado.

Hubo tiempo también para comentar la burbuja financiera que se estaba inflando con las inversiones de las grandes empresas en IA que a día de hoy no solo no son rentables si no que tienen unas pérdidas millonarias y que se están rescatando las unas a las otras con el peligro de provocar un colapso financiero

¿Y qué podemos hacer? porque la IA ha llegado para quedarse

Está claro que después de esta primera aproximación a este tema tan fascinante nuestra respuesta no puede ser NO quiero IA y miro para otro lado. Pero si podemos tener esa mirada crítica cuando nos acerquemos a ella:

  • Ser conscientes del uso que hacemos de la IA. ¿Realmente necesitamos generar esa imagen con IA o podemos evitarlo?
  • Tener en cuenta lo que afecta utilizarla para colectivos como traductores, artistas, intérpretes
  • Tener en cuenta que tienen sesgos y que esos sesgos (racistas por ejemplo) inciden directamente en sus respuestas.
  • Tener en cuenta los peligros de utilizarla para temas como Salud mental (sustituta de un profesional médico).
  • Revisar SIEMPRE los resultados que nos devuelva
  • Educar, entender para no confrontar solo en negativo, si no dialogar y concienciar.

Dejamos algunos enlaces interesantes para ampliar los temas que se han esbozado en una sesión que, solo llega para introducir este apasionante tema sobre el que seguro seguiremos reflexionando en Agua de Mayo. Para empezar, en las siguientes sesiones de los Encuentros Filosóficos que tendrán la IA como protagonista, desde un enfoque humanista y reflexivo. Damos las gracias también a Brianda y Joseba por arrojar un poco de luz a este complejo mundo, haciéndolo de manera muy amena y didáctica.

ENLACES

Sobre conceptos de funcionamiento de la IA

Sobre consecuencias de la proliferación de Centros de Datos

Sobre IA y utilidades

Sobre la burbuja financiera de la IA

Deja un comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.