105. Cómo la IA está apagando tu capacidad de pensar con Richard Benjamins 365m1o

Si seguimos en el camino en el que estamos, en 15 años, tenemos que ir al gimnasio mental para mantener ejercer nuestro cerebro, si no, nos atontamos porque nos da pereza.

Porque todo lo que podemos hacer fácil, lo hacemos fácil.

Dame un ejemplo para mi hija de 3 años.

La realidad es que nunca hemos hablado específicamente del tema de la ética en la IA.

Estamos buscando con el equipo y hemos encontrado el crack en España, y eres tú, así que bienvenido.

Muy bien, muchas gracias, es un placer estar aquí contigo y de hecho somos dos extranjeros hablando en español y que formamos parte de los 100 millones de hispanohablantes que no son nativos.

Sí, es verdad, es verdad.

Pues espero que esta conversación sea agradable para los nativos también y vamos a intentar hablar lo mejor que podemos.

Casi los dos tenemos muchos años en España, pero vamos a empezar.

Oye, Richard, si tuviera que explicar a mi hija de 13 años qué significa la ética en la IA, ¿qué le dirías tú? Yo le diría que la IA es una tecnología muy potente, pero no es 100%, es decir, comete errores.

Entonces, la ética en la IA consiste en valorar el impacto de los errores de la IA.

Eso es el pensamiento ético.

Si valoras el impacto cuando no funciona bien y decides, bueno, ese impacto es asumible, entonces lo lanzas, has hecho un pensamiento ético.

Si no lo haces, lo lanzas directamente sin pensar en posibles consecuencias, ¿vale? Si quieres, te doy un ejemplo.

Es lo que te va a decir, oye, dame un ejemplo para mi hija de 13 años.

De acuerdo.

Entonces, si yo quiero, por ejemplo, si soy una escuela, ¿de acuerdo? Y yo quiero predecir el abandono o la prestación de mis alumnos, ¿vale? Entonces yo puedo coger datos históricos sobre todos mis alumnos, hacer un modelo de inteligencia artificial, de machine learning, y ese modelo con alumnos que tengo hoy en día en la clase, pues cada alumno lo puedo predecir si van a dejar la escuela o no.

Ese algoritmo tendrá una precisión del 80, 90, 99 o lo que sea, ¿vale? Pero siempre hay un porcentaje que no funciona.

Entonces, el pensamiento ético consiste en, si soy un alumno que no va a abandonar, cuando yo predigo que va a abandonar, no lo pongo en una cajita.

Este alumno va a abandonar la escuela, pero no va a abandonar en la práctica, porque es un error.

Entonces, ¿cómo de grave es esto? Si es no tan grave, en este caso sí es grave, porque estigmatizas a un alumno y hablas con sus padres, oye, su hijo tal, pero entonces lo pones casi en off, self-fulfilling prophecy.

Y al revés, si no detectas a un alumno que va a abandonar, pues igual va a abandonar.

Estos son los errores que comete la inteligencia artificial.

Entonces, si como colegio decido, bueno, ese es asumible en mi caso, pues entonces por lo menos has hecho un pensamiento ético.

Obviamente, nunca puedes evitar los errores, pero lo importante de la ética en inteligencia artificial es que tengas una metodología, un proceso para sistemáticamente evaluar el impacto de la inteligencia artificial cuando comete errores.

Ok. Ahí estamos más hablando de la IA de predicción que la IA generativa, ¿no? Con la IA generativa, ¿qué otro ejemplo me podrías dar? ¿Cómo lo ves, el tema de la ética? Bueno, la verdad es que el pensamiento ético es exactamente igual, ¿no? Puede haber algunos matices distintos, pero por ejemplo, si yo uso la IA generativa para redactar un documento en un ámbito de salud, ¿no? O sea, yo tengo, yo creo que...