Llevo bastantes meses en una disyuntiva bastante estresante. Como matemática, informática y experta en ciencia de datos, cuando pienso en inteligencia artificial (IA) se me suelen venir a la mente todas las posibilidades que tienen este conjunto de herramientas y algoritmos, al igual que lo que me gustaría poder aportar en esta disciplina. Sin embargo, tengo muchas amigas escritoras y artistas, por lo que en parte siento muy especialmente su malestar debido a IAs generativas y como cada vez más se devalúa su trabajo y sus intereses.
Es curioso también como, debido a mis gustos y mi edad, me muevo en ciertos círculos en donde si se entiende esa preocupación por el trabajo artístico y cómo el haber entrenado los modelos con ingentes cantidades de datos sujetos al copyright atenta contra la ética y el trabajo de los artistas. Por otro lado, trabajo manejando datos. No uso la IA normalmente, pero si que la tengo en cuenta pensando como con algunos modelos podrían mejorarse las estadísticas que hacemos.
Por eso afrontar este dilema se me hace a veces muy difícil. No todo el mundo que escribe o dibuja sabe realmente diferenciar un buen modelo de inteligencia artificial de uno malo. Del mismo modo, no todas las personas que usan Dall·e, MidJourney o Stable Diffusion saben que detrás de eso hay trabajo de personas que no ha autorizado que se utilicen sus datos como forma de entrenamiento, sin contar que se necesitan todavía muchos intentos para sacar un resultado aceptable y eso al final solo se traduce en mucho mayor gasto energético por lo caro que resulta usar estas herramientas.
Los modelos que usan IA son ya muy útiles en diversos campos y creo también que pueden llegar a ese mismo punto ayudando a crear a escritores o artistas, pero cada vez está más claro que es necesario que se desarrolle una ley que determine en qué condiciones y cómo deben ser entrenadas las inteligencias artificiales, así como qué datos pueden utilizarse sin el consentimientode sus dueños.
Crear modelos de inteligencia artificial en donde realmente no se sepa de dónde vienen los datos, cómo es el modelo y que da como resultado a mi me parece uno de los mayores riesgos de estas tecnologías. Las IAs generativas pueden llegar a ser muy útiles cuando estén bien entrenadas y se usen adecuadamente, pero tal y como existen ahora a mi me parece que hacen más mal que bien.
También creo que, por ese más mal que hacen, se les está cogiendo mucha tirria en determinados sectores y, obviamente, el del arte es uno de lo más propensos a ello. Los resultados aún son pobres en muchas disciplinas, pero día sí y día también aparece el cartel de un evento, la imagen de una marca o la portada de un libro hecha con inteligencia artificial. El afán de abaratar costes, querer rapidez y no valorar lo que te puede dar realmente la ilustración de una persona está haciendo mucho daño.
Los científicos, además, muchas veces queremos ignorar todos estos riesgos porque deseamos que se siga avanzando en el conocimiento y no nos damos cuenta de que, con nuestro desconocimiento, acabamos creando herramientas que las empresas usan para su propio beneficio y es en parte lo que nos está pasando ahora. Tenemos que recordar también que, si no luchamos nosotros, los que manejamos las herramientas y podemos cambiar esto todavía, al final serán ellos los que luchen por lo suyo, creando herramientas para desbaratar esos modelos como ya ocurre gracias cuando se usa Glaze.
A mí, como experta en ciencia de datos, lectora y amiga de escritores, me parecería un absoluto fracaso si tenemos que llegar a pelear para imponer nuestros modelos, en vez de escuchar las preocupaciones de estos sectores. Creo que las IAs son muy útiles y pueden llegar a hacer grandes cosas, pero si están mal entrenadas, tienen sesgos y usan modelos pobres acaban haciendo daño a mucha gente cuando, como investigadores, queremos que ocurra justo lo contrario.
