Lost in Retraining

Da quando, alcuni anni fa, sono stati introdotti i chatbot basati sull’intelligenza artificiale generativa, Internet si è rapidamente riempito di testi generati dall’IA. Molti temono che, poiché questi testi artificiali vengono riutilizzati come dati di addestramento per i chatbot basati sull’IA, possano impoverire la nostra lingua e amplificare i pregiudizi esistenti.

Negli ultimi anni, questa questione è diventata un importante argomento di ricerca, con centinaia di articoli pubblicati finora. “Recentemente sono stati condotti molti studi, con risultati diversi. La maggior parte di essi mostra che la diversità dei dati ottenuti con modelli riaddestrati su dati generati dallo stesso modello diminuisce fino a scomparire. Si può arrivare a generare quella che viene definita ‘spazzatura’, ovvero testi che non sono altro che un insieme casuale di parole”, spiega Matteo Marsili, ricercatore senior presso la sezione di Scienze della Vita Quantitative dell’ICTP. Marsili ha recentemente collaborato con Fariba Jangjoo, ex studentessa del corso di diploma dell’ICTP e attualmente presso il Kavli Institute for Systems Neuroscience in Norvegia, per comprendere il problema da una prospettiva più approfondita e generale. Il loro articolo è stato pubblicato su Physical Review Letters.