La crescente sofisticazione e accessibilità dell’intelligenza artificiale (AI) ha sollevato preoccupazioni di lunga data circa il suo impatto sulla società. L’ultima generazione di chatbot ha solo esacerbato queste preoccupazioni, con timori per l’integrità del mercato del lavoro e la diffusione di notizie false e disinformazione. Alla luce di queste preoccupazioni, un team di ricercatori della School of Engineering and Applied Science dell’Università della Pennsylvania ha cercato di consentire agli utenti della tecnologia di mitigare questi rischi.
Allenarsi a riconoscere il testo AI
Il loro articolo sottoposto a revisione paritaria, presentato alla riunione del febbraio 2023 dell’Associazione per il progresso dell’intelligenza artificiale, fornisce la prova che le persone possono imparare a individuare la differenza tra testo generato dalla macchina e testo scritto dall’uomo.
Lo studio, condotto di Chris Callison-Burch, professore associato presso il Dipartimento di informatica e scienze dell’informazione (CIS), insieme al dottorato di ricerca. studenti Liam Dugan e Daphne Ippolito, dimostra che il testo generato dall’intelligenza artificiale è rilevabile.
“Abbiamo dimostrato che le persone possono allenarsi a riconoscere i testi generati dalla macchina”, afferma Callison-Burch. “Le persone iniziano con un certo insieme di presupposti sul tipo di errori che una macchina commetterebbe, ma questi presupposti non sono necessariamente corretti. Nel corso del tempo, con un numero sufficiente di esempi e istruzioni esplicite, possiamo imparare a cogliere i tipi di errori che le macchine stanno attualmente commettendo.”
Lo studio utilizza i dati raccolti utilizzando”Testo reale o falso?”, un originale gioco di allenamento basato sul web. Questo gioco di formazione trasforma il metodo sperimentale standard per gli studi di rilevamento in una riproduzione più accurata di come le persone utilizzano l’intelligenza artificiale per generare testo.
Nei metodi standard, ai partecipanti viene chiesto di indicare in modo sì o no se una macchina ha prodotto un dato testo. Il modello Penn perfeziona lo studio di rilevamento standard in un’attività di addestramento efficace mostrando esempi che iniziano tutti come scritti dall’uomo. Ogni esempio passa quindi al testo generato, chiedendo ai partecipanti di segnare dove credono che inizi questa transizione. I tirocinanti identificano e descrivono le caratteristiche del testo che indicano errori e ricevono un punteggio.
Risultati dello studio
I risultati dello studio mostrano che i partecipanti hanno ottenuto punteggi significativi meglio del caso casuale, fornendo la prova che il testo creato dall’intelligenza artificiale è, in una certa misura, rilevabile. Lo studio non solo delinea un futuro rassicurante, persino entusiasmante, per il nostro rapporto con l’IA, ma fornisce anche la prova che le persone possono addestrarsi a rilevare il testo generato dalla macchina.
“Le persone sono preoccupate per l’IA per valide ragioni,”dice Callison-Burch. “Il nostro studio fornisce punti di prova per placare queste ansie. Una volta che saremo in grado di sfruttare il nostro ottimismo sui generatori di testo basati sull’IA, saremo in grado di dedicare attenzione alla capacità di questi strumenti di aiutarci a scrivere testi più fantasiosi e più interessanti.”
Dugan aggiunge:”Ci sono aspetti positivi entusiasmanti direzioni in cui puoi spingere questa tecnologia. Le persone sono fissate su esempi preoccupanti, come il plagio e le notizie false, ma ora sappiamo che possiamo allenarci per essere lettori e scrittori migliori.”
Lo studio fornisce un primo passo fondamentale per mitigare i rischi associati al testo generato dalla macchina. Man mano che l’intelligenza artificiale continua ad evolversi, deve farlo anche la nostra capacità di rilevare e gestire il suo impatto. Addestrandoci a riconoscere la differenza tra testo scritto dall’uomo e testo generato dalla macchina, possiamo sfruttare il potere dell’intelligenza artificiale per supportare i nostri processi creativi mitigandone i rischi.