Uomo o macchina? GPTZero scopre testi di AI

Scrivere un saggio, comporre una poesia o inventare un saggio dal nulla in pochi secondi? Dalla fine di novembre, questo è possibile grazie al chatbot alimentato dall'intelligenza artificiale (AI) "ChatGPT"

Mentre alunni, studenti e impiegati sono entusiasti di questo utile strumento, uno studente di informatica dell'Università di Princeton negli Stati Uniti, Edward Tian, ne vede i potenziali pericoli. Per questo motivo, nel corso del nuovo anno ha creato un programma che riconosce se un testo proviene da ChatGPT o da un essere umano. Si chiama GPTZero.

"C'è tanto clamore intorno a ChatGPT. Questo e quello sono scritti dall'intelligenza artificiale? Noi umani meritiamo di saperlo!" scrive il 22enne su Twitter. Questo aspetto è particolarmente importante nel contesto scolastico. "Gli insegnanti delle scuole secondarie vogliono che gli alunni usino ChatGPT per scrivere i loro saggi di storia? Probabilmente no", continua Tian.

I docenti delle scuole secondarie vogliono che gli studenti usino ChatGPT per scrivere i loro saggi di storia?

Gli interessati hanno potuto utilizzare la versione beta dell'applicazione dall'inizio di gennaio. Sia direttamente tramite il sito web di Tian sia tramite la piattaforma open source Streamlit.

Come funziona GPTZero

Per l'analisi, gli utenti inseriscono un testo nel campo di testo di GPTZero. Dopo qualche secondo, l'applicazione risponde con una valutazione basata su un punteggio. Se il punteggio è relativamente alto, è probabile che il testo sia stato scritto da un essere umano.

GPTZero utilizza due criteri per valutare se un testo è stato scritto da un'intelligenza artificiale o meno: la "perplessità" e la "burrosità". La perplessità misura la casualità di una frase. GPTZero analizza come è costruita la frase e se la sua struttura è insolita o sorprendente. In questo caso, indica che la frase è stata scritta da un essere umano.

Burstiness analizza la casualità all'interno dell'intero testo. Gli strumenti di intelligenza artificiale tendono a scrivere testi con complessità costantemente bassa. Gli esseri umani, invece, tendono a scrivere una frase più complessa e poi una più semplice.

Tian "completamente sopraffatto" dall'enorme interesse

Dal momento del rilascio, la corsa a GPTZero è stata enorme. "Sono completamente sopraffatto dal supporto che questa applicazione ha ricevuto", afferma Tian su Substack. Questo dopo essersi scusato per il crash del sito web in un messaggio precedente. Nel frattempo il sito è andato in crash a causa dell'elevata richiesta.

Nonostante la grande richiesta, ci sono anche voci più critiche come questa nei confronti di GPTZero. Su Twitter, fanno notare a Tian che la sua app non sarà utile a lungo. Questo perché pensano che ChatGPT supererà questi programmi in futuro.

GPTZero potrebbe essere superato in fretta?

Lo pensa anche Sandro Luck, Machine Learning Engineer di Digitec Galaxus. Tuttavia, non si sente di escludere immediatamente la nuova applicazione di intelligenza artificiale. "Sospetto che GPTZero probabilmente scoprirà lunghi testi di ChatGPT", afferma. "Questo perché OpenAI, l'azienda che sta dietro a ChatGPT, non ha alcun interesse a nascondere il fatto che ChatGPT è un'intelligenza artificiale". Tuttavia, non appena gli sviluppatori si prefiggono l'obiettivo di ingannare strumenti come GPTZero, ciò avviene "molto rapidamente".

Tian vuole assolutamente ingannare gli sviluppatori.

Tian vuole assolutamente concentrarsi sull'espansione di GPTZero nei prossimi mesi, scrive lo studente su Substack. Vuole migliorare le capacità di modellazione e concentrarsi sulla scalabilità dell'applicazione. Inoltre spera di pubblicare presto i suoi risultati con il programma in un articolo scientifico.