Come funzionano i rilevatori di testo AI?

Analizzano caratteristiche statistiche del testo (come prevedibilità e uniformità delle parole) per stimare se è stato generato da un'AI. I testi AI tendono a essere molto 'lisci' e prevedibili, e i rilevatori cercano questi segnali. Ma è una stima probabilistica, non una certezza: assegnano una probabilità, non una prova.

No, non al 100%: producono falsi positivi (testo scritto da umani segnalato come AI) e falsi negativi (testo AI non rilevato). Gli studi e l'esperienza mostrano un'affidabilità limitata e variabile. Per questo nessun risultato dovrebbe essere usato da solo come prova definitiva, soprattutto in contesti con conseguenze importanti per le persone.

Perché si basano su segnali statistici imperfetti: testi umani semplici, schematici o scritti da non madrelingua possono assomigliare a testi AI ed essere segnalati per errore; testi AI rivisti o 'umanizzati' possono sfuggire. Inoltre, man mano che i modelli migliorano e i testi diventano più naturali, distinguere diventa sempre più difficile.

No: data l'inaffidabilità, usare un rilevatore come unica prova è rischioso e ingiusto. Può portare ad accuse sbagliate, ad esempio verso studenti che hanno scritto da soli. Se c'è un dubbio, è meglio un confronto diretto, valutare il processo (bozze, cronologia) e il contesto, piuttosto che affidarsi al solo punteggio di uno strumento.