Come verificare se un testo è stato scritto da ChatGPT: guida al rilevamento dell'intelligenza artificiale

Individua i contenuti generati dall'IA grazie a strumenti semplici e indizi contestuali

Con la popolarità crescente delle IA, come ChatGPT, Bard e altri chatbot, inizia a essere difficile capire se un testo è stato scritto da una persona o da un'intelligenza artificiale. Esistono diversi strumenti per individuare i lavori prodotti dalle IA, ma la verità è che questi strumenti possono produrre risultati falsati soprattutto in relazione a saggi, articoli, lettere di presentazione e altri contenuti. Fortunatamente, ci sono ancora dei metodi affidabili per capire se un testo è stato generato da ChatGPT o è stato scritto da un essere umano. Questo articolo di How.com.vn presenta i migliori strumenti per il rilevamento del lavoro delle IA: si rivelano utili sia per gli insegnanti, sia per studenti e utenti curiosi a cui forniranno utili trucchi per riconoscere a colpo d'occhio i contenuti scritti da un'IA.

Cose che dovresti sapere

Strumenti come OpenAI's Text Classifier, GPTZero e Copyleaks sono in grado di riconoscere i testi prodotti da ChatGPT, LLaMA e dalle IA che sfruttano altri modelli di linguaggio.
ChatGPT spesso crea testi che sembrano "perfetti" a prima vista, ma che contengono informazioni false.
Alcuni elementi che indicano un lavoro prodotto da ChatGPT: mancanza di linguaggio descrittivo, espressioni come "in primo luogo" e "in secondo luogo", oltre a frasi che sembrerebbero corrette ma in realtà non hanno alcun senso.

Metodo 1

Metodo 1 di 3:

Come funzionano gli strumenti di rilevamento delle IA.

Scarica PDF

1
Gli strumenti che riconoscono il lavoro delle IA valutano la prevedibilità del testo. ChatGPT, Bard e gli altri chatbot "scrivono" prevedendo la parola o la frase successiva sulla base dei dati di apprendimento. Allo stesso modo, gli strumenti per individuare le IA funzionano rilevando la prevedibilità di parole, frasi e formattazione a partire da dati di apprendimento simili.
- Uno strumento di rilevamento confronta lo stralcio di un testo con contenuti simili; dopodiché, decide quanto sia prevedibile lo scritto e lo etichetta come prodotto dall'uomo o dall'IA.
- Questi strumenti cercano anche altri indicatori, ovvero una "firma" caratteristica che le IA lasciano quando generano un testo, ad esempio una determinata scelta di parole e modelli ricorrenti.^{[1]XFonte di ricerca}
2
Anche i rilevatori delle IA spesso compiono degli errori. Gli strumenti di rilevamento di ChatGPT possono essere utili, ma non sono infallibili. Spesso forniscono dei falsi positivi, cioè tendono a segnalare un testo scritto da un essere umano come se fosse generato dall'IA quando quel contenuto non segue taluni schemi.^{[2]XFonte di ricerca} È anche abbastanza semplice per gli studenti e altri scrittori modificare il testo per renderlo virtualmente invisibile ai controlli di questi strumenti; ciò significa che i contenuti generati dalle IA potrebbero passare tranquillamente sotto il radar dei rilevatori.
- Se uno strumento di rilevamento dell'IA segnala uno stralcio di testo come generato artificialmente, non affidarti soltanto a quella valutazione. Converrebbe utilizzare questi strumenti soltanto quando hai già trovato altri elementi che indicano quel contenuto come una creazione di ChatGPT.^{[3]XFonte di ricerca}
- Esaminare un testo con diversi strumenti di rilevamento dell'IA può darti un'idea più specifica del modo in cui questi strumenti funzionano. Può anche aiutarti a escludere i falsi negativi e i falsi positivi.
Pubblicità

Metodo 2

Metodo 2 di 3:

Utilizzo degli strumenti di rilevamento delle IA.

Scarica PDF

Questo strumento gratuito, creato dalle stesse persone che hanno dato vita a ChatGPT, indica quante sono le probabilità che uno stralcio di testo sia stato generato dal modello linguistico di un'IA.^{[4]XFonte di ricerca} È necessario un account OpenAI gratuito per utilizzare AI Text Classifier. Per adesso, si può incollare solo una porzione di testo da far analizzare allo strumento; l'opzione per caricare un documento intero potrebbe essere disponibile in futuro. Dai un'occhiata a questo link.
Questo è uno strumento sviluppato da uno studente dell'Università di Princeton allo scopo di contrastare il plagio perpetrato dalle IA.^{[5]XFonte di ricerca} GPTZero offre l'opzione di incollare un testo o caricare dei documenti per verificare che non siano stati generati da ChatGPT o altre IA. Con la versione gratuita (Classic) è possibile sottoporre al controllo fino a 5000 parole per ogni documento. Sono disponibili anche opzioni a pagamento, incluso l'abbonamento pensato per gli insegnanti. Si può usare questo strumento direttamente dal browser, ma è anche possibile installare un'estensione per Chrome o un plugin per Word.^{[6]XFonte di ricerca} Visita il link https://gptzero.me per creare un account gratuito.
Si tratta di uno strumento online gratuito ed è stato sviluppato da una società che crea contenuti per IA. Il suo scopo è aiutare gli scrittori che usano ChatGPT e altri generatori di contenuti basati sull'IA a modificare il loro lavoro prima della pubblicazione, affinché non sia evidente che si tratta di un prodotto dell'IA.^{[7]XFonte di ricerca} Si possono incollare più di 25 parole in questo strumento. Fai una prova su questo link].
Se cerchi uno strumento in grado di individuare le produzioni di ChatGPT, che sia sicuro e adatto per la rilevazione di contenuti scritti con GPT-4 (l'ultima versione di OpenAI disponibile soltanto con ChatGPT Plus), Copyleask offre una grande varietà di abbonamenti contro il plagio delle IA. Senza un abbonamento a pagamento, è possibile sottoporre a verifica fino a 250 caratteri per capire se sono stati generati da ChatGPT, Bard o altri chatbot.^{[8]XFonte di ricerca} Dai un'occhiata a questo link: https://copyleaks.com/ai-content-detector.
Pubblicità

Metodo 3

Metodo 3 di 3:

Tracce dell'utilizzo di ChatGPT.

Scarica PDF

1
Affermazioni inverosimili o imprecise. ChatGPT, Bard e altri chatbot sono noti per avere delle vere e proprie allucinazioni o inventare gli eventi.^{[9]XFonte di ricerca} Può accadere che uno studente o chi si candida per un lavoro possa inserire delle imprecisioni nei propri scritti; tuttavia, le IA fanno sembrare le informazioni false estremamente credibili. Inoltre, ChatGPT possiede una conoscenza limitata degli eventi accaduti dopo il 2021 e ciò significa che, in genere, non riesce a generare informazioni veritiere riguardo all'attualità.^{[10]XFonte di ricerca} Se un testo appare davvero ben scritto, ma contiene informazioni false, è probabile che sia stato generato da un'IA.
- Se devi sottoporre a una valutazione uno scritto che pensi sia stato generato dall'IA, prova a cercare sul web alcuni eventi descritti nel testo. Cerca qualcosa che sia facile da verificare, per esempio date o accadimenti specifici.
ChatGPT può creare delle frasi perfette dal punto di vista grammaticale che però non hanno senso, anche se a un primo sguardo possono sembrare valide. Questo accade perché ChatGPT non sa se una cosa è vera o falsa: sa soltanto come usare le parole giuste nel modo più opportuno. Se ti trovi a dover rileggere qualcosa che dovrebbe avere un senso, eppure non riesci proprio a capirne il significato, è molto probabile che tu abbia davanti un testo generato dall'IA.
Sebbene questo tipo di linguaggio sia utilizzato nella maggior parte dei saggi per la scuola, vedrai queste parole quasi sempre nei testi generati con ChatGPT. Alcuni strumenti di rilevamento delle IA tendono a segnalare persino i testi prodotti da esseri umani come scritti dell'IA soltanto perché includono questi termini.
La versione di ChatGPT integrata in Bing cita automaticamente le fonti, mentre la versione standard di ChatGPT tende a inventare di sana pianta le proprie fonti.^{[11]XFonte attendibilePubMed CentralVai alla fonte} Se sei un insegnante che deve valutare lo scritto di uno studente oppure sei uno studente che usa ChatGPT per trovare delle informazioni, controlla sempre le fonti fornite da ChatGPT per assicurarti che siano veritiere.
I modelli basati sull'IA come ChatGPT costruiscono le frasi prevedendo le sequenze di parole, quindi si finisce per ottenere un testo pieno di termini non specifici come "questo", "è" e "loro". Raramente ChatGPT inserisce nel testo parole inusuali per descrivere qualcosa, perciò una carenza di linguaggio descrittivo è emblematico di un contenuto generato dall'AI.^{[12]XFonte di ricerca}
Gli studenti, i candidati per un lavoro e gli autori fanno del proprio meglio per cogliere tutti gli errori di grammatica e ortografia prima di consegnare uno scritto; tuttavia, è molto difficile evitarli del tutto. D'altro canto, i computer producono un lavoro grammaticalmente impeccabile, anche quando il contenuto non è fattuale.
7
Quando sei in dubbio, chiedi a ChatGPT di produrre uno scritto simile a quello che hai davanti. Se pensi che ChatGPT abbia scritto un saggio, una lettera o un altro stralcio di testo, accedi a ChatGPT e chiedigli di creare un contenuto simile usando i punti principali dello scritto. Se la risposta di ChatGPT contiene la stessa struttura del testo che stai valutando, è possibile che lo scrittore abbia utilizzato ChatGPT per produrlo.
- Per esempio, se stai analizzando una lettera di presentazione perché pensi sia stata creata da un'IA, potresti chiedere a ChatGPT "Scrivimi una lettera di presentazione per la posizione di sviluppatore junior presso l'Azienda X. Spiega che mi sono laureato in informatica alla Rutgers, che adoro usare JavaScript e Ruby, aggiungi anche che ho lavorato come barista nell'ultimo anno".
- Poiché ChatGPT ha un'impostazione colloquiale, puoi continuare a fornirgli ulteriori dettagli. Per esempio, "nella lettera di presentazione aggiungi qualcosa riguardo al fatto che non ho iniziato a lavorare nel mondo dell'informatica subito dopo l'università a causa della pandemia".
Pubblicità

Consigli

Se lo strumento di rilevazione di ChatGPT ha identificato uno scritto generato dall'IA, considera che possa essere un falso positivo prima di confrontarti con l'autore.
Se sospetti che ChatGPT abbia prodotto il testo, ma non puoi esserne certo, consulta l'autore. Non accusarlo immediatamente di aver usato l'IA, ma fagli prima qualche domanda sulla scrittura o sul materiale per capire se le sue conoscenze corrispondono a quelle contenute nel testo. Potresti anche chiedergli qualche dettaglio sulla fase di scrittura per vedere se ammette di aver usato ChatGPT o un'altra IA.
La maggior parte degli strumenti di rilevamento di ChatGPT è in grado di individuare anche i contenuti scritti da altri modelli di linguaggio, incluso GPT-4, GPT-2 e LLaMA.
I ricercatori della Cornell hanno appurato che le persone giudicano erroneamente credibili gli articoli di notizie generati dall'IA più del 60% delle volte.^{[13]XFonte di ricerca}
Vuoi metterti alla prova per scoprire quanto sei bravo a indovinare se l'IA ha scritto dei racconti, delle ricette, degli articoli o dei discorsi? Gioca a 'Real or Fake Text' visitando questo link: https://roft.io.