Bot o no? Questa estensione del browser identificherà il testo scritto da A.I.
Capire se le cose che leggi su Internet sono vere può essere una sfida. Grazie a un nuovo plug-in web, determinare se le storie sono state scritte da un essere umano o da un'intelligenza artificiale è ora molto più semplice. GPTrue or False è un'estensione del browser per Chrome e Firefox che consente agli utenti di selezionare il testo su un sito Web (50 parole e oltre) e di averlo valutato per determinare la probabilità che sia stato scritto dal modello AI GPT-2 di OpenAI piuttosto che da un essere umano.
GPT-2 è un algoritmo di generazione di testo che consente agli utenti di seminarlo con l'inizio di un pezzo di testo, come un articolo di un giornale, e poi sogna il resto in modo terrificantemente convincente. Mentre alcuni lo hanno utilizzato per scopi creativi, come la generazione di giochi di avventura di testo in continua evoluzione , altri sono giustamente preoccupati di ciò che potrebbe significare per la diffusione di notizie false .
GPTrue o False esegue il testo selezionato attraverso il modello di rivelatore GPT-2 di OpenAI , quindi determina la probabilità che il testo sia stato generato dall'uomo piuttosto che creato da una macchina.
"Direi che il problema è piuttosto rilevante nel mondo di oggi", ha detto a Digital Trends Giulio Starace, il creatore di GPTrue o False. “Man mano che la generazione di dati sintetici diventa sempre più sofisticata, diventiamo sempre più vulnerabili all'essere influenzati in un modo o nell'altro. Le false notizie generate dalle macchine ne sono un esempio, ma consideriamo anche le recensioni false. In un mondo in cui la revisione è stata aperta, questo sistema può essere maltrattato e i consumatori possono arbitrariamente orientarsi verso una determinata attività. "
Starace ha dichiarato di essere stato ispirato a creare il plug-in dopo aver visto un tweet del direttore dell'IA di Tesla, Andrej Karpathy. Il 6 novembre Karpathy ha twittato una richiesta di estensione di Chrome per aiutare a individuare il testo GPT-2 online. "Ho visto il tweet e ho pensato, 'ehi, probabilmente posso farlo", ha detto Starace. L' estensione può essere scaricata qui .
Un'ultima parola di cautela: mentre questo rilevatore è straordinariamente accurato quando si tratta di individuare gli scarabocchi di un'intelligenza artificiale, vorrai comunque usare un po 'di buon senso. Proprio come un rilevatore di spam che individua e-mail di immondizia, potrebbero esserci alcuni pezzi scritti dall'uomo che scivolano attraverso le fessure – o viceversa.
"Può darsi che il testo generato da GPT-2 e il testo generato dall'uomo abbiano a volte caratteristiche sovrapposte che inducono il rivelatore a pensare accidentalmente che una porzione di testo generata dall'uomo sia effettivamente generata automaticamente", ha affermato Starace. "Ci sono alcuni esempi divertenti di questo sul mio Twitter in cui le persone mostrano che il rivelatore classifica erroneamente un discorso di Trump come generato dal computer , e allo stesso modo in un estratto di James Joyce . Quindi Trump e James Joyce sono robot o il rilevatore è imperfetto. "
