Cos’è la filigrana OpenAI ChatGPT?
OpenAI ha iniziato a discutere la possibilità di utilizzare una filigrana crittografica nell’output di testo di ChatGPT che renderà più facile individuare il testo che è stato creato dal chatbot AI. L’idea è di assicurarsi che lo strumento non venga utilizzato in modo improprio in modi che non dovrebbero, ad esempio scrivere articoli per la scuola o l’università.
Una filigrana crittografica è un tipo di filigrana digitale incorporata in un file o segnale digitale utilizzando tecniche crittografiche. Le filigrane digitali vengono utilizzate per identificare la proprietà o l’origine di un file o segnale digitale e sono spesso utilizzate per proteggere dall’uso o dalla distribuzione non autorizzati di contenuti digitali. Ottieni molti di questi tipi di filigrane in foto e video, ma OpenAI sta parlando dello sviluppo di una filigrana crittografica integrata nel testo che ChatGPT sta emettendo.
Se stai pensando a come funzionerebbe senza influire sulla coerenza dell’output del testo, sei sulla strada giusta, ma la realtà è che il testo è così aperto e infinito che è molto possibile includere un codice crittografico impercettibile senza che ciò influisca il modo in cui si legge il testo.
In verità, i contenuti generati dall’intelligenza artificiale seguono uno schema prevedibile nel modo in cui usano le parole, il che significa che è abbastanza facile riconoscerli se sai cosa cercare. Tuttavia, OpenAI sembra destinato a incorporare un elemento deliberato di questa prevedibilità in modo impercettibile. Come discusso nel Search Engine Journal da Scott Aaronson di OpenAI, che è stato incaricato di garantire la sicurezza e l’allineamento dell’IA presso l’azienda, questo processo è chiamato distribuzione pseudocasuale. La pseudocasualità è quando una serie di parole o numeri appare casuale ma in realtà non è veramente casuale. Questo ci consente di contrassegnare i contenuti generati dall’intelligenza artificiale senza interrompere l’aspetto del testo. Aaronson ha scritto del lavoro che sta facendo per OpenAI nel suo blog, dicendo:
“Il mio progetto principale finora è stato uno strumento per filigranare statisticamente gli output di un modello di testo come GPT.
Fondamentalmente, ogni volta che GPT genera un testo lungo, vogliamo che ci sia un segnale segreto altrimenti impercettibile nelle sue scelte di parole, che puoi usare per dimostrare in seguito che, sì, questo proviene da GPT “
È interessante notare, tuttavia, che sembra che un modo semplice per aggirare questo tipo di filigrana sia quello di eseguire il testo attraverso un altro protocollo di intelligenza artificiale del testo generativo e chiedergli di riscrivere il testo. Questo potrebbe sembrare sciocco, ma offrirebbe all’utente la possibilità di generare testo, eliminando la necessità di scriverlo da solo e quindi eludendo la potenziale caratteristica di sicurezza facendo in modo che l’altro protocollo scriva la filigrana crittografica.
Chiaramente, questo è ancora un lavoro in corso, motivo per cui, almeno per ora, OpenAI non sta filigranando attivamente l’output di testo proveniente da ChatGPT. Tuttavia, se hai intenzione di utilizzare ChatGPT per scrivere un testo importante per te, fai attenzione perché, come accennato in precedenza, se sai cosa cercare sarai in grado di individuare il testo generato dall’intelligenza artificiale, anche senza avere una filigrana specifica cercare.
