Ogni azione ha una reazione. Pertanto, gli strumenti di intelligenza artificiale generativa sono compensati da rilevatori di intelligenza artificiale che aiutano a distinguere la scrittura umana dai contenuti generati dall'intelligenza artificiale.
Gli strumenti di intelligenza artificiale hanno permeato tutte le sfere della vita umana, dalle app per eseguire compiti ripetitivi alle soluzioni complesse per lavori creativi. L’intelligenza artificiale sta diventando incredibilmente simile a quella umana, rendendo sempre più difficile rilevare i contenuti generati dall’intelligenza artificiale. E i rilevatori di intelligenza artificiale fungono da “prima linea di difesa” quando si tratta di distinguere i primi dai secondi. Sebbene questo articolo riguardi principalmente il testo, i rilevatori di contenuti AI possono funzionare anche con immagini, video e persino suoni, il che è fondamentale per la protezione contro i deepfake e altre truffe.
In questo materiale ti presenteremo il concetto di rilevamento dell'intelligenza artificiale, forniremo esempi della sua applicazione e spiegheremo le basi del funzionamento dei rilevatori di intelligenza artificiale. Imparerai anche perché possono verificarsi falsi positivi o falsi negativi e come aggirare gli algoritmi (e se ne vale la pena).
Sommario
- Introduzione al rilevamento dell'intelligenza artificiale
- Come funzionano i rilevatori di testo
- Come funzionano i rilevatori di immagini
- Come funzionano i rilevatori di video e deepfake
- I rilevatori di intelligenza artificiale sono affidabili?
- Applicazioni e usi
- Rilevatori di intelligenza artificiale e sistemi di controllo del plagio
- Rilevamento manuale o algoritmico
- Best practice e futuro del rilevamento dell'intelligenza artificiale
- Domande frequenti
- Conclusione
Introduzione al rilevamento dell'IA
Immaginiamo una situazione molto tipica:ti imbatti in una nozione o in un fatto, provi a indagarlo e cerchi su Google trovando qualche articolo. Ma come fai a sapere se sono stati scritti da un esperto umano o generati da uno strumento di intelligenza artificiale che ha raccolto informazioni da tutte le fonti disponibili, non importa quanto siano affidabili? Tu no.
Oppure vedi una bella foto e ti interessi chi è la modella, solo per scoprire che non esiste perché anche l'immagine è stata creata da un'intelligenza artificiale.
La verità è che al giorno d'oggi non puoi mai essere sicuro al 100% di chi sia il vero autore del contenuto o se puoi fidarti di esso. Anche se a volte non ha molta importanza (chi se ne importa che un'illustrazione sia generata dall'intelligenza artificiale se serve al suo scopo), sarebbe deludente scoprire che la poesia stimolante e penetrante che hai appena letto è stata scritta da un programma senz'anima.
Ecco perché i rilevatori AI stanno guadagnando popolarità non solo per il controllo dei testi ma anche per i contenuti visivi. Il progresso è irreversibile e incontenibile, ma l'uso responsabile dell'IA è la chiave e i rilevatori dovrebbero aiutarci in questo.
Come funzionano i rilevatori di testo
Come funzionano i rilevatori AI? Analizzano il contenuto scritto utilizzando diversi parametri. L'apprendimento automatico e l'elaborazione del linguaggio naturale consentono ai programmi di "scansionare" il testo e valutare i seguenti aspetti.
Perplessità
In termini semplici, questo termine indica quanto il testo sia prevedibile e insipido. Ad esempio, se la frase inizia con "Mi piace il mio caffè", ci aspettiamo che termini con qualcosa come "caldo, forte e nero, non con" anche se mi piace di più il mio cuscino". Anche se la seconda opzione è grammaticalmente corretta, non ha senso (almeno senza un contesto esteso). Le persone tendono a fare scelte linguistiche più creative, mentre i contenuti generati dall'intelligenza artificiale sono solitamente più semplici.
Rumore
In altre parole, è la coerenza del testo. La scrittura umana può e talvolta dovrebbe anche essere incoerente:alcune frasi sono lunghe e complesse, mentre altre sono brevi e semplici. Le persone possono utilizzare schemi grammaticali avanzati in una parte e una struttura della frase molto elementare in un'altra. Il testo generato dall'intelligenza artificiale di solito segue uno schema scelto (a meno che non venga richiesto di fare il contrario).
Perplessità e irascibilità sono indicatori linguistici chiave, ma non gli unici.
Filigrana
Sì, è esattamente quello che sembra:incorporare alcuni "segni" (combinazioni di parole e lettere) nel testo che sembrano naturali ma che i rilevatori di contenuti AI riconoscono.
Vettori
Conosciuti anche come incorporamenti, i vettori sono rappresentazioni numeriche di parole "umane". Anche se le parole sono omonimi completi, come "wind" (sostantivo) e "to wind" (verbo), i loro vettori saranno diversi. Questa tecnica aiuta i rilevatori di intelligenza artificiale a riconoscere meglio i contenuti generati dall'intelligenza artificiale.
Rilevamento manuale
Se sei un insegnante che rivede il compito di uno studente, puoi individuare scelte insolite di parole, vocabolario eccessivamente avanzato e altri segni di testo generato dall'intelligenza artificiale. Se si tratta di un testo anonimo, ad esempio su Internet, è più probabile che il testo scritto da persone abbia un tocco personale, battute (anche non molto divertenti) e un tono informale.
Anche scrivere un'analisi della cronologia può tornare utile:se una delle modifiche contiene grandi porzioni di testo, sembra sospetta (o l'autore le ha semplicemente copiate da un altro documento).
Esempi di rilevatori di testo generati dall'intelligenza artificiale:
- Quillbot
- Scriba
- Alberello
- Intelligenza artificiale di Winston
- Proofademico
- Scrittore invisibile
Come funzionano i rilevatori di immagini
Non molto tempo fa, le immagini generate dall'intelligenza artificiale erano facili da rilevare a causa di numerose "allucinazioni":numeri errati di dita, a volte anche di braccia e gambe, posture innaturali, ecc. Un anno fa abbiamo anche confrontato diversi strumenti di intelligenza artificiale generativa gratuiti e quasi tutti condividevano gli stessi problemi.
L’analisi digitale del rumore aiuta ancora, ma è meno affidabile di quanto lo fosse in passato poiché i generatori di intelligenza artificiale continuano ad evolversi. Una delle ultime frontiere, però, è il testo incorporato che l'intelligenza artificiale fatica a replicare accuratamente.
Ultimo ma non meno importante:l’impronta digitale neurale. I rilevatori di immagini e video confrontano le strutture dei pixel con i dati di addestramento noti provenienti da generatori di immagini AI come Midjourney o DALL-E.
Esempi di rilevatori di immagini generati dall'intelligenza artificiale:
- Moderazione dell'Hive
- Sensibilità AI
- Illuminarte
- WasItAI
- AI o no
Come funzionano i rilevatori di video e deepfake
I deepfake stanno diventando più intelligenti:possono imitare personaggi pubblici reali, diffondere notizie false e causare panico. Questa tecnica viene utilizzata anche per violare la sicurezza e ottenere dati sensibili da individui e aziende.
Come funzionano i rilevatori di intelligenza artificiale in questo caso? Cercano le seguenti occorrenze:
- Incoerenze come sfarfallio, movimenti innaturali del corpo o ombre mutevoli.
- Espressioni facciali e segnali fisiologici, come strani battiti di ciglia.
- Suono asincrono e movimenti delle labbra.
- Filigrane e metadati nascosti lasciati dagli strumenti di intelligenza artificiale generativa nei loro output.
Esempi di rilevatori AI:
- Rilevatore video AI
- Sensibilità AI
- AI di DeepBrain
- DeepfakeDetector
- Rilevatore di deepfake
I rilevatori di intelligenza artificiale sono affidabili?
No, non lo sono. Potrebbero produrre falsi positivi e contrassegnare i contenuti scritti da esseri umani come generati dall’intelligenza artificiale. Ciò può essere causato da diversi motivi.
In primo luogo, gli anglofoni non nativi potrebbero utilizzare una grammatica semplice e una scelta di parole controintuitiva. Poi, alcuni tipi di scrittura, come documentazione e manuali, non sono molto versatili o artistici. Ultimo ma non meno importante, anche la lunghezza delle frasi è importante:le frasi brevi hanno maggiori probabilità di essere rilevate come scritte dall'intelligenza artificiale.
Anche i falsi negativi sono abbastanza comuni. Gli output dell'intelligenza artificiale, se modificati da uno scrittore umano, possono "superare il test". Oltre ai contenuti migliorati da un umanizzatore di app.
Ad esempio, questo stesso articolo è stato scritto da un essere molto umano, lo giuro. L'ultima volta che ho fatto un controllo medico, non sono emerse parti di cyborg. Ma il verdetto di stealthwriter.ai è stato che il 65% del mio testo è costituito da intelligenza artificiale. D'altro canto, detector-ai.com è stato più clemente considerando solo il 26,9% dei miei scritti come generati dall'intelligenza artificiale, e sapling.ai è stato anche meno duro etichettando solo il 34,2% come falso.
Questo è in realtà tutto ciò che devi sapere sull'affidabilità dei rilevatori di intelligenza artificiale e sulla loro capacità di riconoscere la scrittura umana. Nel mio caso, immagino, l'output sia stato fortemente influenzato dalle virgolette e da un correttore ortografico (colpevole, Vostro Onore!).
Applicazioni e usi
I contenuti generati dall’intelligenza artificiale potrebbero aprire nuovi orizzonti alla creatività umana, ma solo se praticati con coscienza.
Abhijit Naskar, neuroscienziato e scrittore
Il rilevamento tramite intelligenza artificiale è utile non solo quando vuoi essere sicuro che un articolo casuale su Internet sia stato scritto da un essere umano. Ecco un breve elenco, per nulla esaustivo, delle possibili applicazioni dei rilevatori AI.
- Accademia. Gli studenti astuti adorano scrivere i loro compiti con l'aiuto dell'intelligenza artificiale.
- Scienza. Gli articoli scientifici dovrebbero essere creati da veri esperti.
- Editoria e giornalismo. I generatori di testo AI mancano di integrità, intensità emotiva e anima.
- Social media. Le piattaforme richiedono sempre più l’etichettatura dell’intelligenza artificiale per mantenere la trasparenza. Inoltre, i follower sono stanchi di contenuti superficiali e monotoni, quindi il testo scritto da persone potrebbe diventare il tuo vantaggio in questa competizione.
In sintesi, il rilevamento dell'intelligenza artificiale è applicabile in vari ambiti, a partire da quelli privati (per verificare l'affidabilità di una fonte di informazioni) fino alle esigenze aziendali ed educative.
Rilevatori di intelligenza artificiale contro controlli di plagio
I rilevatori di plagio sono apparsi molto prima dei rilevatori di intelligenza artificiale. Finora sono in uso da una buona dozzina di anni o anche di più. Entrambi aiutano molto, ma servono a scopi diversi.
Strumenti di rilevamento dell'intelligenza artificiale basta rilevare la paternità, sia che si tratti di scrittura umana o di intelligenza artificiale. Il contenuto stesso potrebbe essere unico e autentico.
Controlli anti-plagio verifica se il contenuto è originale o se è compilato o "preso in prestito" da altre fonti, con l'aiuto del popolare approccio accademico "copia e incolla".
Entrambi gli strumenti funzionano meglio se combinati:in questo modo ottieni una valutazione del testo completo.
Rilevamento manuale e algoritmico
Il rilevamento manuale della scrittura AI si basa sull'esperienza e sulla conoscenza personale dello scrittore. Ad esempio, un insegnante o tutor che conosce gli stili dei propri studenti può facilmente rilevare incoerenze e aspetti bizzarri nei compiti di qualcuno, mentre un rilevatore di intelligenza artificiale potrebbe rivelarsi inefficace, poiché i rilevatori di elaborazione del linguaggio naturale (PNL) di base possono essere aggirati dagli umanizzatori di intelligenza artificiale.
D’altra parte, in casi più generici, quando si ha a che fare con un testo casuale proveniente da una fonte sconosciuta, i rilevatori di intelligenza artificiale funzionano in modo più efficiente. Nel complesso, un approccio ibrido potrebbe fornire i migliori risultati.
Best practice e futuro del rilevamento dell'intelligenza artificiale
Ecco un breve elenco dei nostri suggerimenti e suggerimenti per aiutarti a non perderti nell'abbondanza di strumenti di intelligenza artificiale e nella loro versatilità. Dato che si tratta di un segmento relativamente nuovo di utilizzo dell'intelligenza artificiale (che ironia! Gli strumenti di intelligenza artificiale aiutano a rilevare i contenuti generati dall'intelligenza artificiale), devi essere particolarmente cauto.
- Utilizza più strumenti di rilevamento dell'intelligenza artificiale, inclusa la revisione umana, per ottenere il risultato più affidabile.
- Non dimenticare di aggiornare i rilevatori di contenuti, poiché continuano a evolversi (insieme agli strumenti di scrittura AI).
- "Tutti mentono". Tieni presente che i falsi positivi non sono rari; non affrettarti ad accusare un autore in base al risultato di un rilevatore.
E soprattutto, anche se i contenuti venissero riconosciuti come generati dall'intelligenza artificiale, non sarebbe la fine del mondo. Ci sono molte situazioni in cui è totalmente accettabile, soprattutto se il testo è stato modificato e rivisto manualmente.
Quando un’opera d’arte viene inventata da una macchina, perde il suo potere più importante:aiutare le persone a connettersi.
Eric Reinhart, antropologo politico, psichiatra e psicoanalista
In futuro, il dominio si evolverà senza dubbio. Gli strumenti diventeranno più accurati e affidabili e potrebbero arrivare anche normative e restrizioni legali. Prevediamo alcune possibili modifiche:
- Credenziali del contenuto (C2PA):i metadati supportati da blockchain dimostreranno la paternità umana.
- Le filigrane di scrittura invisibili dell'intelligenza artificiale diventeranno una funzionalità predefinita.
- I rilevatori funzioneranno con diversi tipi di contenuto anziché solo uno (testo, audio, video o immagine).
- I domini e le risorse pubblici richiederanno l'etichettatura dei contenuti dell'intelligenza artificiale (o viceversa, un marchio di "scrittura umana").
Incontriamoci qui tra un anno e vediamo se avevamo ragione o no :)
Domande frequenti
Cos'è un rilevatore AI e come funziona?
I rilevatori di intelligenza artificiale sono app, siti o software che determinano se il contenuto è stato generato da uno scrittore umano o da un'intelligenza artificiale. Questi strumenti analizzano la lunghezza e la struttura delle frasi, cercano metadati e filigrane nascoste e utilizzano altre tecniche.
I rilevatori di intelligenza artificiale possono rilevare video avanzati generati dall'intelligenza artificiale come Sora o Kling?
Parzialmente. A volte riescono a rilevare i deepfake, ma i modelli avanzati di intelligenza artificiale possono aggirare i rilevatori in modo abbastanza efficace.
Gli umanizzatori dell'IA riescono a bypassare efficacemente il rilevamento?
Sì, ma possono rendere il testo "innaturale" e strano.
È legale ed etico utilizzare rilevatori di intelligenza artificiale nei luoghi di lavoro e nell'istruzione?
Dipende in larga misura dalle politiche del luogo di lavoro e dell'ente educativo, poiché non esistono ancora leggi e regolamenti ufficiali.
Quanto sono accurati i rilevatori di intelligenza artificiale?
Non sono ancora accurati. I falsi positivi possono "rivelare" un'alta percentuale di contenuti AI, anche se il testo è stato scritto manualmente e rivisto per errori grammaticali o di ortografia con l'aiuto di uno strumento (o anche senza un motivo particolare).
Editor video in linea
Crea video direttamente nel tuo browser. Combina video con immagini, aggiungi musica, testo, adesivi, GIF e voci fuori campo AI.
Conclusione
Come puoi vedere, i rilevatori AI possono essere utili, ma non sono affidabili. Tieni presente che sono possibili sia falsi positivi che falsi negativi, soprattutto se il contenuto è stato modificato con l'aiuto di un umanizzatore o di un correttore ortografico.