Come determinare che il testo è stato scritto da una rete neurale

Di dati Bloomberg, circa il 30% degli specialisti utilizza reti neurali per generare testo. In Russia, il 67% degli intervistati desidera applicare nel lavoro dell'intelligenza artificiale per lavorare di meno e non perdere reddito. Queste sono solo statistiche che non soddisfano tutti i clienti. Alcuni non si fidano delle reti neurali, quindi preferiscono che i testi non siano scritti da robot, ma da persone.

Comprendiamo perché i clienti diffidano delle tecnologie e quali mezzi esistono oggi per esporre i neurotesti.

Perché i testi delle reti neurali dovrebbero essere trattati con cautela

Ecco i motivi principali per cui i clienti diffidano di tali articoli.

Rischio di violazione del copyright

Oggi non esiste una posizione ufficiale sulla questione del chi appartenere diritto d'autore per i testi creati con l'aiuto di AI. Secondo la legge, un autore è una persona che crea un'opera con un lavoro creativo o intellettuale. Tuttavia, nel caso di

rete neurale le persone danno solo istruzioni, ma non scrivono loro stesse.

Poiché ora la legge non riconosce i neurotesti come oggetto di diritto d'autore, le regole per l'utilizzo dei contenuti generati dalle tecnologie sono determinate nell'accordo con l'utente della rete neurale.

E se Open AI trasmette diritti sul testo anche nella versione gratuita, quindi Gerwin limiti il suo utilizzo per scopi politici, discriminatori o in pubblicità sfavorevole. E dentro metà viaggio utilizzare il contenuto per scopi commerciali Potere solo se il prodotto viene generato a una tariffa pagata.

Rischio di ottenere informazioni non univoche o imprecise

La rete neurale riceve una richiesta, la passa attraverso algoritmi, analizza le informazioni disponibili sull'argomento ed emette una risposta. Senza negare che la stessa richiesta di un altro utente può produrre un testo simile o simile.

E qui arriva un nuovo pericolo. I ricercatori della Cornell University hanno inventato conclusione: se le risposte della rete neurale alla stessa domanda variano notevolmente, allora con un'alta probabilità vengono fuori dei fatti.

Il rischio che i neurotesti abbassino la risorsa dell'azienda nei risultati di ricerca

Alla fine dello scorso anno, lo specialista della qualità di Google Duy Nguyen dichiaratoche l'azienda dispone di algoritmi per rilevare ed eseguire il downgrade dei contenuti creati intelligenza artificiale. Pertanto, molti temono che i motori di ricerca cercheranno tali contenuti e li pessimizzeranno. Cioè, per abbassare la posizione nei risultati della ricerca.

I precedenti esistono già. Ad esempio, il marketer Neil Patel ha speso sperimentarecreando 50 siti web di prova, che ha diviso in due gruppi. L'esperto ha riempito i siti della prima parte di articoli creati esclusivamente dall'intelligenza artificiale. I siti del secondo ospitavano articoli di IA modificati da persone, oltre a materiali scritti da copywriter senza l'utilizzo di reti neurali.

I risultati dell'esperimento hanno mostrato che le risorse del primo gruppo hanno perso diverse posizioni nei risultati della ricerca. E ha portato a diminuire traffico fino al 70%.

Allo stesso tempo, i rappresentanti di Google hanno aggiunto di avere un atteggiamento positivo nei confronti dello sviluppo delle reti neurali e di averne già creato una propria Chatbot Bardo. Ma per l'azienda, i testi di qualità sono una priorità. Il sistema, che classifica i risultati, offre innanzitutto agli utenti materiali che soddisfano standard E-E-A-T (esperienza, competenza, credibilità, credibilità).

I testi ad essi corrispondenti ispirano fiducia e sono ritenuti utili perché contengono esempi, esperienza, parte analitica e ricerca. E il contenuto che creano le reti neurali, senza un ulteriore profondo perfezionamento da parte di una persona, spesso non è tale.

Nel frattempo, alla Duma di Stato suggerito introdurre l'etichettatura per i materiali creati con l'aiuto dell'intelligenza artificiale. Fino a quando ciò non accade, determina che il testo generato da una rete neurale, dovrà farlo da solo. O con l'aiuto di servizi speciali.

Come determinare in modo indipendente che il testo sia stato scritto da una rete neurale

MIREA Technological University recentemente tenuta sperimentare, a cui hanno partecipato 20 docenti e oltre 200 studenti. La metà di loro ha scritto articoli scientifici per conto proprio. E l'altro 50% ha utilizzato l'aiuto delle reti neurali. Gli insegnanti, d'altra parte, dovevano calcolare tali materiali di intelligenza artificiale.

Per fare ciò, gli insegnanti hanno prestato attenzione alle caratteristiche stilistiche e ortografiche del testo. Ad esempio, per un gran numero di parole e significati ripetitivi, effettivi e logici errori, mancanza di sentenze originali. In questo modo, gli insegnanti sono stati in grado di identificare il 96% del lavoro scritto utilizzando la rete neurale. Il 4% degli studenti che non sono stati esposti ha ammesso di aver trascorso molte ore a modificare il testo AI.

Non esiste un'istruzione universale che aiuti a calcolare il testo generato dalla rete neurale. Tuttavia, l'esperimento mostra che modelli simili sono inerenti a tali materiali. Consideriamoli in modo più dettagliato.

Ripetizioni di significati e parole

Uno dei motivi per cui un sito viene abbassato nei risultati di ricerca è la riottimizzazione delle parole chiave. La rete neurale in risposta a una richiesta spesso “risponde in cerchio”. A volte usa occorrenze diverse, ma il significato è ancora ripetuto.

Quindi, nello screenshot qui sotto, l'intelligenza artificiale è stata incaricata di scrivere un post di vendita su un nuovo modo delicato di tingere i capelli. E in un piccolo testo, la rete neurale ha ripetutamente ripetuto le stesse tesi.

Quasi ogni frase testo generato si ripete la frase "un nuovo modo di colorare". E c'è anche una ripetuta duplicazione di significati sulla sicurezza del metodo e un approccio individuale, che enfatizzerà l'unicità di ogni cliente.

Ecco alcune citazioni dal testo che lo illustra: “trasforma la tua immagine ed esprimi la tua individualità”, “prendi in considerazione la tua individualità”, “adatto a te”, “crea per te look unico ed elegante", "rendi unico il tuo taglio di capelli", "preserva la salute e la lucentezza dei tuoi capelli", "sicuro per i tuoi capelli", "prenditi cura dei tuoi capelli, preservandoli salute".

Nel frattempo, è stato sufficiente menzionare una volta che nel salone è stata presentata una nuova procedura: il risparmio metodo di colorazioneche manterrà i capelli vivi. E spiega anche come funziona il metodo, qual è la sua novità e perché è sicuro. E aggiungi che la tavolozza dei colori è varia e che i maestri che sono stati addestrati non solo eseguiranno la colorazione con alta qualità, ma aiuteranno anche nella scelta del colore.

La presenza nel testo di un gran numero di francobolli e cliché, la mancanza di esperienza sensoriale

L'esempio di colorazione mostra anche che una rete neurale non può imitare il modo in cui una persona parla nella vita reale. Le persone sigillano, usano gergo e abbreviazioni, distorcono intenzionalmente le parole. Una tale presentazione aiuta ad attirare l'attenzione, evocare emozioni, trasmettere la posizione dell'autore, la sua esperienza sensoriale.

Ricerca spettacolo: la rete neurale non condivide i sentimenti, non accetta la posizione di nessuno. Pertanto, preferisce la neutralità, i cliché e i cliché. Nell'esempio sopra, si tratta di "capacità professionali", "materiali di alta qualità", "opportunità unica".

Allo stesso tempo, la rete neurale genera testi in stili diversi. Ad esempio, puoi affidarle il compito di preparare un materiale sull'argomento “Ciò che influisce sul costo di olio». Ma per chiarire che il testo non va scritto in un linguaggio arido, ma con l'aggiunta di metafore e paragoni. Tuttavia, il risultato è ancora artificiale. Dopotutto, l'IA non ha misura, non "sente" il testo come fa una persona.

Uno dei paragrafi aiuterà a vedere che il risultato ottenuto non può essere paragonato all'intonazione insita in una persona: “La domanda e l'offerta sono come una danza di due amanti nel mercato petrolifero. Se domanda di petrolio si alza come un oceano in tempesta e se l'offerta non riesce a tenere il passo, i prezzi salgono come lo champagne a una festa di Capodanno. Ma se la domanda diminuisce e l'offerta aumenta, i prezzi possono scendere come un pallone a una festa per bambini".

Il testo sembra artificiale e la maggior parte delle svolte in esso contenute sono fuori luogo. E sebbene il post si sia rivelato davvero "non arido", è difficile immaginare che un esperto avrebbe scritto in questo modo. Inoltre, letteralmente ogni frase è una metafora e un confronto. Tuttavia, tali tecniche dovrebbero essere precise e ben incorporate nel testo. Altrimenti il ​​significato si perde dietro un eccesso di immagini.

Presenza di frasi prive di significato e mancanza di logica

Il linguista Noam Chomsky nel suo libro Syntactic Structures osserva che la costruzione grammaticalmente corretta delle frasi in una frase non garantisce la presenza di logica e significato. Ad esempio, l'esperto ha citato la frase le idee verdi incolori dormono furiosamente - "le idee verdi incolori dormono furiosamente".

Gli algoritmi aiutano la rete neurale a costruire frasi corrette in termini di grammatica. Tuttavia, per l'IA non esiste il concetto di "significato". E può avere una propria logica per ogni paragrafo, poiché il materiale è ottenuto da fonti diverse.

Ad esempio, a una rete neurale è stato chiesto di generare recensioni per un gel doccia e una tuta da ginnastica. Il testo sui vestiti è risultato così: “Con l'aiuto di un abito puoi rilassarti, immergerti nel mondo dello sport e anche fare una passeggiata. Ha il controllo della temperatura, grazie al quale ti senti a tuo agio in ogni situazione.

Ed ecco una recensione sul gel doccia: “Gel meraviglioso, non cola, non appesantisce la pelle. Imballato in un sacchetto, in una scatola, con un coperchio. Non c'è bisogno di aspettare qualcosa in più in modo che si sbricioli un po '. Può essere usato come gel doccia notte.

Alcune frasi in loro ben costruito, ma allo stesso tempo sembrano assurde e assomigliano all'illustrazione di Chomsky.

Mancanza di consistenza ed esempi superficiali

L'intelligenza artificiale fornisce informazioni ovvie nei testi, fatti generali, usa frasi ed esempi semplificati che non rivelano molto la domanda. In questo caso, la complessità dell'argomento non ha importanza. La domanda può essere profonda, come le prospettive di sviluppo inclusioni in Russia. O più semplice e individuale, riguardante la scelta della tecnica.

Nel testo sull'inclusione, la rete neurale ha raccontato quanto sia importante e rilevante questo argomento. Ha anche aggiunto che l'inclusione è un processo lungo, accompagnato da difficoltà, ma si sta lavorando per creare le condizioni per le persone con bisogni speciali. E riassunto: se non ti fermi, lo sviluppo lo sarà sicuramente.

Tuttavia, quanto scritto non risponde alla domanda. È importante che il testo sia specifico. Ad esempio, puoi analizzare quali delle leggi adottate funzionano e quali no, e perché. Per rivelare l'esperienza straniera. E spiegare quali passi concreti lo Stato, le imprese e ogni persona possono ancora compiere per sviluppare l'inclusione.

Nel testo su l'acquisto di uno smartphonegenerati dalla rete neurale, sono indicati anche gli ovvi fattori di selezione. Ad esempio: dovresti decidere il sistema operativo (iOS o Android), il marchio, leggere recensioni e specifiche tecniche e tenere conto anche delle tue capacità.

Tuttavia, le persone lo capiscono. Un'altra cosa è parlare dei chip dei sistemi operativi, per indicare i limiti che esistono al momento. Oppure menziona soluzioni innovative, ad esempio la tecnologia eSIM, che ti consente di avere fino a cinque numeri in uno smartphone. Oppure condividi modelli di dispositivi costosi e le loro controparti al miglior prezzo.

Distorsione dei fatti, aggiunta di informazioni inventate

La rete neurale risponde plausibilmente a quasi tutte le domande, fornendo cronaca, date, cognomi, storia di origine. In questo caso, l'informazione è distorta o completamente inventata. Un tale bug nel lavoro dell'IA è chiamato allucinazione.

Quindi, alla rete neurale è stato affidato il compito di raccontare il famoso persone sordeche ha dato un grande contributo allo sviluppo della società. Di conseguenza, l'IA ha inventato la maggior parte di loro.

Ad esempio, l'astronauta Raymond Lou o il pugile Mario Gallegos. E il 42esimo presidente degli Stati Uniti non era ancora Matthew Clinton, ma Bill Clinton. E non ha perso l'udito.

Inoltre, AI ha risposto con sicurezza alla richiesta di “scrivere un post sulla creatività amnesia». Anche se non esiste un termine simile.

Quando gli viene chiesto perché il bot inventa persone e parla di termini inesistenti, si scusa solo per la possibile confusione.

Quando fatti falsi si intrecciano con dati veri, è più difficile rilevare le allucinazioni della rete neurale. Specialmente quando lettura scorrevole. Ma se ti concentri sugli esempi forniti nel testo, puoi notare quelli che sembrano sospetti e controllarli digitandoli nella barra di ricerca.

Mancanza di informazioni aggiornate sui cambiamenti e gli eventi in corso

Le reti neurali imparano da sole quando comunicano con gli utenti, ricordando i chiarimenti di una persona, la sua reazione al contenuto generato, esempi che una persona condivide con un bot. Esperti notatoche la capacità dell'IA di autoapprendere è stata una sorpresa per loro. E che questa abilità aiuta le reti neurali a migliorare.

In cui apprendimento automatico, condotto da sviluppatori su gigabyte di dati - articoli, libri, testi dal Web - ha un inizio e una fine chiari. E fondamentalmente le reti neurali non hanno accesso ai motori di ricerca. Pertanto, le informazioni apparse dopo l'addestramento condotto dagli sviluppatori non sono disponibili per l'IA fino alla fase successiva.

Allo stesso tempo, l'intervallo tra l'apprendimento automatico è di mesi e talvolta di anni. Certo, i progressi non si fermano: ad esempio, a maggio di quest'anno, GPT Plus è diventato disponibile per gli utenti con un abbonamento a pagamento ChatGPT con accesso a Internet. Tuttavia, la maggior parte delle reti neurali, in particolare le loro versioni gratuite, non hanno ancora tale opportunità.

Quindi, la base della versione gratuita di ChatGPT4 è limitata al 2021, quindi il bot non sa chi ha vinto l'ultima Coppa del Mondo nel 2022. E la rete neurale di Google - Bard AI - ha ammesso di non poter comporre un testo su eventi significativi accaduti nel mondo quest'estate.

Dal momento che il suo ultimo addestramento è stato condotto dagli sviluppatori nel maggio 2023, l'estate non è ancora arrivata per Bard AI.

In tali casi, le reti neurali di solito non escogitano fatti, ma ammettono che non possono "predire il futuro».

Se il testo non contiene informazioni aggiornate sull'argomento o sembra separato dalla realtà, poiché molto è cambiato di recente, allora c'è la possibilità che il materiale sia stato scritto da una rete neurale.

Quali servizi possono aiutare

Il testo generato dall'intelligenza artificiale può essere riconosciuto anche utilizzando la stessa rete neurale. Ad esempio, può bot GPT-4. Anche i servizi speciali in grado di rilevare gli algoritmi di intelligenza artificiale possono essere d'aiuto. Diamo un'occhiata ad alcuni di loro di seguito.

1. Testo.ru. Il sito si posiziona come uno scambio di copywriting e antiplagio. Ma recentemente sul portale è apparso un neuroassistente a pagamento. Una delle sue funzioni è un rilevatore AI. Il testo da controllare dovrebbe essere caricato nella finestra. Dopo pochi secondi, il sistema darà il risultato.
2. PR CY. Puoi caricare sul servizio testi da 1.000 caratteri. Allo stesso tempo, ci sono chiarimenti sul portale: opzioni di bassa qualità e spam che una persona ha scritto, il sistema considererà il risultato del lavoro dell'IA. Oltre a testi con colori stilistici brillanti, ad esempio simili a opere Majakovskij.
3. GPTZero. Lo strumento legge la complessità, la combinazione di parole, la struttura e la lunghezza delle frasi. Tuttavia, se il servizio gestisce bene i testi in inglese, durante il caricamento di materiale in lingua russa spesso genera un errore. Dei vantaggi: la presenza di una versione gratuita.

Una rete neurale può essere un grande aiuto. Ad esempio, quando si cercano idee. Tuttavia, fidarsi completamente del suo contenuto è pericoloso. Dovresti trattare i materiali AI in modo responsabile: modificare lo spam, controllare l'accuratezza, la logica e la pertinenza dei fatti. E adeguare lo stile al linguaggio "umano", in modo da non spaventare il pubblico, salvare la reputazione e la posizione dell'azienda nei risultati di ricerca.