La rete neurale ha creato la propria lingua, che gli scienziati non possono decifrare

Inizialmente, le parole sembravano a uno scienziato della Tarabarshchina, ma poi si è scoperto che la rete neurale le ha capite

Lo strumento Dall -e è una rete neurale "addestrata" dalla società di ricerca Openi per generare immagini realistiche e arte dal testo in linguaggio naturale. In precedenza, gli sviluppatori hanno scoperto che Dall-E è in grado di combinare plausibilmente concetti non correlati e creare versioni antropomorfizzate di animali e oggetti.

Yannis Daras (Giannis Daras), candidato alle scienze nel campo della conoscenza informatica, pubblicata su Twitter questa settimana, esempi di quella che ha chiamato "la sua lingua di intelligenza artificiale".

"Apoploe Vesreitais" - significa uccelli ", ha scritto Daras su Twitter. "Contarra ccetnxniams Luryca Tanniunons" - significa coleotteri o parassiti.

Dall -E 2 funziona in combinazione con Clip - un sistema di visione artificiale, che Openi ha annunciato nel 2021.

Dall-e crea illustrazioni, foto e rendering in base a una semplice descrizione. Ad esempio, può ritrarre un "gatto in una cravatta a farfalla" o "un dakon in un branco, che cammina un cane". Clip definisce gli oggetti e li classifica, in base a una semplice descrizione.

Ad esempio, questo è ciò che il risultato creato dalla rete neurale su richiesta di "Cool Panda rotola su uno skate a Santa Monica"

Finora, l'accesso alla nuova versione è aperto solo per un gruppo di utenti attraverso una lista d'attesa. Agli utenti è vietato il caricamento o la creazione di immagini che "possono causare danni", incluso tutto ciò che riguarda l'odio, la nudità, i gesti osceni o "cospirazioni o eventi associati agli attuali eventi geopolitici". Devono anche rivelare il ruolo dell'IA nella creazione di immagini. Più tardi, la rete neurale verrà aggiunta all'API in modo che gli sviluppatori di terze parti possano usarla.

I ricercatori che usano l'intelligenza artificiale con l'apprendimento automatico (AI) spesso non sanno esattamente come i loro algoritmi risolvono i problemi che affrontano. Allo stesso modo con Dalle-2: gli scienziati non capivano ancora quali processi si verificano all'interno di questa "scatola nera". Dopo averli aperti ora, i ricercatori sono giunti a una conclusione straordinaria: per costruire immagini, l'intelligenza artificiale ha creato la propria lingua.

Gli autori hanno notato che il sistema Dalle-2, che crea immagini sulla base del testo introdotto, restituirà parole insignificanti in determinate circostanze. Ad esempio, le immagini con la parola "piano" vengono spesso restituite una sorta di svenimento. Inizialmente sembrava che fosse un bug, ma poi gli scienziati sono giunti alla conclusione che la sequenza di lettere nelle parole restituite non era accidentale. La rete neurale ha creato la propria lingua, che gli scienziati non possono decifrare

Per verificarlo, gli scienziati semplicemente "hanno nutrito" le reti neurali generate dalle sue parole precedentemente. Si è scoperto che queste serie di lettere sono davvero importanti per il programma e significano lo stesso di precedentemente inserito nel sistema. Ciò può significare che per qualche motivo la rete neurale trasforma le parole umane in sé, in modo che sulla base sia più facile generare immagini.