A rede neural criou seu próprio idioma, que os cientistas não podem decifrar

Inicialmente, as palavras pareciam para um cientista da Tarabarshchina, mas depois que a rede neural as entendeu

A ferramenta Dall -e é uma rede neural "treinada" pela empresa de pesquisa do Openai para gerar imagens e arte realistas a partir do texto em linguagem natural. Anteriormente, os desenvolvedores descobriram que Dall-e é capaz de combinar plausivelmente conceitos não relacionados e criar versões antropomorfizadas de animais e objetos.

Yannis Daras (Giannis Daras), candidato de ciências no campo do conhecimento de computadores, publicado no Twitter nesta semana, exemplos do que ele chamou de "seu próprio idioma de IA".

"ApoPloe Vesrreitais" - significa pássaros ", escreveu Daras no Twitter. “Contarra ccetnxniams luryca tanniounons” - significa besouros ou pragas.

Dall -e 2 funciona em conjunto com o Clip - um sistema de visão computacional, anunciado em 2021.

Dall-e cria ilustrações, fotos e renderizações com base em uma descrição simples. Por exemplo, ela pode retratar um "gato em uma gravata borboleta" ou "um daikon em uma mochila, passeando com um cachorro". O clipe define objetos e os classifica, com base em uma descrição simples.

Por exemplo, é isso que o resultado criado pela rede neural a pedido de "Cool Panda Rolls em um skate em Santa Monica"

Até agora, o acesso à nova versão está aberto apenas para um grupo de usuários por meio de uma lista de espera. Os usuários são proibidos de carregar ou criar imagens que "podem causar danos", incluindo tudo relacionado ao ódio, nudez, gestos obscenos ou "conspirações ou eventos associados aos eventos geopolíticos atuais". Eles também devem revelar o papel da IA ​​na criação de imagens. Posteriormente, a rede neural será adicionada à API para que os desenvolvedores de terceiros possam usá -la.

Os pesquisadores que usam inteligência artificial com aprendizado de máquina (IA) geralmente não sabem exatamente como seus algoritmos resolvem os problemas que enfrentam. Da mesma maneira com Dalle-2: os cientistas ainda não entendiam quais processos ocorrem dentro desta "caixa preta". Tendo aberto -os agora, os pesquisadores chegaram a uma conclusão incrível: para criar imagens, a inteligência artificial criou seu próprio idioma.

Os autores notaram que o sistema DALLE-2, que cria imagens com base no texto introduzido, retornará palavras sem sentido sob certas circunstâncias. Por exemplo, imagens com a palavra "plano" geralmente são devolvidas algum tipo de estripamento. No começo, parecia que era um bug, mas os cientistas chegaram à conclusão de que a sequência de cartas nas palavras retornadas não era acidental.
A rede neural criou seu próprio idioma, que os cientistas não podem decifrar

Para verificar isso, os cientistas simplesmente "alimentavam" as redes neurais geradas por suas palavras anteriormente. Aconteceu que esses conjuntos de letras são realmente importantes para o programa e significam o mesmo que anteriormente inseridos no sistema. Isso pode significar que, por algum motivo, a rede neural transforma palavras humanas em suas próprias, de modo que, com base, é mais fácil gerar imagens.