OpenAI lançou um serviço para "capturar" o texto gerado pela IA
OpenAI introduziu um serviço online que pode reconhecer texto escrito por uma rede neural. Ironicamente, também ajuda a "computar" as criações do bot ChatGPT, criado pelos mesmos desenvolvedores.
Algumas escolas nos EUA já proibiu o uso do ChatGPT para tarefas de casa, e o site Stack Overflow começou a bloquear usuários que inundam o fórum com dicas geradas pela rede neural. Nesse sentido, a OpenAI desenvolveu um novo algoritmo que determina a probabilidade de criação de texto não apenas por sua própria rede neural, mas também por soluções de IA de terceiros.
Embora o "censor" virtual não seja muito avançado - ele detecta corretamente o texto gerado apenas 26% das vezes. No entanto, a OpenAI afirma que, quando usada em conjunto com outros métodos, a IA pode ser útil na prevenção do abuso de geradores de texto. Após análise, o serviço avalia o texto quanto à "artificialidade" nas seguintes gradações:
- muito improvável (a probabilidade de usar IA é inferior a 10%) ,
- improvável (10-45%),
- incerto (45-90%),< /li>
- provavelmente (90-98%),
- provavelmente (maior que 98%).
O classificador OpenAI foi treinado em textos de 34 sistemas de cinco organizações diferentes, incluindo o próprio OpenAI. Artigos da Wikipédia e outros sites semelhantes foram usados como padrão para textos "humanos".