OpenAI ha lanciato un servizio per "catturare" il testo generato dall'IA
OpenAI ha introdotto un servizio online in grado di riconoscere il testo scritto da una rete neurale. Ironia della sorte, aiuta anche a "calcolare" le creazioni del bot ChatGPT, creato dagli stessi sviluppatori.
Alcune scuole negli Stati Uniti hanno già vietato l'uso di ChatGPT per i compiti a casa e il sito Stack Overflow ha iniziato a bloccare gli utenti che inondano il forum di suggerimenti generati dalla rete neurale. A questo proposito, OpenAI ha sviluppato un nuovo algoritmo che determina la probabilità di creazione del testo non solo dalla propria rete neurale, ma anche da soluzioni AI di terze parti.
Sebbene il "censore" virtuale non sia troppo avanzato, rileva correttamente il testo generato solo il 26% delle volte. Tuttavia, OpenAI afferma che, se utilizzata in tandem con altri metodi, l'intelligenza artificiale può essere utile per prevenire l'abuso dei generatori di testo. Dopo l'analisi, il servizio valuta il testo per "artificialità" nelle seguenti gradazioni:
- molto improbabile (la probabilità di utilizzare l'IA è inferiore al 10%) ,
- improbabile (10-45%),
- poco chiaro (45-90%),< /li>
- probabilmente (90-98%),
- probabilmente (maggiore del 98%).
Il classificatore OpenAI è stato addestrato su testi provenienti da 34 sistemi di cinque diverse organizzazioni, inclusa la stessa OpenAI. Gli articoli di Wikipedia e altri siti simili sono stati usati come standard per i testi "umani".