OpenAI a lancé un service pour "capturer" le texte généré par l'IA
OpenAI a introduit un service en ligne capable de reconnaître du texte écrit par un réseau de neurones. Ironiquement, cela aide aussi à "calculer" les créations du bot ChatGPT, créé par les mêmes développeurs.
Certaines écoles aux États-Unis ont déjà a interdit l'utilisation de ChatGPT pour les devoirs, et le site Stack Overflow a commencé à bloquer les utilisateurs qui inondent le forum d'astuces générées par le réseau de neurones. À cet égard, OpenAI a développé un nouvel algorithme qui détermine la probabilité de création de texte non seulement par son propre réseau de neurones, mais également par des solutions d'IA tierces.
Bien que le "censeur" virtuel ne soit pas trop avancé, il ne détecte correctement le texte généré que 26 % du temps. Cependant, OpenAI affirme que lorsqu'elle est utilisée en tandem avec d'autres méthodes, l'IA peut être utile pour prévenir l'abus des générateurs de texte. Après analyse, le service évalue le texte pour "l'artificialité" dans les gradations suivantes :
- très peu probable (la probabilité d'utiliser l'IA est inférieure à 10 %) ,
- peu probable (10-45 %),
- peu clair (45-90 %),< /li>
- probablement (90-98 %),
- probablement (supérieur à 98 %).
Le classificateur OpenAI a été formé sur des textes de 34 systèmes de cinq organisations différentes, dont OpenAI lui-même. Les articles de Wikipédia et d'autres sites similaires ont été utilisés comme norme pour les textes "humains".