OpenAI hat einen Dienst gestartet, um den von KI generierten Text zu „erfassen“.

OpenAI hat einen Onlinedienst eingeführt, der Text erkennen kann, der von einem neuronalen Netzwerk geschrieben wurde. Ironischerweise hilft es auch, die Kreationen des ChatGPT-Bots zu „berechnen“, die von denselben Entwicklern erstellt wurden.

Einige Schulen in den USA haben dies bereits getan verbot die Verwendung von ChatGPT für Hausaufgaben, und die Stack Overflow-Site begann, Benutzer zu blockieren, die das Forum mit Tipps überschwemmen, die vom neuronalen Netzwerk generiert wurden. In diesem Zusammenhang hat OpenAI einen neuen Algorithmus entwickelt, der die Wahrscheinlichkeit der Texterstellung nicht nur durch das eigene neuronale Netzwerk, sondern auch durch KI-Lösungen von Drittanbietern bestimmt.

Obwohl die virtuelle "Zensor" nicht allzu weit fortgeschritten ist, erkennt sie generierten Text nur in 26 % der Fälle korrekt. OpenAI behauptet jedoch, dass KI, wenn sie zusammen mit anderen Methoden verwendet wird, nützlich sein kann, um den Missbrauch von Textgeneratoren zu verhindern. Nach der Analyse bewertet der Dienst den Text auf „Künstlichkeit“ in folgenden Abstufungen:

• sehr unwahrscheinlich (die Wahrscheinlichkeit für den Einsatz von KI liegt unter 10%) ,
• unwahrscheinlich (10-45%),
• unklar (45-90%),< /li>
• wahrscheinlich (90–98 %),
• wahrscheinlich (größer als 98 %).

Der OpenAI-Klassifikator wurde an Texten aus 34 Systemen von fünf verschiedenen Organisationen, einschließlich OpenAI selbst, trainiert. Artikel von Wikipedia und anderen ähnlichen Seiten wurden als Standard für "menschliche" Texte verwendet.