AIが生成したテキストを「キャプチャ」するサービスをOpenAIが開始

OpenAI は、ニューラル ネットワークによって書かれたテキストを認識できるオンライン サービスを導入しました。皮肉なことに、同じ開発者によって作成された ChatGPT ボットの作成を「計算」するのにも役立ちます。

米国の一部の学校では、宿題に ChatGPT を使用することを禁止し、Stack Overflow サイトは、ニューラル ネットワークによって生成されたヒントでフォーラムをあふれさせるユーザーをブロックし始めました。この点に関して、OpenAI は、独自のニューラル ネットワークだけでなく、サードパーティの AI ソリューションによってもテキスト作成の確率を決定する新しいアルゴリズムを開発しました。

仮想「検閲」はそれほど高度ではありませんが、生成されたテキストを正しく検出できるのはわずか 26% です。ただし、OpenAI は、他の方法と組み合わせて使用​​すると、テキスト ジェネレーターの悪用を防ぐのに AI が役立つ可能性があると主張しています。分析後、サービスはテキストの「人為性」を次の段階で評価します:

• 非常に低い (AI を使用する確率は 10% 未満) 、
• 可能性は低い (10-45%)、
• 不明 (45-90%)、< /li>
• おそらく (9​​0-98%)、
• おそらく (9​​8% 以上)。

OpenAI 分類子は、OpenAI 自体を含む 5 つの異なる組織の 34 のシステムからのテキストでトレーニングされました。ウィキペディアや他の同様のサイトの記事は、「人間の」テキストの標準として使用されました.