ChatGPT のような AI ツールの発表以来、「AI」という用語は教育からコンテンツ作成に至るまでの業界で流行語になりました。作家やdent現在、AI であれ人間のコンテンツであれ、自分の作品を守るという新たな課題に直面しています。
Stastia の統計によると、2023 年 7 月に「AI」という用語は 3,040 万回以上検索され、前月の 3 倍となっています。 普及が進む につれ教師や編集者は、提示されたテキストが AI かどうかを判断する別の方法を見つける必要がありました。これがAI検出器の台頭につながりました。
しかし、多くの作家や教育者はAIの信頼性に疑問を抱いています。そのうちの 1 人は TrustInsights.ai の共同創設者である Christoper Pen 氏で、彼は LinkedIn の 投稿 「AI 検出器」は冗談だと AI 検出器は信頼できないと考えているのはペンだけではありません。 SEO コンテンツ スペシャリストのディアナ メイソン氏は、 「AI コンテンツ検出器は機能しない」と投稿で 述べています
Reddit の 別の投稿 によると「はい、AI 検出器は詐欺です。 AI 検出器が確実に機能することを証明した学術論文はこれまでにありません。また、信頼できる AI 検出器がどのように機能するかについて、有望な理論的枠組みもありません。 「
いくつかのよく知られた例では、AI 検出器の非効率性が示されています。たとえば、ある検出器は米国独立宣言の 97.75% を AI が作成したものとdentしました。
別の例では、聖書の本文が AI によって書かれたことが判明しました。ヒンズー教の経典であるバガヴァッド・ギーターもAIによってdentされました。このようなdent、AI 検出器の信頼性について非常に深刻な疑問を引き起こします。
AI 検出器の有効性をさらに調査するために、4 つの異なる検出器を使用して聖書の抜粋をテストしました。結果は全く違ったものでした
- Quilbott- このサイトによると、使用された抜粋はおそらく 0% であり、AI によって生成されたものではありません。
- Grammaly- Grammaly では、テキストが 100% 人間によって書かれたものであることもdentしました。
- Gpt Zero - このサイトでは、テキストが人間によって書かれた可能性が 96% であると判断されました。
- ゼロ Gpt - これは私がテストした最後のサイトでしたが、その結果は非常に驚くべきものでした。サイトによると、テキストの 96% は AI で書かれていました。
AI 検出器の仕組み
AI 検出器 (GPT 検出器) は、AI によって生成されたコンテンツをdentように設計されたシステムです。これらの検出器は、LLM がテキストに対して行うのと同様に、パターンと単語の配置に関してテキストを比較します。 LLM はデータから推測される確率を操作し、純粋に単語のシーケンス検出に基づいて予測を行います。 AI 検出器はこれらの確率に基づいて動作し、AI コンテンツを検出します。
AI 検出器は主に、複雑性とバースト性という 2 つの尺度を使用します。困惑性は次の単語が正しい確率を測定し、バースト性は単語とフレーズの数の変動性を測定します。人間の文章は多様性を示す傾向がありますが、AI が生成したテキストはより均一であることがよくあります。それにもかかわらず、GPT-4 AI モデルのようなモデルが進歩するにつれて、人間の書き込みをより高い熟練度で複製できるようになり、検出がさらに困難になります。
Coachvox の創設者 Jodie Cook 氏は次のように述べています 「現在、私たちは AI が生成した LinkedIn のコメントを笑いものにしています…。しかし、テクノロジーが進歩するにつれて、何が本物で何が本物でないのかが分からなくなります。誰もそうしません。 「
作家、dent、企業にとって、リスクは高くなります。ここで、AI 検出器は信頼できるのかという疑問が生じます。
