生成AI技術の進歩により、文章や画像、動画など、人工知能が生成する物の品質が向上している。これら生成AIによって作られた物の中には人間が作成したものと見分けがつきにくいものが多く、特に文章においては誤情報を含む可能性が高い。 誤情報を含むAI生成文書の検出方法として、主に2つのアプローチが知られている。

1つは「GPTzero」などの自動検出ツールの利用、もう1つは人による目視確認だ。 専門家の研究によるとGPTzeroの検出精度は全体で80%で、その内訳を見るとAI生成文章を人間が書いたものと誤認する「偽陰性」が35%、反対に人間の文章をAIが書いたと判定してしまう「偽陽性」が10%存在する。このため、重要な判断が必要な場面では、自動検出ツールのみに依存することは難しい状況だ。 一方、目視による確認方法も研究が進んでいる。

あ

あ

（出典：https://pmc.ncbi.nlm.nih.gov/articles/PMC10519776/、https://arxiv.org/pdf/2406.07016v1）

あ

英語版ChatGPTに関する研究では、生成AIが特徴的に使用する表現が280種類確認されており、これらの表現が使われている事は生成AIの使用を示す指標とされている。 しかし、日本語における同様の研究はまだ初期段階にあり、特に専門的な文章になるほど判別が困難になるという課題がある。情報の信頼性を確保するためには、出典の確認や情報の多角的な検証が不可欠だ。