GPTモデルの信頼性の評価:《DecodingTrust》研究が潜在的なリスクを明らかにする

イリノイ大学シャンペーン校は、複数の大学と研究機関と共同で、巨大言語モデル(LLMs)の包括的な信頼性評価プラットフォームを発表しました。研究チームは、論文「DecodingTrust: GPTモデルの信頼性を総合的に評価する」において、このプラットフォームを紹介しています。

研究によって、GPTモデルの信頼性に関連するいくつかの潜在的な問題が明らかになりました。例えば、GPTモデルは誤解を招きやすく、有害で偏った出力を生成する可能性があり、トレーニングデータや対話履歴に含まれるプライバシー情報を漏洩する可能性もあります。興味深いことに、GPT-4は標準テストで通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のプロンプトに直面した際には、GPT-4の方が攻撃を受けやすいことが分かりました。これは、GPT-4が誤解を招く指示により正確に従っているためかもしれません。

この研究は、GPTモデルを8つの次元から包括的に評価しました。これには、異なる状況や対抗環境におけるモデルのパフォーマンスが含まれます。例えば、研究チームは、GPT-3.5とGPT-4のテキストに対する対抗攻撃のロバスト性を評価するために、3つのシナリオを設計しました。

研究はまた、いくつかの興味深い現象を発見しました。例えば、GPTモデルはデモに追加された反事実の例に誤導されることはありませんが、詐欺防止のデモには誤導されます。有毒性や偏見の観点から、GPTモデルは一般的にはほとんどのステレオタイプのテーマに対して偏りはありませんが、誤解を招くプロンプトの下では偏見のあるコンテンツを生成します。モデルの偏見は、言及される人々やテーマにも関連しています。

プライバシーの観点から、GPTモデルは特定のプロンプトの下でトレーニングデータ内の機密情報を漏洩する可能性があります。GPT-4は個人情報の保護においてGPT-3.5よりも堅牢ですが、特定の状況では逆にプライバシーを漏洩しやすくなります。

研究チームは、この作業が学界におけるさらなる研究を促進し、潜在的なリスクを防ぐのに役立つことを望んでいます。彼らは、これが単なる出発点であり、より信頼性の高いモデルを作成するためにはさらなる努力が必要であると強調しています。協力を促進するために、研究チームは評価基準コードを公開し、他の研究者が使用できるようにしています。