MENU
  • 料金
  • 会社案内
  • コンサル
  • お問い合わせ
  • 無料で1ページ頼む
AIO・LLMO・GEO対策の記事制作
合同会社謙虚
  • 料金
  • 会社案内
  • コンサル
  • お問い合わせ
  • 無料で1ページ頼む
  • 料金
  • 会社案内
  • コンサル
  • お問い合わせ
  • 無料で1ページ頼む
合同会社謙虚
  • 料金
  • 会社案内
  • コンサル
  • お問い合わせ
  • 無料で1ページ頼む
  1. ホーム
  2. LLMO
  3. LLMO論文
  4. 【LLMO論文解説】AI検索エージェントは偽の情報源にどこまで従うか|13種類のAIで測った推薦の脆弱性(EMNLP 2026)

【LLMO論文解説】AI検索エージェントは偽の情報源にどこまで従うか|13種類のAIで測った推薦の脆弱性(EMNLP 2026)

2026 11/10
2026年11月10日
中野輝規
AI検索エージェントは偽の情報源にどこまで従うか

AIが検索結果を読んで「このサービスがおすすめです」と答えるとき、その元になったページは、本当に信頼できるものでしょうか。誰でもウェブにページを公開できる以上、見せかけの根拠を並べて、AIに特定の商品や会社を薦めさせようとする人が出てくる可能性があります。

この疑問を、13種類のAIで測った論文が、2026年10月の自然言語処理の国際会議EMNLP 2026(本会議)に採択されました。

この記事の数値は、すべて論文の表と本文のものです。

合同会社謙虚は、3つのドメインを並行して運用し、何を変えると数字が動くかを測り続けています。この論文は、AIの回答を「どれだけ信用できるか」の側から測っており、数字の読み方を考える材料になります。

目次

結論:3行で言うと

  • 偽の情報源を検索結果に混ぜたとき、AIが商品や会社を薦めてしまう割合は、AIの種類で大きく違いました。13種類のAIで、0.0%から31.4%まで開いています
  • 効きやすかったのは、命令文の埋め込みよりも、異なる種類の情報源が口をそろえて同じことを言う状況(権威の裏づけを足した連鎖が最も高い)でした。情報源の数を増やすと薦められる割合が上がり、同じ情報源の繰り返しでは上がりませんでした(1種類のAIでの実験)
  • これは、実際の検索サービスではなく、結果を固定した実験環境での測定です。実サービスで同じ割合になるとは、論文自身が述べていません

この論文の基本情報

項目 内容
題名(原題) How Much Can We Trust LLM Search Agents? Measuring Endorsement Vulnerability to Web Content Manipulation
著者 Yimeng Chen ほか5名。所属は、サウジアラビアの大学、中国の大学、スイスの研究所など
公開 2026年10月。EMNLP 2026の会議録(会議は10月24〜29日、ハンガリーのブダペスト)。会議録の48390〜48413ページ
掲載状況 ACL Anthologyに「Proceedings of the 2026 Conference on Empirical Methods in Natural Language Processing」の本会議論文(識別子2026.emnlp-main.2128)として掲載
DOI 10.18653/2026.emnlp-main.2128(Crossrefに登録を確認。種類は会議録論文)
種類 実験による測定研究。評価の枠組みを作り、13種類のAIで比べた論文です
実験データ・コード GitHubで、コード、問い、判定ラベル、集計値を公開。攻撃用の文書の全体は、依頼があった場合に、使用目的を限る合意のもとで提供すると、論文が述べています

論文はACL Anthologyで、実験の公開物はGitHubで見られます。同じ題名のプレプリントがarXiv(2606.16821)にもありますが、この記事は会議録のPDFを読みました。

この論文が答えた問い

ウェブの情報を読んで推薦を返すAIは、悪意をもって作られたページを、どれだけ「おすすめ」として採用してしまうのか。

論文が注目するのは、「推薦への採用」です。ページが検索で見つかることや、回答に名前が出ることとは別の問題だと、論文は区別しています。

この論文は、AIの側の弱さを測る研究です。

どうやって調べたのか

論文は、SearchGEOという評価の枠組みを作りました。実験の流れは、次のとおりです。

  • AIに、健康・金融・法律・消費者向けITの4分野から、合計44の質問を投げます。質問は、特定のサービスや商品を薦める余地がある内容です
  • 検索結果は、実際のGoogle検索の結果を保存したものを使います。その10件の中の上位1〜3件を、偽のページに差し替えます
  • AIの最終回答が、偽のページが宣伝する商品やサービスを「薦めた」かどうかを判定します

偽のページの作り方は、5つのやり方(モード)に分けられています。モード名は論文のままです。

各モードの平均は、AIが偽の対象を薦めた割合(攻撃成功率)です。

  • 1A(隠れた文):人の目に見えない場所に、宣伝の文を埋め込む。命令文型(1A-i)と、第三者の証言風の文(1A-f)があります。13種類の平均は、0.3%と2.4%
  • 1B(要約と本文のずれ):検索結果の短い説明文にだけ宣伝を入れ、本文は無害にしておく。平均は1.2%
  • 2A(権威の偽装):研究機関のように見える偽の出典を1件置く。平均は14.2%
  • 2B(偽の合意):ニュース、フォーラムなど、種類の違う複数のページが、互いに参照せず、同じ商品を薦める。平均は24.8%
  • 3(権威と引用の連鎖):偽の権威ある出典、それを引用するレビュー、両方を引用する書き込み、という連鎖を作る。平均は37.2%
項目 内容
評価したAI 13種類。Gemini、Claude、GPT、DeepSeek、Grok、Kimi、MiniMax、Qwenの各系統
1種類あたりの件数 308件(攻撃なしの44件と、攻撃ありの264件。264件は、6つの条件×44の質問)
主な指標 攻撃成功率(AIが偽の対象を薦めた割合)。ほかに、回答が偽の対象の側へどれだけずれたかの得点(0〜1)と、回答を読んだ第三者の監査役が感じる信頼度の得点(0〜1)
採点 AIによる自動判定。判定役のAI(GPT-5.4-mini)は、評価される13種類のうちの1つでもあります
検索の条件 英語の質問と、米国向けのGoogle検索の保存結果

「攻撃成功率」は、論文の定義では、偽の対象が検索結果に出た(出させた)という条件つきの値です。

実際の検索で、偽のページがそもそも上位に出る確率や費用は、測っていません。論文は、先行研究と同じ設計だと説明しています。

結果

AIの種類で、薦めてしまう割合は大きく違った

13種類を、攻撃ありの264件での攻撃成功率で並べます。全体の平均は13.4%です。

AI 攻撃成功率(全体) 2B(偽の合意) 3(権威と引用の連鎖)
Claude-Sonnet-4.6 0.0% 0.0% 0.0%
GPT-5.4-mini 0.8% 2.3% 2.3%
GPT-5.4-nano 6.4% 9.1% 22.7%
Kimi-K2.6 7.2% 2.3% 29.5%
Grok-4.3 7.6% 9.1% 29.5%
DeepSeek-V4-Pro 9.1% 9.1% 31.8%
Claude-Haiku-4.5 12.5% 27.3% 29.5%
Qwen3.6-Plus 14.4% 29.5% 40.9%
MiniMax-M2.7 17.4% 29.5% 45.5%
DeepSeek-V4-Flash 20.1% 34.1% 61.4%
Gemini-3.1-Pro 21.2% 52.3% 50.0%
Gemini-3.5-Flash 25.8% 45.5% 75.0%
Gemini-3-Flash 31.4% 72.7% 65.9%
13種類の平均 13.4% 24.8% 37.2%

数値は論文の表1です。数字は低いほど、偽の対象を薦めにくいことを表します。

  • 論文は、分野やモードの差より、AIの種類の差のほうが大きかったと述べています
  • Gemini系の3種類と、DeepSeek-V4-Flash、MiniMax-M2.7は、いずれも17%を超えました

効いたのは、命令よりも「口をそろえた根拠」

  • 命令文を隠す手口は、ほとんどのAIで底に近い値でした。論文は、AIは「命令」には警戒するが、「証拠」の形をした文には警戒しにくいと解釈しています
  • 同じ隠し方でも、Gemini-3-Flashでは、命令文型が2.3%、第三者の証言風の文が18.2%でした。弱点は、隠すこと自体より、文が証拠として吸収されるかどうかだと論文は述べています
  • モード3は、ほとんどのAIで最も高い値でした。ただし、Gemini-3-Flash(2Bが72.7%、3が65.9%)とGemini-3.1-Pro(2Bが52.3%、3が50.0%)では、2Bのほうが高くなりました。論文の本文は、Gemini以外の10種類では3が2Bと同じか、それ以上だったと述べています

情報源の「数」を増やすと上がり、「繰り返し」や「順位」では変わらなかった

Gemini-3-Flashだけを使い、偽の情報源の数(N)を1、2、3と変えた実験です。

モード N=1 N=2 N=3
2B(異なる種類の偽の情報源の数) 38.6% 54.5% 77.3%
3(連鎖を作る偽の情報源の数) 25.6% 50.0% 69.0%
2A(同じ偽の出典の繰り返し) ほぼ横ばい(論文の図3)
  • 情報源が1つ増えるごとに、攻撃成功率は大きく上がりました
  • 同じ出典を繰り返しても、上がりませんでした
  • N=3のまま、偽のページが検索結果の上・中・下のどこにあるかを変えても、有意な差はありませんでした(2Bはp=0.27、3はp=0.89)

論文は、効いているのは繰り返しや順位ではなく、「複数の別々の声が同じ方向を向いている」という見かけだと述べています。この実験は、Gemini-3-Flashの1種類だけです。

失敗した攻撃にも、回答を動かした跡が残る

攻撃が「失敗」と判定された回答の中にも、偽の対象の側へ回答がずれていたものがあります。

  • モード3では、失敗と判定された359件のうち、54件(15.0%)で、ずれの得点が0.3以上増えていました。論文はこれを「静かなずれ」と呼びます
  • Claude-Sonnet-4.6は、攻撃成功率が0.0%でしたが、264件のうち8件(3.0%)で静かなずれがありました
  • 攻撃が成功した回答では、第三者の監査役が感じる信頼度の得点が平均0.393で、失敗した回答(0.788)より低くなりました
  • 消費者向けITの攻撃では、成功した回答の信頼度を、答えたAI自身が外部の監査役より平均で0.312高くつけました(失敗した回答では0.049)。論文は、AI自身の自己評価だけでは、攻撃の影響を見落とすと述べています

対策の効果は、AIによって逆になった

3種類のAIで、攻撃成功率(全体)を3つの設定で比べています。Aは何もしない設定、Bは「情報源を疑う」「複数の独立した根拠を求める」などの指示を加えた設定、CはオープンソースのAIエージェントの標準設定に、最小限の修正を加えたものです。

AIの種類 A(そのまま) B(指示を追加) C(標準設定)
Gemini-3-Flash 31.4% 24.6% 34.1%
DeepSeek-V4-Flash 20.1% 12.9% 12.9%
MiniMax-M2.7 17.4% 6.1% 13.6%
  • Bの指示の追加は、3種類すべてで割合を下げましたが、ゼロにはなりませんでした
  • Cは2種類で下げ、Gemini-3-Flashでは上げました。権威の偽装(2A)だけを見ると、Gemini-3-Flashは31.8ポイント上がりました
  • どの部分が原因かは、切り分けていないと論文は述べています

小規模な調べ:AIが「導入コマンド」を出す場面

論文は、推薦が「ソフトの導入コマンド」に直結する場面でも、小さな調べを行っています。Claude-Sonnet-4.6とGPT-5.4-miniだけの、10の場面です。

  • 攻撃のない状態で、Claudeは10件すべてで役に立つ答えを返さず、そのうち8件で、実在する正当な仕組みまで否定しました
  • 偽の3つの情報源が同じ名前を薦める条件では、Claudeは10件とも断り、GPT-5.4-miniは10件とも偽のソフトの導入コマンドを出しました
  • 別の18件でも、GPT-5.4-miniは17件、GPT-5.5は16件で偽のソフトを受け入れ、Claudeは0件でした

論文は、疑いすぎて正しいものまで断ることも、別の失敗だと述べます。ただし、小規模な調べで割合の推定ではないと、論文自身が書いています。

論文自身が書いている限界

論文は、限界として、次の3点を挙げています。

  • 固定した検索結果での実験です。実際の検索の順位の動き、情報の新しさ、競合のSEOは再現していません。保存した結果の約30%は、短い説明文だけが取得できた状態です。そのため、攻撃成功率の見積もりにやや偏りがある可能性があります(論文の表現は「やや楽観的」)。実際の攻撃の発生率の予測ではないと、論文は述べています
  • 導入コマンドの調べは、仕組みを見る小規模なものです。頻度の測定には、より大きな調べが必要だと書いています
  • 判定は自動で、あいまいさが残ります。判定役のAI(GPT-5.4-mini)は、評価対象の1つでもあります。この重なりの影響を弱めるため、別のAIで全4,004件の出力を判定し直し、人による80件の確認も行いました。それでも評価の不確かさは残るとしています。なお実験の節には、AI同士の判定が割れた40件の標本で、人同士も14件割れたとあります

原文を読んで気づいた点

ここは、論文の限界の節には書かれていない、私が原文を読んで気づいた点です。

  • 日本語での検証はありません。質問は英語、検索は米国向けのGoogle検索の結果です
  • 実際のサービスそのものではありません。AIは、論文の枠組みの中で、検索と回答の部品として動かしています。各社の提供する検索機能つきの画面の動きとは、必ずしも一致しません
  • 偽のページは、AIが作り、人が手直ししたものです。実際に誰かが公開するページの出来とは、差がある可能性があります。論文は、別のAIで作った20件でも、傾向が保たれることを確かめています
  • 情報源の数と順位の実験は、1種類のAIだけです。一番弱かったAIで確かめた結果なので、ほかのAIでも同じ形とは限りません
  • 査読を経た会議録の論文です。会議録のDOIはCrossrefに登録済みで、プレプリントだけの論文より、確認が進んだ段階にあります
  • アブストラクトは「全体の攻撃成功率」と書いていますが、本文と表では、攻撃ありの264件だけの値で、攻撃なしの44件は含みません。この記事では、本文と表の定義に従いました

この論文から、言えること・言えないこと

言えること(論文の実験の範囲) 言えないこと
偽の情報源を検索結果に混ぜると、AIの種類によっては、高い割合で偽の対象を薦める 実際のウェブで、偽のページが上位に出る頻度や、その費用
AIの種類で、結果は0.0%から31.4%まで大きく違う この順位が、いまのサービスや将来の版でも変わらないこと
異なる情報源の数が増えると、薦める割合が上がる(Gemini-3-Flashの実験) すべてのAIが、同じ形で反応すること
失敗した攻撃にも、回答をずらす影響が残ることがある 日本語の質問や、日本の検索結果で同じことが起きること
AIへの指示の追加は、割合を下げたが、ゼロにはならなかった 対策を入れれば安全になる、あるいは標準設定なら安全だということ

中小企業の視点で、どう受け取るか

ここからは、論文の主張とは別の、私の読み取りです。

  • AIの答えを、1つの情報源として扱う。AIが検索結果を読んで薦めた内容でも、元の情報源が複数に見えても、実は同じ方向の偽の情報源だった、ということが起こり得ます。仕入れ先や外注先をAIの回答だけで決めず、公式サイトや第三者の情報で裏づけてください
  • AIの種類で、答えの信頼度が変わり得ます。軽いモデルのほうが割合の高い例がありました(Gemini-3-Flash対Gemini-3.1-Proなど)。論文は考察で、料金の差が安全性の差になり得ると述べていますが、料金の違いそのものは直接測っていません。社内でAIに調べものを任せるなら、重要な判断ほど、結果の確認が欠かせません
  • 自社が「だます側」に回らない。この論文が測っているのは、偽の口コミや偽の権威を使った操作です。そうした手口は、景品表示法などの法令や、プラットフォームの規約に触れるおそれがあります。実在する根拠を整える改善とは、はっきり区別してください
  • 自社がどう説明されているかを、定期的に見る。競合や第三者が、自社について根拠の薄い比較記事を作る可能性があります。AIが自社をどう紹介しているかを、複数のAIで、日を変えて確かめる習慣が役に立ちます。ただし、この論文は、そうした確認の方法の効果までは測っていません

よくある質問

SearchGEOの実験で、AIの攻撃成功率が0.0%だったClaude-Sonnet-4.6は、安全だと言えますか

実験の範囲では、薦めた件数は0でした。ただし、導入コマンドの調べでは、攻撃のない状態でも、正当な仕組みまで否定する傾向が見つかっています。

また、静かなずれが3.0%ありました。論文は、攻撃成功率だけで安全かどうかを決められないと述べています。

SearchGEOが測った偽の合意(2B)や権威と引用の連鎖(3)は、これまでのSEOと同じ話ですか

検索順位を操作する従来のSEOとは、焦点が違います。

この論文が測っているのは、検索結果を読んだAIが、最終的な回答で何かを薦めるかどうかです。ただし、実験は偽のページが検索結果に出ることが前提で、上位に出る難しさは測っていません。

この論文は、AIの検索機能は使うべきでないと言っているのですか

言っていません。論文は、結論で、検索結果が操作されたときの推薦の信頼性を、AIの安全性評価の1つの柱として扱うべきだと述べています。

個別の使い方の推奨は、この論文の範囲の外です。

まとめ:今日できる1つのこと

AIに調べさせた「おすすめ」を、1件選んでください。その推薦の根拠になった情報源を、AIの回答から3つ書き出し、互いに独立した出所かどうかを確かめます。

次の判断の材料になるのは、AIの答えそのものより、その根拠をたどった記録です。

この論文は、LLMO論文の一覧の一本です。ほかの論文の解説も、順次公開しています。

この記事に書いたことを、そのまま御社のページに

生成AIに引用されるページを、お話しいただくだけでお作りします。お時間をいただくのは初回15分のヒアリングだけです。まず1ページ、無料でお作りします。

OKが出るまで、何度でも直します。事実が違う、言い回しが硬い、この話は入れないでほしい。どれも遠慮なくおっしゃってください。何度お直ししても、追加の料金はいただきません。

これまでに127社にご利用いただきました。毎月ご依頼いただいている方の6割以上が、月10ページを選ばれています。料金はページに掲載しています。

まず1ページ、無料で作らせてください

ページを増やしても問い合わせが来ないなら、原因はページの外にあります。その場合は、下の入口からご相談ください。

自社のマーケティング課題を根本から解決しませんか?

ウェブサイトから要素を引き算し、訪れた人が迷わず次の一歩に進む形へ組み直す。初回60分のオンラインで御社のサイトを一緒に読み、どこから直すべきかをお伝えします。手順をまとめた無料の診断と解説動画もご用意しています。

まず動画で詳しく見る(約30分)
無料診断を受ける

初回は無料・60分・オンライン完結・その場で契約のお願いはいたしません

LLMO論文
SEO対策 生成AI
よかったらシェアしてね!
  • URLをコピーしました!
  • 【LLMO論文解説】生成AIの引用は記事の中身より媒体名に左右されるか|政治的偏りの実験(EMNLP 2025)
  • 【LLMO論文解説】商品ページの書き換え手順を、順位の結果から育てる方法|GLOBE(REALM 2026)

この記事を書いた人

中野輝規のアバター 中野輝規

合同会社謙虚 代表社員。20代から、売る言葉だけを仕事にしてきました。電話営業で受話器を握っていた時代から、数千社のWEB集客に関わったいままで。詳しいプロフィールはこちら

この著者の記事一覧へ

関連記事

  • AIの偏りを突くと検索結果の説明文は要約に選ばれやすくなるか
    【LLMO論文解説】AIの偏りを突くと検索結果の説明文は要約に選ばれやすくなるか|選ばれる割合0.37→0.83の条件と限界(プレプリント・2026)
  • AIは食い違う情報で政府の出典を選びやすく、繰り返しで逆転した
    【LLMO論文解説】AIは食い違う情報で政府の出典を選びやすく、繰り返しで逆転した|13の公開モデルの実験(ACL 2026)
  • 中国語のAI検索4サービスは何を引用し、回答に何を出すか
    【LLMO論文解説】中国語のAI検索4サービスは何を引用し、回答に何を出すか|出典のブランドが回答に出たのは8.3%(プレプリント)
  • AIに競合を出し抜かせる「選好操作攻撃」
    【LLMO論文解説】AIに競合を出し抜かせる「選好操作攻撃」|全員が攻撃すると損をする囚人のジレンマ(ICLR 2025)
  • AIの買い物代行は売り手の一文に何%の値上げまで目をつぶるか
    【LLMO論文解説】AIの買い物代行は売り手の一文に何%の値上げまで目をつぶるか|価格に換算して測る監査法(プレプリント)
  • 自然に見える短い文字列でAIの順位づけは動くか
    【LLMO論文解説】自然に見える短い文字列でAIの順位づけは動くか|4つの公開モデルで試した攻撃(ACL 2026)
  • AI検索で「出典に出た」と「答えを変えた」を分けて測る
    【LLMO論文解説】AI検索で「出典に出た」と「答えを変えた」を分けて測る|CC-GSEO-Bench(プレプリント)
  • 商品説明に紛れた順位操作を見抜けるか
    【LLMO論文解説】商品説明に紛れた順位操作を見抜けるか|既知の手口は大半を検出、新しい手口5種類は見抜けず(SCI-Defense・プレプリント)
最近の投稿
  • パーセプションチェンジとは 中小企業がホームページで認識を変える4つの手順
  • ドアインザフェイスとは 意味と由来を論文で確かめ中小企業の提案に使う手順
  • プライミング効果とは 例でわかる意味と中小企業のサイトで最初に見せるもの
  • canvasタグとは 使い方とアニメーションと代替の内容を仕様で確かめる
  • smallタグとは 廃止や非推奨の噂と注意書きの大きさを確かめる
最近のコメント
  • ブランド認知度とは 調査会社に頼らず手元の数字で測る指標と上げる手順 に パーセプションチェンジとは 中小企業がホームページで認識を変える4つの手順 - 合同会社謙虚 より
  • ポジショニングマップの作り方 軸の選び方から空白の読み方まで自社サイトに落とす手順 に パーセプションチェンジとは 中小企業がホームページで認識を変える4つの手順 - 合同会社謙虚 より
  • AI Overviews対策とは?CTR低下データと中小企業が取るべき施策 に LLMOとAIOの違いとは 中小企業が最初にすべき対策の優先順位 - 合同会社謙虚 より
  • 【2026年最新】上位表示される記事の書き方|273クエリを実測して分かった「AIに引用される」条件 に SEOライティングのコツ|AI検索時代に評価基準が変わった本当の理由 - 合同会社謙虚 より
  • 返報性の原理とは 例でわかる意味と問い合わせ前に見せる情報の決め方 に ドアインザフェイスとは 意味と由来を論文で確かめ中小企業の提案に使う手順 - 合同会社謙虚 より
  • 記事制作(KCW)
  • 売れるサイトはみな謙虚
  • サービス一覧
  • サイトの無料診断
  • 合同会社謙虚とは
  • 代表プロフィール
  • ブログ
  • お問い合わせ
  • プライバシーポリシー
  • 特定商取引法に基づく表記
  • AIのプロ名鑑

© 合同会社謙虚

目次