robots.txt での AI クローラーの扱い 重大
GPTBot・ClaudeBot・PerplexityBot・Google-Extended を締め出していないかを見ます。
ChatGPT・Claude・Perplexity は Google とは違うやり方でサイトを読みます。あなたのサイトを 16 の技術項目で診断し、AI が引用してくれない原因をお見せします。
診断には 1〜3 分かかります。ページと関連リソースを巡回します。
GPTBot・ClaudeBot・PerplexityBot・Google-Extended を締め出していないかを見ます。
生の HTML に本文があるかを見ます。AI クローラーはスクリプトを実行しません。
ブラウザーとして、また AI クローラーとしてページを取得し、応答を比べます。
言語モデルが読む簡潔なサイト案内 /llms.txt があるかを確認します。
トップページが 200 を返し、リダイレクトの連鎖に隠れていないかを確認します。
HTTPS が動作し、証明書が有効で、http がそちらへ転送されるかを確認します。
AI が内容の種類と書き手を判断する手がかりになる構造化データを探します。
title・description・canonical・lang・Open Graph を確認します。
H1 が 1 つか、見出しの階層は妥当か、main/article/header があるかを確認します。
本文の量、更新日の有無、書き手の明示を見ます。
ページのうち実際のテキストがマークアップに対してどれだけあるか——中身の薄いページはAIが読み取りにくい。
メール・電話・住所が見えるか——「どう連絡するか」にAIはページの内容で答えます。
公式アカウントへのリンクは、サイトをAIが既に知る実体に結び付けます。
alt 属性のない画像の割合を数えます。これがないと AI も読み上げソフトも何の絵か分かりません。
サイトマップが存在し、開けて、robots.txt に書かれているかを確認します。
応答時間、HTML の大きさ、圧縮が有効かを測ります。