Готовность к ИИ-поиску
Доступ ИИ-краулеров
Почему это важно
AI search engines such as ChatGPT search, Claude and Perplexity need their crawlers to be allowed in robots.txt to read and cite your pages. Training crawlers are separate and can be blocked without affecting search.
Как исправить
- Allow AI search crawlers (OAI-SearchBot, Claude-SearchBot, PerplexityBot) in robots.txt if you want to be cited.
- Decide separately whether to allow training crawlers such as GPTBot or Google-Extended.
Проверить с помощью
- AI Search Readiness Checker – Check if ChatGPT, Claude, Perplexity and Google AI can access, read and quote your page.
- Robots.txt Generator – Build a robots.txt file with sitemap, blocked folders and AI crawler controls.
Балл: пройденная проверка получает полный вес, предупреждение — половину, ошибка — ничего. Как рассчитывается SEO-балл