User-agent: *
Disallow: /app/
Disallow: /yoomoney/
Disallow: /store_closed.html
Disallow: /*features_hash
Disallow: /*products.picker

# Внутренний поиск - не индексируем
Disallow: /*dispatch=products.search
Disallow: /index.php?*dispatch=products.search

# Основное зеркало для Яндекса (без протокола, одна строка)
Host: carpshop.ru

# Карты сайта
Sitemap: https://carpshop.ru/sitemap.xml
Sitemap: https://carpshop.ru/ab__sf_sitemap.xml?lang=ru

# --- Яндекс: склейка дублей по параметрам ---
# CSRF-токен CS-Cart — не влияет на контент
Clean-param: security_hash /
User-agent: Yandex
# Рекламные и служебные метки
Clean-param: utm_source&utm_medium&utm_campaign&utm_content&utm_term&yclid&ymclid&gclid&fbclid&openstat&clckid&extdata /
# Язык интерфейса (если индексируем RU как основной)
Clean-param: sl /
# Вариации и комбинации опций (склеиваем к базовому URL товара)
Clean-param: variation_id&combination /
# Параметры фильтрации/секций (оставляем ваши текущие)
Clean-param: selected_section&features_hash /
Clean-param: ybaip /
Clean-param: with_images /
# Параметры внутреннего поиска (match, флаги полей) — склейка дублей
Clean-param: match&pcode_from_q&pshort&pfull&pname&pkeywords&search_performed /

# --- ИИ-поисковые боты: разрешаем индексацию ---
# OpenAI (ChatGPT)
User-agent: GPTBot
User-agent: OAI-SearchBot
User-agent: ChatGPT-User
Allow: /
Disallow: /app/
Disallow: /checkout/

# Anthropic (Claude)
User-agent: anthropic-ai
User-agent: ClaudeBot
User-agent: Claude-Web
Allow: /
Disallow: /app/
Disallow: /checkout/

# Perplexity
User-agent: PerplexityBot
Allow: /
Disallow: /app/
Disallow: /checkout/

# Google AI (Gemini)
User-agent: Google-Extended
Allow: /
Disallow: /app/
Disallow: /checkout/

# Яндекс (Алиса / YandexGPT)
User-agent: YandexBot
Allow: /
Disallow: /app/
Disallow: /checkout/

# Другие AI-боты
User-agent: Applebot-Extended
User-agent: meta-externalagent
Allow: /
Disallow: /app/
Disallow: /checkout/

# --- Боты, которых вы блокируете (оставляем как есть) ---
User-agent: MJ12bot
Disallow: /
User-agent: AhrefsBot
Disallow: /
User-agent: Linguee
Disallow: /
User-agent: SemrushBot
Disallow: /
User-agent: SemrushBot-SA
Disallow: /
User-agent: sogou spider
Disallow: /
User-agent: SEOkicks-Robot
Disallow: /
User-agent: BLEXBot
Disallow: /
User-agent: SISTRIX Crawler
Disallow: /
User-agent: UptimeRobot/2.0
Disallow: /
User-agent: 008
Disallow: /
User-agent: Ezooms Robot
Disallow: /
User-agent: Perl LWP
Disallow: /
User-agent: netEstate NE Crawler (+http://www.website-datenbank.de/)
Disallow: /
User-agent: WiseGuys Robot
Disallow: /
User-agent: Turnitin Robot
Disallow: /
User-agent: TurnitinBot
Disallow: /
User-agent: Turnitin Bot
Disallow: /
User-agent: TurnitinBot/3.0 (http://www.turnitin.com/robot/crawlerinfo.html)
Disallow: /
User-agent: TurnitinBot/3.0
Disallow: /
User-agent: Heritrix
Disallow: /
User-agent: pimonster
Disallow: /
User-agent: Pimonster
Disallow: /
User-agent: SearchmetricsBot
Disallow: /
User-agent: ECCP/1.0 (search@eniro.com)
Disallow: /
User-agent: Baiduspider
User-agent: Baiduspider-video
User-agent: Baiduspider-image
User-agent: Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)
User-agent: Mozilla/5.0 (compatible; Baiduspider/3.0; +http://www.baidu.com/search/spider.html)
User-agent: Mozilla/5.0 (compatible; Baiduspider/4.0; +http://www.baidu.com/search/spider.html)
User-agent: Mozilla/5.0 (compatible; Baiduspider/5.0; +http://www.baidu.com/search/spider.html)
User-agent: Baiduspider/2.0
User-agent: Baiduspider/3.0
User-agent: Baiduspider/4.0
User-agent: Baiduspider/5.0
Disallow: /
User-agent: Sogou Spider
Disallow: /
User-agent: YoudaoBot
Disallow: /
User-agent: gsa-crawler (Enterprise; T4-KNHH62CDKC2W3; gsa_manage@nikon-sys.co.jp)
Disallow: /
User-agent: MegaIndex.ru/2.0
Disallow: /
User-agent: MegaIndex.ru
Disallow: /
User-agent: megaIndex.ru
Disallow: /
User-agent: dotbot
Disallow: /