# MapAndMove.se — robots.txt
# Sökmotorer (Google/Bing/DuckDuckGo etc) får indexera fritt.
#
# AI-botar delas i två sedan 2026-08-02:
#   SLÄPPS IN  — de som hämtar en sida för att svara någon och citerar källan
#                (ChatGPT-sök, Perplexity, Claude, Googles AI Overviews).
#                Det är hela vägen in i "hur är det att bo i Luleå"-svaren.
#   BLOCKERAS  — ren träningsskrapning utan citering. Ingen länk tillbaka,
#                ingen trafik, ingen anledning.
#
# Samma tudelning finns i nginx ($is_ai_bot / $is_ai_search i
# backend/deploy/nginx/mapandmove-shared.conf). robots.txt är artigheten,
# nginx är hårdvarustoppet — ändrar du den ena, ändra den andra.

User-agent: *
Allow: /
Disallow: /kommun-stats
Disallow: /kommun-stats.html
Disallow: /private/
Disallow: /backend/
Disallow: /data/lantmaterietData/

# ----- AI-botar som citerar: SLÄPPS IN -----
#
# ⚠️ EN grupp med nio User-agent-rader, inte nio grupper. En bot som hittar
# sin egen grupp läser BARA den och ärver ingenting från `*` ovan — nio egna
# grupper hade alltså tyst öppnat /private/ och /backend/ för dem.
# Disallow-raderna nedan måste därför spegla `*`-gruppens.
User-agent: GPTBot
User-agent: OAI-SearchBot
User-agent: ChatGPT-User
User-agent: ClaudeBot
User-agent: Claude-User
User-agent: Claude-SearchBot
User-agent: PerplexityBot
User-agent: Perplexity-User
User-agent: Google-Extended
Allow: /
Disallow: /kommun-stats
Disallow: /kommun-stats.html
Disallow: /private/
Disallow: /backend/
Disallow: /data/lantmaterietData/

# ----- Ren träningsskrapning utan citering: BLOCKERAS -----
User-agent: anthropic-ai
Disallow: /

User-agent: Claude-Web
Disallow: /

User-agent: CCBot
Disallow: /

User-agent: Bytespider
Disallow: /

User-agent: Amazonbot
Disallow: /

User-agent: Meta-ExternalAgent
Disallow: /

User-agent: Applebot-Extended
Disallow: /

User-agent: cohere-ai
Disallow: /

User-agent: Diffbot
Disallow: /

User-agent: Omgilibot
Disallow: /

User-agent: ImagesiftBot
Disallow: /

User-agent: Timpibot
Disallow: /

User-agent: FacebookBot
Disallow: /

User-agent: YouBot
Disallow: /

Sitemap: https://mapandmove.se/sitemap.xml