User-Agent: *
Allow: /wp-content/themes/mentiroso-dic12/css/
Allow: /wp-content/themes/mentiroso-dic12/js/
Allow: /wp-content/uploads/
Allow: /*.jpg 
Disallow: /tag/*$
Disallow: /label/*$
Disallow: /search
Disallow: /?s=
Disallow: /page/*$
Disallow: /author/*$
Disallow: /wp-includes/
Disallow: /wp-admin/
#
# Sitemap permitido, búsquedas no.
#
Sitemap: https://www.diariodeunmentiroso.com/sitemap.xml
Disallow: /?s=
Disallow: /search
#
# Permitimos el feed general para Google Blogsearch.
#
# Impedimos que permalink/feed/ sea indexado ya que el
# feed con los comentarios suele posicionarse en lugar de
# la entrada y desorienta a los usuarios.
#
# Lo mismo con URLs terminadas en /trackback/ que solo
# sirven como Trackback URI (y son contenido duplicado).
#
Allow: /feed/$
Allow: /wp-content/uploads/
Disallow: /feed
Disallow: /comments/feed
Disallow: /*/feed/$
Disallow: /*/feed/rss/$
Disallow: /*/trackback/$
Disallow: /*/*/feed/$
Disallow: /*/*/feed/rss/$
Disallow: /*/*/trackback/$
Disallow: /*/*/*/feed/$
Disallow: /*/*/*/feed/rss/$
Disallow: /*/*/*/trackback/$
#
# A partir de aqui es opcional pero recomendado.
#
# Lista de bots que suelen respetar el robots.txt pero rara
# vez hacen un buen uso del sitio y abusan bastante.
# Añadir al gusto del consumidor.

User-agent: Googlebot-Image 
Allow: / 

User-agent: Mediapartners-Google 
Allow: / 

User-agent: 008
Disallow: /
User-agent: MSIECrawler
Disallow: /
User-agent: WebCopier
Disallow: /
User-agent: HTTrack
Disallow: /
User-agent: Microsoft.URL.Control
Disallow: /
User-agent: libwww
Disallow: /
#
# Slurp (Yahoo!), Noxtrum y el bot de MSN a veces tienen
# idas de pinza, toca decirles que reduzcan la marcha.
# El valor es en segundos y podéis dejarlo bajo e ir
# subiendo hasta el punto óptimo.
#
User-agent: noxtrumbot
Crawl-delay: 50
User-agent: msnbot
Crawl-delay: 30
User-agent: Slurp
Crawl-delay: 10

Disallow: /*.php$
Disallow: /*.inc$
Disallow: /*.wmv$
Disallow: /*.tar$
Disallow: /*.tgz$
Disallow: /*.cgi$
Disallow: /*.xhtml$