User-Agent: * Disallow: /*? Disallow: /cgi-bin/ Disallow: /wp-admin/ Disallow: /wp-content Disallow: /wp-includes/ Disallow: /etiquetas/ Disallow: /author/ Disallow: /?s= Disallow: /search Allow: /wp-admin/admin-ajax.php Allow: /wp-content/uploads/*/ Allow: /wp-content/uploads/*/*/ # # Sitemap permitido, búsquedas no. # Sitemap: https://hollywoodescapezaragoza.com/sitemap_index.xml # Permitimos el feed general para Google Blogsearch. # # Impedimos que permalink/feed/ sea indexado ya que el # feed con los comentarios suele posicionarse en lugar de # la entrada y desorienta a los usuarios. # # Lo mismo con URLs terminadas en /trackback/ que sólo # sirven como Trackback URI (y son contenido duplicado). # Allow: /feed/$ Disallow: /feed Disallow: /comments/feed Disallow: /*/feed/$ Disallow: /*/feed/rss/$ Disallow: /*/trackback/$ Disallow: /*/*/feed/$ Disallow: /*/*/feed/rss/$ Disallow: /*/*/trackback/$ Disallow: /*/*/*/feed/$ Disallow: /*/*/*/feed/rss/$ Disallow: /*/*/*/trackback/$ # Lista de bots que suelen respetar el robots.txt pero rara # vez hacen un buen uso del sitio y abusan bastante… # Añadir al gusto del consumidor… User-agent: MSIECrawler Disallow: / User-agent: WebCopier Disallow: / User-agent: HTTrack Disallow: / User-agent: Microsoft.URL.Control Disallow: / User-agent: libwww Disallow: /