Hier ein Beispiel wie man mit WordPress ein robots.txt Datei erstellen lassen kann. Öffnet dazu eure funtions.php. Fügt diesen Code ein und ruft eure Domain auf. z.b. www.domain.de/robots.txt. Diese robots.txt dient nur als Beispiel. Ihr könnt diese nach eurem Bedarf modifizieren.
/** * Add to robots.txt * @since 1.0 */ add_action('do_robots', 'roots_robots'); function roots_robots() { echo "Disallow: /cgi-bin\n"; echo "Disallow: /wp-admin\n"; echo "Disallow: /wp-includes\n"; echo "Disallow: /wp-content/plugins\n"; echo "Disallow: /plugins\n"; echo "Disallow: /wp-content/cache\n"; echo "Disallow: /wp-content/themes\n"; echo "Disallow: /trackback\n"; echo "Disallow: /feed\n"; echo "Disallow: /comments\n"; echo "Disallow: /category/*/*\n"; echo "Disallow: */trackback\n"; echo "Disallow: */feed\n"; echo "Disallow: */comments\n"; echo "Disallow: /*?*\n"; echo "Disallow: /*?\n"; /* PAGE SETTINGS */ echo "Disallow: /contact\n"; echo "Disallow: /impressum\n"; //echo "Disallow: /sitemap\n"; echo "Allow: /wp-content/uploads\n"; echo "Allow: /assets"; }