# Spezielle Crawler-Einstellungen immer vor User-agent: * einfügen # siehe: http://de.wikipedia.org/wiki/Robots_Exclusion_Standard#Beispiele # Disallow: / --> bedeutet keine Seite soll gescannt werden! User-agent: BizInformation Disallow: / User-agent: * Allow: /