# robots.txt # Gibt an, welche Unterverzeichnisse nicht durch Crawler durchsucht werden sollen User-agent: * Disallow: /cgi-bin/ # cgi Disallow: /download/ # download Disallow: /eignungstest/ # eignungstest Disallow: /logs/ # logs