1
3
|
2
6
robots.txt 是告诉蜘蛛什么该爬什么不该爬的方法。如果你把以下内容放在你网站的根目录中/机器人.txt:
一个行为良好的蜘蛛不会搜索你网站的任何部分。大多数大型网站都有机器人.txt,就像 google
|
3
0
http://support.google.com/webmasters/bin/answer.py?hl=en&answer=93708 对于最后一种方法,这取决于您是否要使用httpd.conf文件文件或.htaccess。最好的办法是httpd.conf文件,即使.htaccess看起来更容易。 |
4
0
让服务器端代码生成一个规范引用,指向要被视为“源”的页面。示例= 参考文献: http://googlewebmastercentral.blogspot.com/2009/02/specify-your-canonical.html |