明凯博客

关注网站技术,一个特立独行的程序员

WordPress设置robots.txt的方法及推荐

wordpress如何设置robots.txt:
一、Robots.txt的误区
不添加Robots.txt
Robots.txt作为搜索引擎机器人来到网站查看的第一个文件是很有必要精心设置的,搜索引擎机器人访问网站时,首先会查看站点根目录有没有 Robots.txt文件,如果有这个文件就根据文件的内容确定收录范围,如果没有就默认访问以及收录所有页面。这是不是意味着,要想让搜索引擎收录全部链接就可以不设置这个文件了?其实不是的,搜索引擎机器人查看没有Robots.txt文件的时候就产生一个404错误日志在服务器上,增加服务器的负担。

Robots.txt文件Allow所有页面
这是平时比较容易犯到的错误,以为要让搜索引擎更多地收录网站就设置Robots.txt为:

User-agent: *
Disallow:
或者:
User-agent: *
Allow: /

这样搜索引擎不单单收录了你文章页面,还收录了管理界面,模板链接,CSS、JS链接,虽然说Wordpress的管理界面谁都可以猜得到,不怕泄漏出去,但是这样一来就浪费服务器的资源,而且搜索引擎收录了这些链接是不会增加网站收录数的。

二、Robots.txt的写法

Robots.txt文档以User-agent: 开头,标识语句对应的搜索引擎机器人,后面跟上Disallow: 和Allow:表示起作用的链接。
User-agent: baiduspider 表示对百度机器人起作用。
User-agent: * 表示对所有搜索引擎机器人起作用。
Robots.txt文档中至少要有一条User-agent:记录而User-agent: * 记录只允许有一条。
Disallow: /aimks 表示不允许搜索引擎访问或者收录/aimks.html、/aimks /index.html、/aimks.php等包含/aimks的链接,而Disallow: /aimks/则允许访问 /aimks.html、/aimks.php等,但是禁止访问/aimks/index.html。
Disallow: / 表示禁止搜索引擎机器人访问收录所有页面。
Disallow: 表示允许搜索引擎访问收录所有页面。
Allow: /aimks 表示允许搜索引擎访问或者收录/aimks.html、/aimks /index.html、/aimks.php等包含/aimks的链接,而Allow:/aimks/则表示允许搜索引擎机器人访问/aimks/index.html等链接,但是对/aimks.html、/aimks.php未置可否。
“*”和“$”通配符
Disallow: */comments 表示不允许访问和收录所有wordpress 评论留言页面。比如:http://www.aimks.com/born/tianxi … o.html#comment-3715 是禁止收录的。
Disallow: /category/*/page/ 表示禁止访问和收录分类的相关分页。比如集思博客中网页设计分类有很多页面:
http://www.aimks.com/category/design/page/2
记录中用“*”通配符表示了分类的别称“design”。
Disallow: .jpg$ 和Disallow: .php$ 分别表示禁止访问收录 “,jpg”和“.php”后缀的文件
seo学习博客的Robots.txt
User-agent: *
Disallow: /*?* (屏蔽搜索引擎机器人收录动态网页,因为/?q=id也是能访问文章的哦!)
Disallow: /index.php (因为我的博客在windows主机呆过,发现www.aimks.com/index.php/postname.html也能访问现在的日志)(这条是原文的文字,本人没用。)
Disallow: /wp-admin (屏蔽搜索引擎机器人收录管理界面)
Disallow: /wp-content/plugins (屏蔽搜索引擎机器人收录插件文件)
Disallow: /wp-content/themes (屏蔽搜索引擎机器人收录模板文件)
Disallow: /wp-includes (屏蔽搜索引擎机器人收录JS文件)
Disallow: /trackback (屏蔽搜索引擎机器人收录trackback等垃圾信息,关闭trackback的可以忽略)
Disallow: /feed (Feed中都是与日志相同的信息当然要屏蔽)
Disallow: /comments(下面三个上面有介绍了)
Disallow: /category/*/page/
Disallow: /tag/*/page/
Sitemap: http://www.aimks.com/sitemap.xml (这个用来告诉搜索引擎sitemap的路径,我用了两个)
Sitemap: http://www.aimks.com/sitemap_baidu.xml

以上就是本人找到的非常不错的关于wordpress如何设置robots.txt的方法。

下面是明凯博客设置的robots.txt的方法,是我自己摸索出来的,感觉还不错。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
User-Agent: *
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: /feed
Disallow: /comments
Disallow: /*/trackback
Disallow: /*/feed
Disallow: /*/comments
Disallow: /*?*
 
Sitemap: http://www.aimks.com/sitemap.xml
Sitemap: http://www.aimks.com/sitemap_baidu.xml

, , ,

相关文章

1 条评论 “WordPress设置robots.txt的方法及推荐

发表评论

电子邮件地址不会被公开。 必填项已用*标注