切换到宽版
  • 794阅读
  • 0回复

禁止搜索引擎收录网站内容的几种方法 [复制链接]

上一主题 下一主题
离线梦丫头

Uid:
1 尚未绑定靓号,此帐号可能会被系统回收
 

发帖
148
铜币
4440658
威望
42
贡献值
0
银元
0
只看楼主 倒序阅读 使用道具 楼主  发表于: 2019-03-12
第一种、robots.txt方法 Ze$^UR  
搜索引擎默认的遵守robots.txt协议,创建robots.txt文本文件放至网站根目录下,编辑代码如下: 2ru*#Z#(  
User-agent: * ]Ks]B2Osz  
Disallow: / 2 pM  
通过以上代码,即可告诉搜索引擎不要抓取采取收录本网站,注意慎用如上代码:这将禁止所有搜索引擎访问网站的任何部分。 WrE-Zti  
如何只禁止百度搜索引擎收录抓取网页 :wv :#EaH  
1、编辑robots.txt文件,设计标记为: 1=9qAp;?o  
User-agent: Baiduspider _/QKWk&j  
Disallow: / h3U Z|B0=  
以上robots文件将实现禁止所有来自百度的抓取。 %:'1_@Ot 2  
这里说一下百度的user-agent,Baiduspider的user-agent是什么? ZXssvjWQV}  
百度各个产品使用不同的user-agent: dU sJv  
产品名称  m+7 2C]9  
对应user-agent haEZp6Z  
无线搜索 Baiduspider 7(A G]  
图片搜索 Baiduspider-image q_9N+-?{7  
视频搜索 J[& 7,}  
Baiduspider-video }6uV]V{  
新闻搜索 Baiduspider-news @ }zS/LO  
百度搜藏 Baiduspider-favo Pq{YZMr  
百度联盟 t(z(-G|&  
Baiduspider-cpro "EOk^1,y  
商务搜索 Baiduspider-ads NR;S3-Iq(  
网页以及其他搜索 Baiduspider U'sVs2sk6  
你可以根据各产品不同的user-agent设置不同的抓取规则,以下robots实现禁止所有来自百度的抓取但允许图片搜索抓取/image/目录: Yn[EI7D  
User-agent: HAI1%F236  
Baiduspider R uFu,H-  
Disallow: / T_oW)G  
User-agent: Baiduspider-image }'w^<:RSy  
Allow: /image/ O w($\,  
请注意:Baiduspider-cpro和Baiduspider-ads抓取的网页并不会建入索引,只是执行与客户约定的操作,所以不遵守robots协议,这个就需要和百度的人联系才能解决了。 {Gb)Et]<  
如何只禁止Google搜索引擎收录抓取网页,方法如下: <4!&iU+;  
编辑robots.txt文件,设计标记为: [hv3o0".  
User-agent: googlebot Me K \eZ\  
Disallow: / `M pC<sit  
编辑robots.txt文件 G"UH4n[1ur  
搜索引擎默认的遵守robots.txt协议 *>&N t  
robots.txt文件放在网站根目录下。 z7l;|T  
举例来说,当搜索引擎访问一个网站时,首先会检查该网站根目录中是否存在robots.txt这个文件,如果搜索引擎找到这个文件,它就会根据这个文件里的内容,来确定它抓取的权限的范围。 -) v p&-  
User-agent: .+JP tL  
该项的值用于描述搜索引擎robot的名字,在”robots.txt”文件中,如果有多条User-agent记录说明有多个robot会受到该协议的限制,对该文件来说,至少要有一条User-agent记录。如果该项的值设为*,则该协议对任何机器人均有效,在”robots.txt”文件中,”User-agent:*”这样的记录只能有一条。 k~9Ywf  
Disallow: TeN1\rA,  
该项的值用于描述不希望被访问到的一个URL,这个URL可以是一条完整的路径,也可以是部分的,任何以Disallow开头的URL均不会被robot访问到。例如”Disallow:/help”对/help.html y3 o4%K8  
和/help/index.html都不允许搜索引擎访问,而”Disallow:/help/”则允许robot访问/help.html,而不能访问/help/index.html。任何一条Disallow记录为空,说明该网站的所有部分都允许被访问,在”/robots.txt”文件中,至少要有一条Disallow记录。如果”/robots.txt”是一个空文件,则对于所有的搜索引擎robot,该网站都是开放的。 WCfe!P?g  
vM4`u5  
下面举几个robots.txt用法的例子: 9q ,Jq B  
User-agent: * 5tCq}]q#P  
Disallow: / 7Hkf7\JY  
禁止所有搜索引擎访问网站的所有部分 uxJiec`&  
User-agent: Baiduspider PM?Ri^55<L  
Disallow: / "s6_lhu=E7  
禁止百度收录全站 9kg>)ty@  
User-agent: Googlebot  AQNx%  
Disallow: / tlxjs]{0E  
禁止Google收录全站 p YvF}8  
User-agent: Googlebot ?}Ptb&Vk(  
Disallow: ^EBM;&;7  
User-agent: * 3)MM5 b b$  
Disallow: 7ofH@U  
/ 8uD%]k=#!  
禁止除Google外的一切搜索引擎收录全站 Uo)<_nG  
User-agent: ^aM/BS\  
Baiduspider zyn =Xv@p  
Disallow: !Kqj &y5  
User-agent: * I:)#U[tn0  
Disallow: ,r,;2,;6nd  
/ X?xm1|\  
禁止除百度外的一切搜索引擎收录全站 1ucUnNkcV  
User-agent: * 6C}Z1lZl  
Disallow: /css/ nE$ V<Co}  
Disallow: 'QS~< ^-j"  
/admin/ FO yfk$  
禁止所有搜索引擎访问某个目录 =umS^fJ5`  
(例如禁止根目录下的admin和css) wpMQ 7:j  
第二种、网页代码方法 Ykq }9  
}eK*)  
在网站首页代码<head>与</head>之间,加入<meta name="robots" AMfu|%ZL  
content="noarchive">代码,此标记禁止搜索引擎抓取网站并显示网页快照。 \"j1fAD!  
在网站首页代码<head>与</head>之间,加入<meta ,urkd~  
name="Baiduspider" GY :IORuA4  
content="noarchive">即可禁止百度搜索引擎抓取网站并显示网页快照。 ~kFRy{z  
在网站首页代码<head>与</head>之间,加入<meta >qZRIDE5$  
name="googlebot" content="noarchive">即可禁止谷歌搜索引擎抓取网站并显示网页快照。 (P_ +m#  
另外当我们的需求很怪异的时候,比如下面这几种情况: _Y~?.hs^  
1. 网站已经加了robots.txt,还能在百度搜索出来? Xb;`WE gC  
因为搜索引擎索引数据库的更新需要时间。虽然Baiduspider已经停止访问您网站上的网页,但百度搜索引擎数据库中已经建立的网页索引信息,可能需要数月时间才会清除。另外也请检查您的robots配置是否正确。如果您的拒绝被收录需求非常急迫,也可以通过投诉平台反馈请求处理。 XRin~wz|S  
2. 希望网站内容被百度索引但不被保存快照,我该怎么做? t?Znil|o  
Baiduspider遵守互联网meta (ZJ_&8C#  
robots协议。您可以利用网页meta的设置,使百度显示只对该网页建索引,但并不在搜索结果中显示该网页的快照。和robots的更新一样,因为搜索引擎索引数据库的更新需要时间,所以虽然您已经在网页中通过meta禁止了百度在搜索结果中显示该网页的快照,但百度搜索引擎数据库中如果已经建立了网页索引信息,可能需要二至四周才会在线上生效。 $ S/ 8T  
希望被百度索引,但是不保存网站快照,如下代码解决: !Zx>)V6.  
<meta name="Baiduspider" Yzz8:n  
content="noarchive"> +!wc(N[(2  
如果要禁止所有的搜索引擎保存你网页的快照,那么代码就是下面的: yuq E  
<meta >~ :]+q  
name="robots" content="noarchive"> T9 1Iz+j  
常用的一些代码组合: hCrgN ?M z  
<META NAME="ROBOTS" _L ].n)b  
CONTENT="INDEX,FOLLOW">:可以抓取本页,而且可以顺着本页继续索引别的链接 BDg /pDnwg  
<META NAME="ROBOTS" *@Z'{V\  
CONTENT="NOINDEX,FOLLOW">:不许抓取本页,但是可以顺着本页抓取索引别的链接 ZBWe,Xvq  
<META NAME="ROBOTS" qYs6PLC  
CONTENT="INDEX,NOFOLLOW">:可以抓取本页,但是不许顺着本页抓取索引别的链接 9v A`\\9  
<META NAME="ROBOTS" /WMLr5  
CONTENT="NOINDEX,NOFOLLOW">:不许抓取本页,也不许顺着本页抓取索引别的链接
快速回复
限100 字节
批量上传需要先选择文件,再选择上传
 
上一个 下一个