CDN源站屏蔽搜索引擎爬虫
前言
自从全站使用阿里云CDN之后，网站访问速度得到了很明显的提升，同时阿里云CDN的稳定性也很棒。但最近这段时间发现，百度和谷歌的爬虫开始爬我的源站了。这就有点麻烦了，要是不赶紧解决，给主站降权就不好了。
思路
因为蜘蛛爬了不该爬的东西，解决思路自然是限制蜘蛛的爬取。
大概有三种方法可以限制蜘蛛的抓取：1.robots.txt文件
robots文件用于限制搜索引擎蜘蛛的行为，在源站屏蔽蜘蛛主要是为了限制蜘蛛对同程序下不同域名的抓取。但是robots.txt文件没有可以限制域名相关的参数，只能限制蜘蛛对当前域名下文件的抓取，此路不通。2.设置META标签
当访客访问的域名不是主站域名时，在网页的标签中植入限制蜘蛛活动的内容，实现起来比较简单，只用修改一下模板中的header文件即可。3.识别蜘蛛的UA，在网站程序上做限制
获取访客的User-Agent，如果是搜索引擎蜘蛛的UA，则跳转至主站。也有一个问题，就是要去网上收集各家搜索引擎蜘蛛的UA，想着就累。
人懒，就选择设置META标签的方法。
实践
第一步，在程序中获取访客访问的域名。这一歩就不做多介绍了，不同语言和环境有不同的方法获取，PHP可以通过如下语句获取访问者当前访问的域名：
$_SERVER[‘SERVER_NAME’];
第二步，如果不为主站域名，则输出HEAD中的META标签限制蜘蛛的活动：
if ($_SERVER['SERVER_NAME'] != 'www.kungg.com' {
echo '';
文章来源：蔡江博客 文章标题：CDN源站屏蔽搜索引擎爬虫 本文地址：http://www.chengduseo.cn/seo/11192.html
德阳百度网站SEO策略有哪些？1.关键词研究和优化：在网站内容中使用有价值的关键词，并确保它们的出现频率和密度合理。同时，使用相关性高的关键词和长尾关键词以提高排名。2.内容质量：优化网站内容，使其与关键词相
德阳新网站优化锚文本链接应该如何做
德阳新网站优化锚文本链接应该如何做？1.找到合适的关键词：优化锚文本链接的第一步是找到合适的关键词。关键词应该和你的网站内容相关，并且是人们搜索的常用词汇。2.使用多样化的锚文本：使用多样化的锚文本可以增
德阳百度网站seo排名如何上升
德阳百度网站SEO排名如何上升?作为一名SEO优化专员，我们经常会被问到很多有关SEO的问题。其中，最常见的问题之一就是：如何提高百度网站的SEO排名？事实上，这并不是一个简单的问题，因为要使网站在百度排名中上升，需
德阳网站营销长尾词如何挖掘
如何挖掘德阳网站营销长尾词？德阳作为四川的一个发达城市，拥有着众多的企业和商家。在这个高度竞争的市场环境中，对于一家企业来说，如何在网站上获得优质流量，是十分重要的。而挖掘德阳网站营销长尾词，是获得优
成都企业网站seo长尾词如何挖掘
成都企业网站seo长尾词如何挖掘在如今竞争激烈的互联网市场中，让成都企业的网站排名靠前显得尤为重要。而在做SEO优化的过程中，长尾词的作用就不可忽视。那么，如何挖掘这些长尾词？这是许多成都企业主关心和需要解决
德阳网站优化seo如何避免过度优化
德阳网站优化seo如何避免过度优化德阳网站优化SEO是一门复杂的技能，需要一定的专业知识和经验。虽然过度优化可能会影响网站的排名和流量，但德阳网站优化SEO如何避免过度优化呢？以下是一些拓展延伸的建议。1.了解搜索
德阳网站营销优化主要包含哪些方面
德阳网站营销优化主要包含哪些方面？德阳网站营销优化主要包含以下方面：1.搜索引擎优化(SEO)：通过优化网站内容和结构，提高网站排名和流量。2.搜索引擎营销(SEM)：用付费广告获得更多的曝光与流量，提高转化率和ROI。3.
德阳网站优化seo如何提升点击率
为什么德阳网站优化SEO如何提升点击率？首先，流量与点击率密切相关。如果你想提高你的搜索引擎点击率，你需要注意以下几个方面：1.提高你的网站排名当你的网站排名处于搜索引擎结果的前几页时，你就可以获得更多的流
德阳网站seo优化长尾词排名如何提升
德阳网站SEO优化长尾词排名如何提升？随着互联网的快速发展，越来越多的企业开始关注SEO优化。无论是小型企业还是大型企业，都需要SEO优化来提高网站排名，吸引更多的潜在客户，从而增加业务量。而德阳网站SEO优化长尾词
成都企业网站seo优化收录为何下降
为什么成都企业网站SEO优化收录下降？在过去的一段时间里，许多成都企业网站的SEO优化收录量开始出现下降，这对于企业的网络营销来说是一个严峻的挑战。那么，为什么成都企业网站SEO优化收录下降呢？1.网站内容质量下降
- 精彩推荐
- 最新案例
