批量检测被百度收录的死链的方法

admin3年前网站建设118

前段时间服务器被入侵,挂了很多博彩之类的黑页,而且全部被百度收录。

现在把漏洞补好了,但删除黑页文件以后成了死链,要怎么让百度删除收录呢?

在网上找了一下,似乎只有检测网址是否被收录的工具,而没有检测收录的是不是死链的工具。

自己理清了下思路,找办法找出了所有被收录的死链,并写下这篇文章。

不知道有没有更好的方法,大家可以告诉我,先分享给大家,如果有大神请忽视或者告诉我更好的方法,一起学习交流吧。

下面教程开始

先在百度找到xenu可以模拟爬虫爬取所有连接,我下载了个汉化版。

我们先用这个工具查询所有被收录的页面。

打开软件,填入简版百度site网站地址,之所以用简版是可以减少链接查询时间和内容。(请把xxx.bizcn换成你的网址)

baidu/s?ie=utf-8&tn=baidulocal&wd=site%3Axxx.bizcn

等待检测完成。

点击导出为制表符分隔的文件。

导出的文件,我们可以看到格式是:网址+空格+状态码

那么写一个正则,把需要的网址提取出来就行,比如baidu下的404页面就是

/http:\/\/baidu(.*?)\s404/i

(以baidu开头,\s代表空格,404,/i代表匹配大小写)

不会正则怎么办?

为了方便大家,我把文件作了修改,大家只要把head改成标致性开头,state改成状态码就行,file改成导出的文件路径就行。

head怎么改,举个例子,

你的网站是baidu/abc,那么你就写baidu/

你的网站是abc.baidu.com/abc,那么你就写abc.baidu.com/

把正则写入php,在php环境下运行get.php。那么结果就出来了。

这时你只需要全选,复制到一个txt文件,上传到网站空间,再到百度站长平台死链提交填入文件路径就行就可以。

我们知道,思路是通过爬取找出所有被收录的链接,然后按条件列出来而已。

这样的话,只要把开头输入的site网址改一下,也可以查询其他搜索引擎的收录。

把正则改一下,可以获得如标题等其他内容。在此就不一一叙述。

原创:blog.vg欢迎来小博逛逛


免责声明:本文内容来自用户上传并发布,站点仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。请核实广告和内容真实性,谨慎使用。

相关文章

你要做的是消化而不是不断参加培训

说到培训,可能大家都参加过各种各样的培训。音乐有音乐的培训,还有各种技能培训。有贵的,有便宜的,也有免费的。我也参加过N多培训,从2012年初参加某WP模板制作培训开始直到现在。前前后后也花了不少钱!...

花瓣网SEO分析:“原创”并非SEO的主要核心

导读:原来我分析过美丽说的SEO, 其实并不是SEO多牛,而是靠团队一个个去拉用户,团队重视社交推广,流量有了SEO自然不再话下。同理,今天作者Ian给我们分析的花瓣网则表达了另一 个观点:&ldqu...

我是如何通过网络做大客户批发的

SEO,一种网络营销手段,这是前几年很火的一种网络营销方式。当下,貌似这种网络营销方式已经不那么火了,而且网络营销圈都在说“SEO越来越难做”。这也是大多数人的看法。 通过SE...

剖析robots.txt文件中应该屏蔽哪些目录

一个合格的网站,必须在根目录下包含一下robots.txt文件,这个文件的作用对所有运营网站的朋友来说并不陌生,网上也提供了很多制作robots.txt文件的方法和软件,可谓相当方便。但是,你真的知道...

揭露网站外链产业背后的秘密

导语:站长们做网站排名,肯定会在外链上面下一番功夫,不难发现,在淘宝、站长论坛、站长工具等一些地方充斥着外链代发、买卖链接、导航收录、新闻源收录等等各式各样的广告,他们的承诺看着让人心动,但经过仔细分...

编辑必看:撰写搜索引擎喜爱的标题

导读:非常有干货,百度站长平台刚发布了这篇篇文章,文章建议:1,标题字数控制在65个字节内,2,重要内容放在标题的最前面,3,添加与网页内容最相关的、用户更常用的、满足用户明确需求的、体现时效性、关键...