批量检测被百度收录的死链的方法

softyun3年前网站建设88

前段时间服务器被入侵,挂了很多博彩之类的黑页,而且全部被百度收录。

现在把漏洞补好了,但删除黑页文件以后成了死链,要怎么让百度删除收录呢?

在网上找了一下,似乎只有检测网址是否被收录的工具,而没有检测收录的是不是死链的工具。

自己理清了下思路,找办法找出了所有被收录的死链,并写下这篇文章。

不知道有没有更好的方法,大家可以告诉我,先分享给大家,如果有大神请忽视或者告诉我更好的方法,一起学习交流吧。

下面教程开始

先在百度找到xenu可以模拟爬虫爬取所有连接,我下载了个汉化版。

我们先用这个工具查询所有被收录的页面。

打开软件,填入简版百度site网站地址,之所以用简版是可以减少链接查询时间和内容。(请把xxx.bizcn换成你的网址)

baidu/s?ie=utf-8&tn=baidulocal&wd=site%3Axxx.bizcn

等待检测完成。

点击导出为制表符分隔的文件。

导出的文件,我们可以看到格式是:网址+空格+状态码

那么写一个正则,把需要的网址提取出来就行,比如baidu下的404页面就是

/http:\/\/baidu(.*?)\s404/i

(以baidu开头,\s代表空格,404,/i代表匹配大小写)

不会正则怎么办?

为了方便大家,我把文件作了修改,大家只要把head改成标致性开头,state改成状态码就行,file改成导出的文件路径就行。

head怎么改,举个例子,

你的网站是baidu/abc,那么你就写baidu/

你的网站是abc.baidu.com/abc,那么你就写abc.baidu.com/

把正则写入php,在php环境下运行get.php。那么结果就出来了。

这时你只需要全选,复制到一个txt文件,上传到网站空间,再到百度站长平台死链提交填入文件路径就行就可以。

我们知道,思路是通过爬取找出所有被收录的链接,然后按条件列出来而已。

这样的话,只要把开头输入的site网址改一下,也可以查询其他搜索引擎的收录。

把正则改一下,可以获得如标题等其他内容。在此就不一一叙述。
来源:卢松松博客 微信/QQ号:13340454,欢迎分享本文,转载请保留出处!


免责声明:本文内容来自用户上传并发布,站点仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。请核实广告和内容真实性,谨慎使用。

相关文章

试用按秒计费的云主机

关注卢松松博客的朋友就知道,本站一直用的是华夏名网服务器,对华夏名网的动态还是比较关注。最近看到一些QQ群在传华夏名网的新版云服务器免费送,可以按秒计费,可以随时停止服务,下面是一个我就写了个简单教程...

评测本年度最新款第三方评论系统 —网易云跟贴的优势与不足

 首先,我不是技术控,对软件的理解以及系统的运用都是门外汉。我跟众多网民一样,平时了解到什么趣事,下班后,就写个帖子分享一下;每天在各大门户上看到好帖子,就会在评论框下跟个帖;在留言处看到有共鸣的跟帖...

一个草根站长在网络推广中遇到的那些“流氓行为”

写这篇文章的目的不是为了吐槽推广的不易,而是为了让后来的新手站长们别再走我的老路。 一、cnzz统计代码植入无下限广告 为什么要加个形容词“无下限”呢,我用你的统计代码你在我网站里植入广告本是个互利共...

功能性新网站开发一点点经验心得

因为本次是全程参与了松松软文新平台的开发,所以卢松松今天把网站开发的一些经验心得写出来,供大家参考。以后大家在迁移新网站的时候,有一个参考依据,我都做了什么,什么时候做,都会列出来,希望本文对大家有所...

卢松松和他的博客价值点:互联网赚钱盈利与能力提升的启发

 这几年很少写文章了,看到有行业内人写了一篇关注卢松松博客的文章,我觉得有必要把这些年来关注卢松松这个人和这个博客的收获写一下,学习与启发是我从卢松松个人身上和博客当中获得的最有价值的东西。 趋势所向...

新站上线后应该做哪些有利于seo的工作

seo优化人员一定要重视基础工作,夯实基础会给后期网站优化工作带来很大便利,本篇文章主要是从实操视角审视一下企业网站上线后seoer应该做哪些工作,帮助网站更快获得排名和收录。 1.填写网站标题和描述...