批量检测被百度收录的死链的方法

admin3年前网站建设54

前段时间服务器被入侵,挂了很多博彩之类的黑页,而且全部被百度收录。

现在把漏洞补好了,但删除黑页文件以后成了死链,要怎么让百度删除收录呢?

在网上找了一下,似乎只有检测网址是否被收录的工具,而没有检测收录的是不是死链的工具。

自己理清了下思路,找办法找出了所有被收录的死链,并写下这篇文章。

不知道有没有更好的方法,大家可以告诉我,先分享给大家,如果有大神请忽视或者告诉我更好的方法,一起学习交流吧。

下面教程开始

先在百度找到xenu可以模拟爬虫爬取所有连接,我下载了个汉化版。

我们先用这个工具查询所有被收录的页面。

打开软件,填入简版百度site网站地址,之所以用简版是可以减少链接查询时间和内容。(请把xxx.bizcn换成你的网址)

baidu/s?ie=utf-8&tn=baidulocal&wd=site%3Axxx.bizcn

等待检测完成。

点击导出为制表符分隔的文件。

导出的文件,我们可以看到格式是:网址+空格+状态码

那么写一个正则,把需要的网址提取出来就行,比如baidu下的404页面就是

/http:\/\/baidu(.*?)\s404/i

(以baidu开头,\s代表空格,404,/i代表匹配大小写)

不会正则怎么办?

为了方便大家,我把文件作了修改,大家只要把head改成标致性开头,state改成状态码就行,file改成导出的文件路径就行。

head怎么改,举个例子,

你的网站是baidu/abc,那么你就写baidu/

你的网站是abc.baidu.com/abc,那么你就写abc.baidu.com/

把正则写入php,在php环境下运行get.php。那么结果就出来了。

这时你只需要全选,复制到一个txt文件,上传到网站空间,再到百度站长平台死链提交填入文件路径就行就可以。

我们知道,思路是通过爬取找出所有被收录的链接,然后按条件列出来而已。

这样的话,只要把开头输入的site网址改一下,也可以查询其他搜索引擎的收录。

把正则改一下,可以获得如标题等其他内容。在此就不一一叙述。

原创:blog.vg欢迎来小博逛逛


免责声明:本文内容来自用户上传并发布,站点仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。请核实广告和内容真实性,谨慎使用。

相关文章

大型网站的导航应该怎么设计

网站导航的设计对于一般的网站来说比较简单,小网站的层次结构分明,网页数量少,就像企业网站的导航一样,只需要几个按钮就可以代替。而大型网站的导航设计就非常有挑战性。大型网站层次深,首页需要有很多页面入口...

逆袭大讲堂:SEO外链深度解析

导读:这是我在逆袭大讲堂的一次分享,非常感谢近千人的捧场,我是以诚相待了,你丫爱干不干。本次仅以“完整外链”为知识点的分享,不涉及其他内容。会议10点结束,又闲聊了1个多小时,...

百度现在为何会重视新站

众所周知百度一直是搜索引擎的龙头老大随着360与微软的合作搜狗与qq联盟百度还能继续成为搜索引擎的霸主吗? 2013百度在搜索引擎中占有的比例市场份额为67.21%;360市场份额为14.94%;...

百度又发声明:百度权重和pagerank是不存在的!

百度站长平台正式发出公告:百度pagerank、百度权值是不存在的!不要相信任何第三方机构或个人提供的所谓网站在百度的权重信息。可是Google放弃PR的情况下,除了第三方百度权重,还有什么值得参考的...

SEO黑帽的冰山一角

其实所谓的SEO黑帽,就是把白帽seo的优化手法,无限放大。经常有人加站王本人QQ问我一写seo黑帽的玩法。每次回答起来都很无语,没学会爬,就想跑,就想飞,只能说你太天真了! seo黑帽不是你想玩...

注意三大优化细节:让新站快速被百度收录

当站长们满怀希望地建设了一个新站时,第一步当然是希望新站能够迅速地度过百度的考察期,并被百度收录,因为只有被收录了才可以进行下一步的运营和优化工作。然而,可能由于站长的问题或者是百度算法问题,导致新站...