天涯论坛

 找回密码
 立即注册
搜索
查看: 78|回复: 5

怎么样识别百度蜘蛛

[复制链接]

3109

主题

176

回帖

9909万

积分

论坛元老

Rank: 8Rank: 8

积分
99098697
发表于 2024-8-25 19:43:55 | 显示全部楼层 |阅读模式

百度蜘蛛针对站长来讲可谓上宾,可是咱们曾经遇到站长这般提问:咱们怎样判断疯狂抓咱们网站内容的蜘蛛是不是百度的?其实站长能够经过DNS反查IP的方式判断某只spider是不是来自百度搜索引擎。按照平台区别验证办法区别,如linux/windows/os三种平台下的验证办法分别如下:

1、在linux平台下,您能够运用host ip命令反解ip来判断是不是来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

2、在windows平台IBM OS/2平台下,您可以运用nslookup ip命令反解ip来 判断是不是来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是不是来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

3、 在mac os平台下,您能够运用dig 命令反解ip来 判断是不是来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是不是来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。





上一篇:百度站长平台运用教程:robots检测
下一篇:网络爬虫的基本原理是什么?
回复

使用道具 举报

1

主题

988

回帖

-3

积分

限制会员

积分
-3
发表于 2024-9-6 22:12:54 | 显示全部楼层
请问、你好、求解、谁知道等。
回复

使用道具 举报

2997

主题

3万

回帖

9910万

积分

论坛元老

Rank: 8Rank: 8

积分
99109192
发表于 2024-10-7 07:34:37 | 显示全部楼层
请问、你好、求解、谁知道等。
回复

使用道具 举报

3090

主题

3万

回帖

9909万

积分

论坛元老

Rank: 8Rank: 8

积分
99098768
发表于 2024-10-12 06:08:51 | 显示全部楼层
可以发布外链的网站 http://www.fok120.com/
回复

使用道具 举报

2997

主题

3万

回帖

9910万

积分

论坛元老

Rank: 8Rank: 8

积分
99109192
发表于 2024-10-13 09:22:27 | 显示全部楼层
你说得对,我们一起加油,未来可期。
回复

使用道具 举报

3063

主题

3万

回帖

9913万

积分

论坛元老

Rank: 8Rank: 8

积分
99139046
发表于 2024-11-2 05:39:38 | 显示全部楼层
你的话语真是温暖如春,让我心生感激。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

站点统计|Archiver|手机版|小黑屋|天涯论坛 ( 非经营性网站 )|网站地图

GMT+8, 2024-11-23 13:05 , Processed in 0.106820 second(s), 21 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.