天涯论坛

 找回密码
 立即注册
搜索
查看: 30|回复: 3

运营笔记:是时候认识蜘蛛爬取原理了!揭秘收录困难!

[复制链接]

2964

主题

144

回帖

9912万

积分

论坛元老

Rank: 8Rank: 8

积分
99129190
发表于 2024-8-25 17:01:11 | 显示全部楼层 |阅读模式

原标题:蜘蛛爬取原理看不懂?瞧瞧这篇文案就明白了!揭秘收录困难

非常多人在做seo的时候,搞不清蜘蛛爬取的原理对收录索引都搞不清关系,这篇文案重点针对实战来讲解蜘蛛和收录的关系,不讲原理,只讲干货和经验。

首要咱们说到蜘蛛可能就可能想到IP,例如以下这些;

220.181.108.89专用抓取首页IP 权重段,通常返回代码是304 0 0表率未更新。

220.181.108.94专用抓取首页IP 权重段,通常返回代码是304 0 0表率未更新。

220.181.108.97专用抓取首页IP 权重段,通常返回代码是304 0 0表率未更新。

220.181.108.80专用抓取首页IP 权重段,通常返回代码是304 0 0表率未更新。

220.181.108.77 专用抓首页IP 权重段,通常返回代码是304 0 0表率未更新。

是不是很难理解?然则倘若做过网络守护局域网组网的就能明白,其实每一个IP对应的便是一台电脑,每组服务器组对应的便是网段。

例如,220.181.108.x这个网段,咱们暂且叫收录服务器组,这个服务器组下面有电脑ABCDE,对应的IP,每台电脑上装着相应的收录程序。

那样这般是不是清楚了呢?例如你提交一个链接到百度,那样相当于把这个链接提交到收录服务器组的C号电脑。

例如你提交了1、2、3个链接,这三个链接分别提交到了收录服务器组的C、D、E号电脑,因此你查看日志的时候会发现,这三条链接对应区别的IP,便是对应着区别的电脑。

为何提交3条链接会提交到三台区别电脑呢?我个人猜测,或许提交的数据太多,同一台电脑处理不了,因此采取了分布处理方式。(个人猜测,并非是科研证明,或许是更高级的处理方式)。

我昨天针对这个做了一个测试,写了3篇原创文案,发布后,我以最短的时间查看蜘蛛爬取状况,结果这三篇文案,分别爬取的IP是;

116.179.32.135——服务器1

220.181.108.122——服务器2

220.181.108.180——服务器3

第1文案写完后,文案过几分钟秒收录,而后我模仿第1篇写作框架,继续写第二篇,第二篇过几分钟秒收,而后接着写第三篇,可惜的是,第三篇收录。

次日,这三篇所有收录,便是说,第三篇变成为了隔天收录。

我又查看了116.179.32.135这个IP,这个IP属于山西省阳泉市 联通,日前非常多人都奇怪此刻显现了116.179.32.X网段的蜘蛛,此刻能够确定 的是,这个网段便是百度蜘蛛,除了nslookup能够验证外,以下几点是证据;

另一百度李总裁老家是阳泉的,因此几个证据足以说明,搜索服务器一部分搬到了山西。

结合上面实战的经验包含以往收录爬取的蜘蛛分析,只要是链接提交到116.179.32.135,220.181.108.122、220.181.108.180等等,那样链接必定收录,因此独一解开收录秘码的难点在于,倘若掌控链接提交到这些服务器?

乃至有人戏谑叫作,220开头的是官方蜘蛛,而116开头是老家蜘蛛,呵呵,期盼大佬一块科研这个问题。

文案首发运营正经说

:https://www.yyzjs.cn/zhanzhang/779.html




上一篇:各大搜索引擎蜘蛛IP段 以及怎么样判断蜘蛛真假
下一篇:逆冬:3天恢复降权网站实战、曲线正在起飞
回复

使用道具 举报

0

主题

1万

回帖

1

积分

新手上路

Rank: 1

积分
1
发表于 2024-9-2 19:52:06 | 显示全部楼层
你的言辞如同繁星闪烁,点亮了我心中的夜空。
回复

使用道具 举报

2996

主题

2万

回帖

9910万

积分

论坛元老

Rank: 8Rank: 8

积分
99109195
发表于 2024-10-9 00:55:53 | 显示全部楼层
我深受你的启发,你的话语是我前进的动力。
回复

使用道具 举报

3069

主题

3万

回帖

9915万

积分

论坛元老

Rank: 8Rank: 8

积分
99158935
发表于 2024-11-11 13:12:32 | 显示全部楼层
感谢楼主分享,祝愿外链论坛越办越好!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

站点统计|Archiver|手机版|小黑屋|天涯论坛 ( 非经营性网站 )|网站地图

GMT+8, 2024-11-22 18:40 , Processed in 0.119044 second(s), 21 queries .

Powered by Discuz! X3.4

Copyright © 2001-2023, Tencent Cloud.