广告 各位艺友,全国性书画比赛剩余证书有需要请 微信:shuhuayishu 江苏省青年书画家协会招募会员啦,点击❉❉☛ 在线办理!

MauiBot

MauiBot 不同于其他爬虫,这个爬虫连网站都没有,UA只显示一个邮箱:”MauiBot (crawler.feedback+wc@gm ail.com)“。神奇的是这个看起来是个人爬虫,竟然遵循robots协议,算得上垃圾爬虫的一股清流。

好在遵循robots协议,可以用robots.txt协议进行禁止。

协议如下:

User-agent: MauiBot
Disallow: /


补充纠错
上一蜘蛛: DotBot
下一蜘蛛: SEMrushBot