疑似豆包ai利用头条搜索引擎蜘蛛大量抓取网站图片 -澳门凯发

自从ai盛行以来,主机帮发现cdn流量消耗贼快,以前每月消耗cdn流量不到100g,现在几百g都顶不住,主机帮用百度云防护设置拦截了一大堆爬虫,几乎把一些恶意访问都拦截了个遍,但是cdn流量依然回不去之前的消耗量。

主机帮经过一段时间的观察发现,访问网站最频繁的是来自头条搜索的蜘蛛, 如果只是蜘蛛抓取网页也就算了,关键是头条的蜘蛛还抓取图片。

疑似豆包ai利用头条搜索引擎蜘蛛大量抓取网站图片插图

这就很不合理了,因为如果是搜索引擎蜘蛛是不需要抓取图片的,像百度蜘蛛就从来不抓取图片。

主机帮再结合网上最近流传很多ai不讲武德,利用搜索引擎爬虫来抓取网站内容,猜测可能是豆包ai,利用搜索引擎蜘蛛来抓取网站内容,而站长又不好直接把搜索引擎蜘蛛给拦截了,这些蜘蛛不仅抓取了网页连图片也一同抓取,直接导致网站cdn流量激增。

在ai时代 ,搜索引擎来的流量越来越少了,但是ai有时候也会给网站带来不错的流量,像主机帮网站就经常有来自豆包的流量,这些流量精准度比搜索引擎还高,所以对网站运营者来说,禁ai抓取不是一个好选择,但可以考虑禁止ai抓取图片,否则流量真的顶不住,这些ai抓取你的图片并不会给你带来实际的流量来源,只会不断消耗你的网站流量。

给ta打赏
共{{data.count}}人
人已打赏
0 条回复 a文章作者 m管理员
    暂无讨论,说说你的看法吧
  • 咨询电话
  • qq176363189
  • 速度网络服务商
  • sudu@yunjiasu.cc
  • suduwangluo
网站地图