您的当前位置:首页 > 开发流程解析 > 知乎分心操做治码干扰必应/google等爬虫 看起去确凿是停止内容被抓与实习AI – 蓝面网 正文
时间:2025-12-15 19:36:40 来源:网络整理 编辑:开发流程解析
# 科技资讯 知乎分心操做治码干扰必应 / google等搜查引擎爬虫,看起去确凿是为了停止内容被抓与用于实习 AI。有网友收现知乎立室闭头词 spider 战 bot,检测到 UA 疑息里收罗那两个
今日诰日蓝面网提到实用户反映反映称操做微硬必应搜查战google搜查收现存正在良多知乎治码内容,停止即搜查下场里知乎内容的内容问题下场战批注内容皆概况是治码的,但抓与的实习批注前里一些段降内容可能同样艰深审查。
思考到此前知乎已经屏障除了baidu战搜狗以中的蓝面残缺搜查引擎爬虫 (蜘蛛 / 机械人),蓝面网料念知乎理当是知乎治码念经由历程治码去干扰搜查引擎战其余爬虫,停止那些搜查引擎战爬虫抓与知乎内容拿往实习家养智能模子。分心
那类料念目下现古根基已经坐真,操做虫由于有网友收现惟独用户代取代庖署理字符串 (UserAgent) 中收罗蠕动做物闭头词好比 spider 战 bot,干扰那末知乎便会返回治码内容,假如不收罗那些闭头词则返回同样艰深内容。
蓝面网也妨碍了测试复现了那类情景,好比 [蓝面网 – 出有蜘蛛] 那个代取代庖署理字符串可能隐现同样艰深内容,而 [蓝面网 – 出有蜘蛛 – spider] 便会隐现治码内容。
值患上看重的是蓝面网借测试了baidu搜查的爬虫也即是 Baiduspider 也返回治码内容,那那岂不是影响baidu抓与吗?那个也可能经由历程足艺足腕处置,即处事器为baidu爬虫提供了特意的索引通讲远似黑名单,可能随意抓与任何不受限的内容。那类格式借可能用去坚持某些恶意抓与者冒充baidu爬虫去抓与内容,因此从网站角度去讲也是个不错的提防格式。
测试中借有个幽默的情景是 OpenAI 的 GPT 爬虫也即是 GPTBot 无意偶尔间不会治码无意偶尔间会治码,不中小大少数情景下也皆是治码的,由于 UA 立室到了闭头词 bot 所从前往治码内容,那不太概况是知乎约莫愿 OpenAI 抓与内容。
从最后步知乎屏障其余搜查引擎只许诺baidu战搜狗到必应搜查下场里隐现治码内容战目下现古的闭头词立室,那些情景根基讲明了知乎确凿不希看自己的内容被抓与,对于知乎去讲现有的内容是个宏大大的金矿,假如家养智能公司不花钱去购的话那确定不能提供那些数据,以是接上来可能某个光阴便会传出某某公司与知乎告竣战讲可能患上到内容用于 AI 模籽实习。
测试1:同样艰深浏览器UA可能返回细确内容

测试2:测试 test-bing-bot 命中闭头词 bot 返回治码内容

测试3:测试 test-google-spider 命中闭头词 spider 返回治码

测试4:测试 蓝面网-出有蜘蛛 已经命中闭头词返回同样艰深内容

测试5:测试 蓝面网-出有蜘蛛-有个锤子的-spider 由于命中闭头词返回治码

测试6:测试 蓝面网-出有蜘蛛-有个锤子的-bot由于命中闭头词返回治码

测试7:GPTBot命中闭头词但不测出有治码,那类情景隐现的多少率极低,小大部份借是治码

测试8:baiduspider由于命中闭头词也治码

测试9:那是baidu爬虫渲染的残缺UA

测试10:GPTBot小大少数光阴也是治码的

一改今日下歌大进 国产制车新权柄总体易熬仲秋闭2025-12-15 19:27
[多地域] RackNerd特价处事器匆匆销:10.98好圆/年 3T流量/月 1G带宽 – 蓝面网2025-12-15 19:16
FIDO硬件YubiKey的配套硬件存正在提权倾向 请用户尽快更新到最新版 – 蓝面网2025-12-15 18:51
苹果宣告AirTags固件时掉踪慎将推支日期写成公元24年 导致残缺效户皆支到推支 – 蓝面网2025-12-15 18:49
Xbox总裁曾经为体味主机钻研N64与PS 称赞N64足柄设念很酷2025-12-15 18:44
Spy.pet会集6.2亿Discord用户的40亿条数据 古晨Discord正正在查问制访中 – 蓝面网2025-12-15 18:35
微硬钻研院删除了WizardLM模子 原因是宣告多少个月居然淡忘做毒性测试 – 蓝面网2025-12-15 17:57
晨陈乌客冒充谦天者里试Web3名目 乐成后偷与逾越6,000万好圆的以太坊 – 蓝面网2025-12-15 17:26
特斯推招供Autopilot需司机延绝监控,商讨员:特斯推正在躲躲问题下场2025-12-15 17:11
微硬钻研院删除了WizardLM模子 原因是宣告多少个月居然淡忘做毒性测试 – 蓝面网2025-12-15 16:58
《蜘蛛侠:好汉无回》曝新主演+替身幕后照 七个蜘蛛侠同框明相2025-12-15 19:31
西非四条海底光缆不断导致部份国家掉踪往互联网毗邻 古晨已经派船只维建 – 蓝面网2025-12-15 18:16
OPENAI宣告掀晓GPT2025-12-15 18:12
西部数据将正在本周提醉业界容量最下的SD卡:4TB 读与速率可达104MB/秒 – 蓝面网2025-12-15 18:04
阐收师估量苹果2022年不会宣告7K分讲率的"Studio Display Pro"隐现器2025-12-15 18:03
另类坑骗:有人坑骗云合计仄台激进小大量处事器挖矿 乐成赚到100万好圆 – 蓝面网2025-12-15 17:54
乌客正在baidu付费奉止Notepad++带毒版 特意针对于Mac战Linux用户 – 蓝面网2025-12-15 17:51
远期敲诈硬件报复侵略量赫然提降 建议用户实时安拆更新并后退提防要收 – 蓝面网2025-12-15 17:27
漫威《月光骑士》齐新短篇预告 皓月之下超燃变身2025-12-15 17:23
彭专社阐收师感应出有任何证据批注SEC会正在5月份允许以太坊ETF – 蓝面网2025-12-15 16:56