W3Cschool
恭喜您成為首批注冊(cè)用戶
獲得88經(jīng)驗(yàn)值獎(jiǎng)勵(lì)
考慮禁用重定向,除非您有興趣跟蹤它們。在進(jìn)行廣泛的爬行時(shí),保存重定向并在以后的爬行中重新訪問站點(diǎn)時(shí)解決重定向是很常見的。這也有助于保持每個(gè)爬網(wǎng)批處理的請(qǐng)求數(shù)不變,否則重定向循環(huán)可能會(huì)導(dǎo)致爬網(wǎng)程序在任何特定域上投入過多的資源。
要禁用重定向,請(qǐng)使用:
REDIRECT_ENABLED = False
Copyright©2021 w3cschool編程獅|閩ICP備15016281號(hào)-3|閩公網(wǎng)安備35020302033924號(hào)
違法和不良信息舉報(bào)電話:173-0602-2364|舉報(bào)郵箱:jubao@eeedong.com
掃描二維碼
下載編程獅App
編程獅公眾號(hào)
聯(lián)系方式:
更多建議: