【Python爬虫】403 Forbidden
·
状态码403 Forbidden代表客户端错误,指的是服务器端有能力处理该请求,但拒绝授权访问。
Python爬取数据时,有时会遇上403错误,通常的解决方法是在请求时的header中添加User-Agent,让服务器端认为该爬取的动作是客户端发起的。然而,并不是每一次都能达到预期的效果。
如遇添加了User-Agent,依旧无法解决403的错误问题。应从HTTP请求的分析,通过分析Request Header参数,是否有其他的参数需要添加,例如Referer参数,往往服务器以Header参数设置是否接受访问的校验。
示例代码如下:
headers = {
'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.116 Safari/537.36",
'Referer': "https://www.baidu.com",
……
}
request = urllib.request.Request(url, headers=headers)
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐


所有评论(0)