为什么同一URL在Windows上正常爬取而在Linux上返回403?
爬虫求助:同一url在windows上正常爬取,在linux上却返回403
问题描述:
如图所示,使用python脚本爬取新浪新闻的json格式异步加载新闻信息时,在windows系统上可以正常爬取和解析,但在linux系统上却报403错误。
代码如下:
import requests headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; U; PPC Mac OS X; en-US; rv:1.0.1) Gecko/20021104 Chimera/0.6'} url = 'https://feed.mix.sina.com.cn/api/roll/get?pageid=153&lid=2509&k=&num=50&page=1' resp = requests.get(url, headers=headers) print(resp.status_code)
经测试,使用curl命令也能访问该链接。
解决方案猜测:
有一种可能的原因是linux系统的ip存在问题。
以上就是为什么同一URL在Windows上正常爬取而在Linux上返回403?的详细内容,更多请关注其它相关文章!