Python爬取网页中的图片（搜狗图片）详解

脚本专栏 2024/10/3 佚名

2 0 1

神剑山庄资源网 Design By www.hcban.com

前言

最近几天，研究了一下一直很好奇的爬虫算法。这里写一下最近几天的点点心得。下面进入正文：

你可能需要的工作环境：

　　Python 3.6官网下载

本地下载

我们这里以sogou作为爬取的对象。

首先我们进入搜狗图片http://pic.sogou.com/，进入壁纸分类（当然只是个例子Q_Q），因为如果需要爬取某网站资料，那么就要初步的了解它…

进去后就是这个啦，然后F12进入开发人员选项，笔者用的是Chrome。

右键图片检查

发现我们需要的图片src是在img标签下的，于是先试着用 Python 的 requests提取该组件，进而获取img的src然后使用 urllib.request.urlretrieve逐个下载图片，从而达到批量获取资料的目的，思路好了，下面应该告诉程序要爬取的url为http://pic.sogou.com/pics/recommend"htmlcode">

import requests
import urllib
from bs4 import BeautifulSoup
res = requests.get('http://pic.sogou.com/pics/recommend"text-align: center">
发现输出内容并不包含我们要的图片元素，而是只剖析到logo的img，这显然不是我们想要的。也就是说需要的图片资料不在url  即 http://pic.sogou.com/pics/recommend"text-align: center">
发现，有点接近我们需要的元素了，点开all_items 发现下面是0 1 2 3...一个一个的貌似是图片元素。试着打开一个url。发现真的是图片的地址。找到目标之后。点击XHR下的Headers
得到第二行
Request URL:
http://pic.sogou.com/pics/channel/getAllRecomPicByTag.jsp"htmlcode">

pip install requests


笔者在这里也是边调试边写，这里把最终的代码贴出来：


import requests
import json
import urllib

def getSogouImag(category,length,path):
 n = length
 cate = category
 imgs = requests.get('http://pic.sogou.com/pics/channel/getAllRecomPicByTag.jsp"text-align: center"> 
 
至此，关于该爬虫程序的编程过程叙述完毕。整体来看，找到需要爬取元素所在url，是爬虫诸多环节中的关键
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流，谢谢大家对的支持。

python抓取网页图片,python3爬取网页图片,python抓取网页数据

标签：

python抓取网页图片,python3爬取网页图片,python抓取网页数据

神剑山庄资源网 Design By www.hcban.com

神剑山庄资源网 免责声明：本站文章均来自网站采集或用户投稿，网站不提供任何软件下载或自行开发的软件！如有用户或公司发现本站内容信息存在侵权行为，请邮件告知！ 858582#qq.com

神剑山庄资源网 Design By www.hcban.com

评论“Python爬取网页中的图片（搜狗图片）详解”

暂无Python爬取网页中的图片（搜狗图片）详解的评论...

P70系列延期，华为新旗舰将在下月发布

3月20日消息，近期博主@数码闲聊站透露，原定三月份发布的华为新旗舰P70系列延期发布，预计4月份上市。

而博主@定焦数码爆料，华为的P70系列在定位上已经超过了Mate60，成为了重要的旗舰系列之一。它肩负着重返影像领域顶尖的使命。那么这次P70会带来哪些令人惊艳的创新呢？
根据目前爆料的消息来看，华为P70系列将推出三个版本，其中P70和P70 Pro采用了三角形的摄像头模组设计，而P70 Art则采用了与上一代P60 Art相似的不规则形状设计。这样的外观是否好看见仁见智，但辨识度绝对拉满。

更新日志

2024年10月03日

Python爬取网页中的图片（搜狗图片）详解

python抓取网页图片,python3爬取网页图片,python抓取网页数据

解决uWSGI的编码问题详解

Python中动态创建类实例的方法

评论“Python爬取网页中的图片（搜狗图片）详解”

P70系列延期，华为新旗舰将在下月发布

更新日志

友情链接