崔庆才老师爬虫的学习笔记。

一、爬取实战

1、准备工作

请确保已经安装好requests库，使用的编辑器是PyCharm。

2、抓取分析

(1)抓取前分析抓取对象：打开今日头条首页https://www.toutiao.com/

(2)右上角输入“街拍”，搜索进入街拍。

(3)这时打开开发者工具，查看所有的网络请求。首先，打开第一个网络请求，这个请求的URL就是当前的链接http://www.toutiao.com/search/?keyword=街拍，打开Preview选项卡查看Response Body。如果页面中的内容是根据第一个请求得到的结果渲染出来的，那么第一个请求的源代码中必然会包含页面结果中的文字。

(4)实际没有结果中的文字，可以初步判断这些内容是由Ajax加载，然后用JavaScript渲染出来的。接下来，我们可以切换到XHR过滤选项卡，查看一下有没有Ajax请求。不出所料，此处出现了一个比较常规的Ajax请求，看看它的结果是否包含了页面中的相关数据。

(5)点击data字段展开，发现这里有许多条数据。点击第一条展开，可以发现有一个title字段，它的值正好就是页面中第一条数据的标题。再检查一下其他数据，也正好是一一对应的。

(6)我们的目的是要抓取其中的美图，这里一组图就对应前面data字段中的一条数据。每条数据还有一个image_detail字段，它是列表形式，这其中就包含了组图的所有图片列表,因此，我们只需要将列表中的url字段提取出来并下载下来就好了。每一组图都建立一个文件夹，文件夹的名称就为组图的标题。

(7)接下来，就可以直接用Python来模拟这个Ajax请求，然后提取出相关美图链接并下载。但是在这之前，我们还需要分析一下URL的规律。切换回Headers选项卡，观察一下它的请求URL和Headers信息。

(8)可以看到，这是一个GET请求，请求URL的参数有offset、format、keyword、autoload、count和cur_tab。我们需要找出这些参数的规律，因为这样才可以方便地用程序构造出来。

(9)接下来，可以滑动页面，多加载一些新结果。在加载的同时可以发现，Network中又出现了许多Ajax请求，这里观察一下后续链接的参数，发现变化的参数只有offset，其他参数都没有变化，而且第二次请求的offset值为20，第三次为40，第四次为60，所以可以发现规律，这个offset值就是偏移量，进而可以推断出count参数就是一次性获取的数据条数。因此，我们可以用offset参数来控制数据分页。这样一来，我们就可以通过接口批量获取数据了，然后将数据解析，将图片下载下来即可。

PS：崔老师教程的第(6)步中查找的字段image_detail，实际上没有发现，这里使用image_list代替。

3、实战演练

import requests
import os
from urllib.parse import urlencode
from hashlib import md5
from multiprocessing.pool import Pool

#加载单个Ajax请求的结果。其中唯一变化的参数就是offset。
def get_page(offset):
    params = {
        'autoload':'true',
        'count':'20',
        'cur_tab':'1',
        'format':'json',
        'keyword':'街拍',
        'offset':offset
    }
    url = 'http://www.toutiao.com/search_content/?'+ urlencode(params) #urlencode()方法构造请求的GET参数
    try:
        response = requests.get(url)
        if response.status_code == 200:
            return response.json() # 返回json格式数据
    except requests.ConnectionError:
        print('请求索引页出错')
        return None

#提取每条数据的image_list字段中的每一张图片链接，将图片链接和图片所属的标题一并返回，此时可以构造一个生成器。    
def get_images(json):
    if json.get('data'): #json中data存在
        for item in json.get('data'):
            title = item.get('title')
            if item.get('image_list'): #item中image_list存在
                images = item.get('image_list')
                for image in images:
                    yield{ #构造生成器
                        'image':'http:'+ image['url'],
                        'title':title

'''
保存图片，其中item就是前面get_images()方法返回的一个字典。
首先根据item的title来创建文件夹。
然后请求这个图片链接，获取图片的二进制数据，以二进制的形式写入文件。
图片的名称可以使用其内容的MD5值，这样可以去除重复。                    
'''
def save_image(item):
    if not os.path.exists(item.get('title')): #判断路径不存在
        os.mkdir(item.get('title')) #用title创建文件夹
    
    try:
        response = requests.get(item.get('image')) #请求图片地址
        if response.status_code == 200:
            file_path = '{0}/{1}.{2}'.format(item.get('title'),md5(response.content).hexdigest(),'jpg') #定义图片路径，图片命名用图片内容MD5值16进制表示
            if not os.path.exists(file_path): #判断路径不存在
                with open(file_path,'wb') as f: 
                    f.write(response.content) #写入二进制文件
            else:
                print('Already Downloaded', file_path)
    except requests.ConnectionError:
        print('Failed to Save Image')
    
                    
def main(offset):
    json = get_page(offset)
    for item in get_images(json):
        print(item)
        save_image(item)
        
group_start = 1
group_end = 5
    
if __name__ == '__main__':
    pool = Pool()
    groups = ([i*20 for i in range(group_start,group_end+1)]) #构造一个offset数组
    pool.map(main,groups) #多进程进程池，调用其map()方法实现多进程下载
    pool.close()
    pool.join()