Python爬虫实战之爬淘宝商品并做数据分析

前言

是这样的，之前接了一个金主的单子，他想在淘宝开个小鱼零食的网店，想对目前这个市场上的商品做一些分析，本来手动去做统计和分析也是可以的，这些信息都是对外展示的，只是手动比较麻烦，所以想托我去帮个忙。

一、 项目要求：

具体的要求如下：

1.在淘宝搜索“小鱼零食”，想知道前10页搜索结果的所有商品的销量和金额，按照他划定好的价格区间来统计数量，给我划分了如下的一张价格区间表：

2.这10页搜索结果中，商家都是分布在全国的哪些位置？

3.这10页的商品下面，用户评论最多的是什么？

4.从这些搜索结果中，找出销量最多的10家店铺名字和店铺链接。

从这些要求来看，其实这些需求也不难实现，我们先来看一下项目的效果。

二、效果预览

获取到数据之后做了下分析，最终做成了柱状图，鼠标移动可以看出具体的商品数量。

在10~30元之间的商品最多，越往后越少，看来大多数的产品都是定位为低端市场。

然后我们再来看一下全国商家的分布情况：

可以看出，商家分布大多都是在沿海和长江中下游附近，其中以沿海地区最为密集。

然后再来看一下用户都在商品下面评论了一些什么：

字最大的就表示出现次数最多，口感味道、包装品质、商品分量和保质期是用户评价最多的几个方面，那么在产品包装的时候可以从这几个方面去做针对性阐述，解决大多数人比较关心的问题。

最后就是销量前10的店铺和链接了。

在拿到数据并做了分析之后，我也在想，如果这个东西是我来做的话，我能不能看出来什么东西？或许可以从价格上找到切入点，或许可以从产品地理位置打个差异化，又或许可以以用户为中心，由外而内地做营销。

越往深想，越觉得有门道，算了，对于小鱼零食这一块我是外行，不多想了。

三、爬虫源码

由于源码分了几个源文件，还是比较长的，所以这里就不跟大家一一讲解了，懂爬虫的人看几遍就看懂了，不懂爬虫的说再多也是云里雾里，等以后学会了爬虫再来看就懂了。

import csv
import os
import time
import wordcloud
from selenium import webdriver
from selenium.webdriver.common.by import By
def tongji():
    prices = []
    with open('前十页销量和金额.csv', 'r', encoding='utf-8', newline='') as f:
        fieldnames = ['价格', '销量', '店铺位置']
        reader = csv.DictReader(f, fieldnames=fieldnames)
        for index, i in enumerate(reader):
            if index != 0:
                price = float(i['价格'].replace('¥', ''))
                prices.append(price)
    DATAS = {'<10': 0, '10~30': 0, '30~50': 0,
             '50~70': 0, '70~90': 0, '90~110': 0,
             '110~130': 0, '130~150': 0, &

标签： r语言爬取淘宝数据