Python+BI爬取3000条车厘子数据,发现了这些秘密

听说最近车厘子的价格突然猛跌 , 之前很多人梦寐以求的“车厘子自由” , 现在都能实现了 。 其实车厘子的价格下降 , 主要原因是进口货运成本的大大降低 , 为了找到车厘子最佳的购买方式 , 我决定用python+BI进行数据分析 。
因此我在淘宝上用python爬取了3000条数据 , 然后导入到了FineBI中进行可视化分析 , 最终制作出了下面这样一份可视化报告:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
下面我展示一下操作过程:
一、数据获取
【Python+BI爬取3000条车厘子数据,发现了这些秘密】用Python在淘宝上进行数据爬取是老生常谈的操作了 , 直接在淘宝上搜索“车厘子” , 在下面的商品页中可以看到 , 我们这次主要爬取的标签是“商品名称”、“价格”、“付款人数”、“店铺名称”、“发货地址”等:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
按下F12 , 调出后台查看源代码 , 找到不同的商品标签代码 , 比如价格是“priceg_priceg_price-highlight''>” , 付款人数是“deal-cnt”等:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
了解了网页的代码结构之后 , 下一步就可以在python里直接编写代码了 , 具体过程不详细介绍了 , 部分代码如下:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
爬取完数据之后导入到Excel里 , 然后在Excel里经过简单的数据清洗和处理 , 最终得到一份完成的数据表:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
二、数据分析
python虽然也能实现数据分析的功能 , 但是需要敲代码 , 学习成本和难度都比较大 , 不如直接利用专业的数据分析工具进行分析 , 比如常见的比如FineBI、Tableau、PowerBI等 。
下面我直接以FineBI为例 , FineBI是国内知名度比较高的本土数据分析工具 , 比起tableau这些国外工具最大的优点就是简单、灵活 , 只需要用鼠标拖拽就能实现各种分析操作 , 基本不需要写代码 , 对新手非常友好 。

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
其实FineBI本质上属于企业级的业务数据分析平台 , 除了数据分析之外 , 还能实现数据管理、数据平台搭建等功能 , 这里就不详细介绍了 , 大家感兴趣的话我下一篇再介绍 。
有了excel源表 , 首先我们将Excel导入到FineBI中:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
然后直接点击页面左上角的“创建仪表板” , 就可以进入到可视化后台:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
下一步进入到仪表板进行可视化操作 , 基本步骤是“选择图表类型——选择指标和维度——拖拽到指定坐标轴——美化细节” , 比如我想要创建一张可视化地图 , 首先要先选择图表类型为“区域地图” , 然后要选择指标和维度 , 但是原数据表里没有地理纬度 , 因此需要自己创建:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
最后 , 我们再拖拽到指定坐标轴 , 然后美化细节就可以完成一张可视化地图了:

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
以此类推 , 其他的可视化图表也能够按照我们自己的需求进行制作 , 这里不详细讲了 。
三、数据可视化
1、车厘子销量分布情况

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
可以看出来国内车厘子最大的销量来自上海 , 以及浙江、广东两省 , 西藏、青海、内蒙古等省份都没有销量 , 基本上来说沿海地区的销量要高于内陆 。
2、各省份销量情况

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
通过条形图就更明显了 , 上海的销量有20多万 , 几乎是浙江、广东、四川的总和 。
3、各城市的销量情况

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片
筛选出了销量前十的城市 , 以及每个城市平均的车厘子价格 , 可以看出来上海的销量和价格都是最高的 , 可以看出上海的购买力有多强了;
4、车厘子的价格区间情况

Python+BI爬取3000条车厘子数据,发现了这些秘密
文章图片