我爬取分析美团网,原来北京上海Top10美食是它们

开发 前端 数据分析
工作需求需要采集OTA网站的美食数据,某个城市的饭店类型情况等。对于老饕来说这不算个事。。。然而最后的结果是中午晚饭都没有时间去吃了。。。情况如下

数据爬取三步曲之前方有坑

工作需求需要采集OTA网站的美食数据,某个城市的饭店类型情况等。对于老饕来说这不算个事。。。然而***的结果是中午晚饭都没有时间去吃了。。。情况如下

我爬取分析美团网,原来北京上海Top10美食是它们

Chrome F12直接定位get请求,response的结果是json,研究下get的参数发现有个奇怪的参数token?!

我爬取分析美团网,原来北京上海Top10美食是它们

先不管他直接修改参数翻页请求数据!!!

我爬取分析美团网,原来北京上海Top10美食是它们

数据爬取三步曲之开始填坑

问题来了!纠结半天后发现这个token是有时效的,而且是js生成的。。。这也不是问题,get请求行不通我们还有selenuim。悲催的是美团真的是大厂直接封杀selenuim

我爬取分析美团网,原来北京上海Top10美食是它们

数据爬取三步曲之将坑填平

又回到原点。没办法只能从token下手了经过一番查找发现一个js文件

我爬取分析美团网,原来北京上海Top10美食是它们

嗯。。。好吧继续,因为之前没有用python直接调用js,百度一番发现pyexecjs、PyV8等都可以。悲催的是我的python2.7安装pyexecjs后一直不能正常使用,PyV8没有问题。只是PyV8安装过程太心酸

废话不多说直接上代码:

我爬取分析美团网,原来北京上海Top10美食是它们

我把js文件存放到本地python直接使用PyV8直接解析执行token的js事件

我爬取分析美团网,原来北京上海Top10美食是它们

程序自动生成token,迫不及待接续解析json数据入库

 

我爬取分析美团网,原来北京上海Top10美食是它们

我爬取分析美团网,原来北京上海Top10美食是它们

测试完成先抓取北京和上海数据进行数据可视化

在统计师发现美团还是对数据经行了限制每个类型的餐饮场所最多显示每页32个一共32页。也就是32*32=1024个 

我爬取分析美团网,原来北京上海Top10美食是它们

数据可视化

北京、上海美食各类型数量占比情况

我爬取分析美团网,原来北京上海Top10美食是它们

我爬取分析美团网,原来北京上海Top10美食是它们

看以看出川湘、烧烤烤肉和西餐在两地的数量占比都是最多的。撸串、麻小果然不分南北。

[[252335]]

数据中有每家店的品论数量我们可以从中分析出每一类美食的总评论情况来展示受欢迎情况,因展示效果我们只展示top10

北京、上海市top10美食情况

我爬取分析美团网,原来北京上海Top10美食是它们

 

我爬取分析美团网,原来北京上海Top10美食是它们
北京和上海两地火锅荣登榜首哈

下面我们对比下两地同类美食的平均价格的情况:

我爬取分析美团网,原来北京上海Top10美食是它们

魔都消费水平已经超过帝都啦。。。哈哈哈

以上只是个人简单分析不代表权威发布仅供娱乐,欢迎各界朋友交流学习。

好了我的泡面好了。。。嗯真香!!!

作者:Kying,西二旗程序单身汪一枚。从事智慧旅游、数据挖掘。新晋python 小白,希望与志同道合者一起煮酒论英雄,数据森麟特邀作者。

责任编辑:未丽燕 来源: Python中文社区
相关推荐

2020-03-02 00:52:04

OWASP软件安全漏洞

2009-06-16 10:38:56

2018-11-14 10:36:47

Python 开发编程语言

2024-03-14 13:46:41

深度学习人工智能

2016-04-01 14:38:18

亚马逊苹果谷歌

2022-03-11 23:31:31

网络安全数据泄露人工智能

2021-10-20 11:56:35

勒索软件攻击数据泄露

2023-05-17 16:02:00

CSS工具代码生成器

2009-04-15 08:40:04

2023-03-31 12:05:32

2020-08-04 22:21:54

漏洞扫描工具恶意软件

2016-12-07 11:18:58

Python爬虫网站

2016-11-27 20:43:26

云计算迭代

2022-03-03 16:45:02

美团述职反馈

2013-03-28 10:53:11

2011-04-21 15:39:26

HTML

2019-11-29 18:03:27

数学R语言算法

2023-05-08 07:52:29

JSXReactHooks

2023-02-17 11:27:10

2023-02-22 17:54:29

点赞
收藏

51CTO技术栈公众号