资讯

精准传达 • 有效沟通

从品牌网站建设到网络营销策划,从策略到执行的一站式服务

如何python代码爬取美食网信息

这篇文章将为大家详细讲解有关如何python代码爬取美食网信息,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。

建网站原本是网站策划师、网络程序员、网页设计师等,应用各种网络程序开发技术和网页设计技术配合操作的协同工作。创新互联专业提供成都网站制作、成都网站建设、外贸营销网站建设,网页设计,网站制作(企业站、响应式网站建设、电商门户网站)等服务,从网站深度策划、搜索引擎友好度优化到用户体验的提升,我们力求做到极致!

数据爬取三步曲之前方有坑

工作需求需要采集OTA网站的美食数据,某个城市的饭店类型情况等。对于老饕来说这不算个事。。。然而最后的结果是中午晚饭都没有时间去吃了。。。情况如下

如何python代码爬取美食网信息

Chrome F12直接定位get请求,response的结果是json,研究下get的参数发现有个奇怪的参数token?!

如何python代码爬取美食网信息

先不管他直接修改参数翻页请求数据!!!

如何python代码爬取美食网信息

数据爬取三步曲之开始填坑

问题来了!纠结半天后发现这个token是有时效的,而且是js生成的。。。这也不是问题,get请求行不通我们还有selenuim。悲催的是美团真的是大厂直接封杀selenuim

如何python代码爬取美食网信息

数据爬取三步曲之将坑填平

又回到原点。没办法只能从token下手了经过一番查找发现一个js文件

如何python代码爬取美食网信息

嗯。。。好吧继续,因为之前没有用python直接调用js,百度一番发现pyexecjs、PyV8等都可以。悲催的是我的python2.7安装pyexecjs后一直不能正常使用,PyV8没有问题。只是PyV8安装过程太心酸

废话不多说直接上代码:

如何python代码爬取美食网信息

我把js文件存放到本地python直接使用PyV8直接解析执行token的js事件

如何python代码爬取美食网信息

程序自动生成token,迫不及待接续解析json数据入库

如何python代码爬取美食网信息

如何python代码爬取美食网信息

测试完成先抓取北京和上海数据进行数据可视化

在统计师发现美团还是对数据经行了限制每个类型的餐饮场所最多显示每页32个一共32页。也就是32*32=1024个

如何python代码爬取美食网信息

数据可视化

北京、上海美食各类型数量占比情况 

如何python代码爬取美食网信息

如何python代码爬取美食网信息

 

看以看出川湘、烧烤烤肉和西餐在两地的数量占比都是最多的。撸串、麻小果然不分南北。

如何python代码爬取美食网信息

 

数据中有每家店的品论数量我们可以从中分析出每一类美食的总评论情况来展示受欢迎情况,因展示效果我们只展示top10

北京、上海市top10美食情况

如何python代码爬取美食网信息

如何python代码爬取美食网信息

 

北京和上海两地火锅荣登榜首哈

下面我们对比下两地同类美食的平均价格的情况:

如何python代码爬取美食网信息

魔都消费水平已经超过帝都啦。。。哈哈哈

关于如何python代码爬取美食网信息就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。


分享题目:如何python代码爬取美食网信息
标题URL:http://www.cdkjz.cn/article/jgegcc.html
多年建站经验

多一份参考,总有益处

联系快上网,免费获得专属《策划方案》及报价

咨询相关问题或预约面谈,可以通过以下方式与我们联系

大客户专线   成都:13518219792   座机:028-86922220