Python爬取京东的商品分类与链接
前言 本文主要的知识点是使用Python的 如图所示。只是一个简单的哈,不是爬取里面的隐藏的东西。 示例代码 from bs4 import BeautifulSoup as bs import requests headers = { "host": "www.jd.com","User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML,like Gecko) Chrome/47.0.2526.80 Safari/537.36 Core/1.47.933.400 QQBrowser/9.4.8699.400","Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8" } session = requests.session() def get_url(): renspned = bs(session.get('http://www.jd.com/',headers = headers).text,'html.parser') for i in renspned.find("div",{"class": "dd-inner"}).find_all("a",{"target":"_blank"}): print(i.get_text(),':',i.get('href')) get_url() 运行这段代码以及达到了我们的目的。 我们来解读一下这段代码。 首先我们要访问到京东的首页。 然后通过 这个时候,我们就要定位元素,来获取我们需要的东西了。 在浏览器中通过 我们来看看下面这句代码: for i in renspned.find("div",{"target":"_blank"}) 这一行代码完全满足我们的需求,首先用 最后,我想打印出所有的商品分类以及对应的链接,于是,我使用了 总结 其实不是很难,主要是要用对方法。笔者因为是初学方法没有用对。花了差不多两天时间才搞定。这里也是告诉大家,可以使用 (编辑:李大同) 【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容! |