使用phpQuery轻松采集网页内容

2011年07月20日 13:32helloweba.com 作者:月光光 标签:jQuery  PHP 

phpQuery是一个基于PHP的服务端开源项目,它可以让PHP开发人员轻松处理DOM文档内容,比如获取某新闻网站的头条信息。更有意思的是,它采用了jQuery的思想,你可以像使用jQuery一样处理页面内容,获取你想要的页面信息。

采集头条

先看一实例,现在我要采集新浪网国内新闻的头条,代码如下:

include 'phpQuery/phpQuery.php';
phpQuery::newDocumentFile('http://news.sina.com.cn/china');
echo pq(".blkTop h1:eq(0)")->html();

简单的三行代码,就可以获取头条内容。首先在程序中包含phpQuery.php核心程序,然后调用读取目标网页,最后输出对应标签下的内容。

pq()是一个功能强大的方法,跟jQuery的$()如出一辙,jQuery的选择器基本上都能使用在phpQuery上,只要把“.”变成“->”。如上例中,pq(".blkTop h1:eq(0)")抓取了页面class属性为blkTop的DIV元素,并找到该DIV内部的第一个h1标签,然后用html()方法获取h1标签里的内容(带html标签),也就是我们要获取的头条信息,如果使用text()方法,则只获取头条的文本内容。当然要使用好phpQuery,关键是要找对文档中对应内容的节点。

采集文章列表

下面再来看一个例子,获取helloweba.net网站的blog列表,请看代码:

include 'phpQuery/phpQuery.php';
phpQuery::newDocumentFile('http://www.helloweba.net/blog.html');
$artlist = pq(".blog_li");
foreach($artlist as $li){
   echo pq($li)->find('h2')->html()."
"; }

通过循环列表中的DIV,找出文章标题并输出,就是这么简单。

解析XML文档

假设现在有一个这样的test.xml文档:

<?xml version="1.0" encoding="utf-8"?>
<root>
  <contact>
     <name>张三</name>
	 <age>22</age>
  </contact>
  <contact>
     <name>王五</name>
	 <age>18</age>
  </contact>
</root>

现在我要获取名字为张三的联系人的年龄,代码如下:

include 'phpQuery/phpQuery.php';
phpQuery::newDocumentFile('test.xml');
echo pq('contact > age:eq(0)');

结果输出:22

像jQuery一样,精准查找文档节点,输出节点下的内容,解析一个XML文档就是这么简单。现在你不必为采集网站内容而使用那些头疼的正则算法、内容替换等繁琐的代码了,有了phpQuery,一切就变得轻松多了。

项目官网地址:http://code.google.com/p/phpquery/

声明:本文为原创文章,helloweba.net和作者拥有版权,如需转载,请注明来源于helloweba.net并保留原文链接:https://www.helloweba.net/php/133.html

35条评论

  • 当然管用,我建议你可以去把那个请求的地址找到,都不用采集了,直接使用那个地址多爽。

  • PHPSpider支持 css、xpath、正则 的全智能多任务PHP爬虫框架,
    PHPSpider官网:https://doc . phpspider . org

  • 这种加载都是js ajax请求的,可以在js里面找到请求接口直接请求,直接获得json数据,不需要再分析页面

  • QueryList基于phpQuery的强大的PHP采集工具,
    QueryList官网:https://querylist.cc/

  • 很好用呢

  • www.neihangif***

  • www.neihangif***t已经用上了,用来采集娱乐新闻和图片等等

  • 持需要登录的页面

  • 不错,我的功艺网http://www.kungyi.com已经用上了,采集艺术的类的文章很方便。

  • www.28vf.com采用页面采集

  • 没有效。

  • 老大,这个采集针对懒加载的页面有效吗

    很多页面用懒加载,实际HTML还没显示呢

  • 加我***发给你 554012449

  • 我想问一下,你的phpquery在哪里下载的啊,我那个就打不开啊,下载地址

  • 很不错 www.icsn.cc 已经用上了

  • 是的哪,很不错,已经用在项目里了

  • 6到不行

  • 好棒的库.马上试试.

  • 牛啊

  • 好屌, www.webyang.net