加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 站长学院 > PHP教程 > 正文

php使用curl和正则表达式抓取网页数据示例

发布时间:2020-12-12 20:08:46 所属栏目:PHP教程 来源:网络整理
导读:利用curl和正则表达式做的一个针对磨铁中文网非vip章节的小说抓取器,支持输入小说ID下载小说。依赖项:curl可以简单的看下,里面用到了curl,正则表达式,ajax等技术,适合新手看看。在本地测试,必须保证联网并且确保php开启curl的mode SpiderTools.class.p

利用curl和正则表达式做的一个针对磨铁中文网非vip章节的小说抓取器,支持输入小说ID下载小说。 依赖项:curl 可以简单的看下,里面用到了curl,正则表达式,ajax等技术,适合新手看看。在本地测试,必须保证联网并且确保php开启curl的mode

SpiderTools.class.php

代码如下:
/"; } else{ //丧尸爆发之全家求生路_第一章 丧尸爆发  为吾友爱乐儿更新~_磨铁 $ru="/(.*)/"; } //设置选项,包括URL curl_setopt($ch,CURLOPT_URL,$url); curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);//不自动输出内容 curl_setopt($ch,CURLOPT_HEADER,0);//不返回头部信息 curl_setopt($ch,CURLOPT_CONNECTTIMEOUT_MS,0); //执行curl $output = curl_exec($ch); //错误提示 if(curl_exec($ch) === false){ die(curl_error($ch)); } // 检查是否有错误发生 if(curl_errno($ch)){ echo 'Curl error: ' . curl_error($ch); } //释放curl句柄 curl_close($ch); $arr=array(); preg_match_all($ru,$output,$arr); return $arr[1][0]; } ////////////////////////////////////////////////////////////////////////////////////////////////////////// /*传入文章ID 解析文章内容*/ ////////////////////////////////////////////////////////////////////////////////////////////////////////// public function getBookContextById($aid){ //开始解析文章 $ids=array(); $ids=explode("_",$aid); $titleId=trim($ids[0]); $aticleId=trim($ids[1]); $ch= curl_init(); $ru="/
/ui"; $url='http://www.motie.com/book/'.$aid; //正则表达式匹配

//设置选项,包括URL curl_setopt($ch,0); //执行curl $output = curl_exec($ch); //错误提示 if(curl_exec($ch) === false){ die(curl_error($ch)); } // 检查是否有错误发生 if(curl_errno($ch)){ echo 'Curl error: ' . curl_error($ch); } $arr=array(); $arr2=array(); preg_match_all($ru,$arr); curl_close($ch); #var_dump($arr); $s=$arr[0][0]; $s=substr($s,180); $arr2=explode("

////////////////////////////////////////////////////////////////////////////////////////////////////////// /*静态方法 @生成小说文件 可以直接调用 */ ////////////////////////////////////////////////////////////////////////////////////////////////////////// public static function createBookById($id){

if(!is_numeric($id)){

echo "
INIT BEGIN START WRITE!"; $st=new self(); $cons=$st->getBookContextById($id); $title=$st->getBookNameById($id); $cons=trim($cons); $t=explode(" ",$title); //构造目录 $dir=array(); $dir=explode("_",$t[0]); $wzdir=$dir[0];//书名称 作为目录名称 $wzchapter=$dir[1]; //第几章 //创建目录 $wzdir2=iconv("UTF-8","GBK",$wzdir);//目录编码 注意这里保留对$wzdir字符串的引用,用来构造文件名,不能用此处,防止二次编码 if(!file_exists($wzdir2)){ mkdir($wzdir2); //创建目录 } //构造文件名 $wztitle="./".$wzdir."/"."$t[0]".".txt"; //保证保存的文件名称不是乱码 $wztitle=iconv("UTF-8",$wztitle); $f=fopen($wztitle,"w+"); fwrite($f,$cons); echo "$wzdir ".$wzchapter."写入成功"; fclose($f);

}
else{
$ids=self::getBookIdsById($id);

//这里服务器可能会掉线,所以最好用session记录循环

for($i=$_SESSION["$id"."_fid"];$i<=count($ids);$_SESSION["$id"."_fid"]++,$i++){

self::createBookById($id."_".$ids[$_SESSION["$id"."_fid"]++]);//构造id

}

for($i=$_SESSION["$id"."_fid"];$i<=count($ids);$_SESSION["$id"."_fid"]++,$i++){

self::createBookById($id."_".$ids[$i]);//构造id
}

echo "


写入工作全部完成

";

echo $id."_".$ids[0]."
";

var_dump($ids);

}

} /* 获取小说的所有ID @param $id 文章ID @return array; */ public static function getBookIdsById($aid){ $ch= curl_init(); $url='http://www.motie.com/book/'.$aid."/chapter"; //注意这里的?可以获取最少匹配项 $ru='/[sS]*?

  • .*?/u';//正则表达式匹配 //设置选项,包括URL curl_setopt($ch,0); //执行curl $output = curl_exec($ch); // 检查是否有错误发生 if(curl_errno($ch)){ echo 'Curl error: ' . curl_error($ch); } //释放curl句柄 curl_close($ch); $arr=array(); preg_match_all($ru,$arr,PREG_PATTERN_ORDER); return $arr[1]; } } ?>
  • getinfo.php

    代码如下:
    请输入正确的文章ID
    "; } } ?>

    index.html

    代码如下:
    下载小说啦

    输入磨铁中文网你想看到的小说ID号就可以下载小说啦

    PS:关于正则,这里再为大家推荐2款本站的正则表达式在线工具供大家参考使用(包括正则生成、匹配、验证等功能):

    JavaScript正则表达式在线测试工具:

    正则表达式在线生成工具:

    (编辑:李大同)

    【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

      推荐文章
        热点阅读