php curl模块的用法举例

发布时间:2021-01-14编辑:脚本学堂
本文介绍下,php中curl模块的用法,通过几个例子来学习下curl的使用,包括抓取网站信息、传递数据、伪造ip来路、curl多线程操作等。有需要的朋友参考下吧。

说明:
使用curl前确保php_curl扩展已经开启。

一、curl使用
例如:采集深圳智联招聘上PHP招聘的第一页信息
 

复制代码 代码示例:

<?php
$url='http://sou.zhaopin.com/jobs/searchresult.ashx?jl=%E6%B7%B1%E5%9C%B3&kw=php&sm=0&p=1';

//初始化
$ch = curl_init();
//设置选项,包括URL
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);//不自动输出内容
curl_setopt($ch, CURLOPT_HEADER, 0);//不返回头部信息
//执行curl
$output = curl_exec($ch);
//错误提示
if(curl_exec($ch) === false){
    die(curl_error($ch));
}
//释放curl句柄
curl_close($ch);

header('Content-type: text/html; charset=utf-8');
echo $output;

当然,必须对返回的数据使用<<正则表达式>>处理,找出想要的那一部分,然后根据需要把数据填充到网站中。

代码:
 

复制代码 代码示例:

<?php
//职位名称
preg_match_all('/<td class="Jobname">.*?<as*href="(.*?)"starget="_blank">(.*?)</a>/s', $output, $title);
$title[1];//链接
$title[2];//标题

//公司名称
preg_match_all('/<td class="Companyname">.*?<a href="(.*?)"starget="_blank">(.*?)</a>/s', $output, $company);
$company[1];//链接
$company[2];//名字

//工作地点
preg_match_all('/<td class="Companyaddress">s*(.*?)s*</td>/s', $output, $address);
$address[1];//地点

//发布日期
preg_match_all('/<td class="releasetime">s*(.*?)s*</td>/s', $output, $time);
$time[1];//时间

var_dump($time[1]);
 

二、常用功能
curl的核心是通过设置各种选项来达到各种功能,这里我们介绍几种常用的选项。

1.post数据
 

复制代码 代码示例:

$post=array(
'uid'=>'test',
'pwd'=>'curl123'
);

curl_setopt($ch, CURLOPT_POST, 1);//设置为POST方式
curl_setopt($ch, CURLOPT_POSTFIELDS, http_build_query($post));//POST数据

2.cookie
 

复制代码 代码示例:

$savefile=dirname(__FILE__).'save.txt';
$getfile=dirname(__FILE__).'get.txt';

//可以分开使用
curl_setopt($ch, CURLOPT_COOKIEJAR, $savefile); //保存 
curl_setopt($ch, CURLOPT_COOKIEFILE, $getfile); //读取

3.伪造ip、来路
 

复制代码 代码示例:
curl_setopt($ch, CURLOPT_HTTPHEADER, array('X-FORWARDED-FOR:8.8.8.8', 'CLIENT-IP:8.8.8.8'));//构造IP 
curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com");//构造来路 
curl_setopt选项大全,详见php手册:http://www.php.net/manual/zh/function.curl-setopt.php

三、多线程
官方示例
 

复制代码 代码示例:

<?php
// 创建一对cURL资源
$ch1 = curl_init();
$ch2 = curl_init();

// 设置URL和相应的选项
curl_setopt($ch1, CURLOPT_URL, "http://www.example.com/");
curl_setopt($ch1, CURLOPT_HEADER, 0);
curl_setopt($ch2, CURLOPT_URL, "http://www.php.net/");
curl_setopt($ch2, CURLOPT_HEADER, 0);

// 创建批处理cURL句柄
$mh = curl_multi_init();

// 增加2个句柄
curl_multi_add_handle($mh,$ch1);
curl_multi_add_handle($mh,$ch2);

$running=null;
// 执行批处理句柄
do {
    usleep(10000);
    curl_multi_exec($mh,$running);
} while ($running > 0);

// 关闭全部句柄
curl_multi_remove_handle($mh, $ch1);
curl_multi_remove_handle($mh, $ch2);
curl_multi_close($mh);