最爽的是,PHP也支持 cURL 庫(kù)。本文將介紹 cURL 的一些高級(jí)特性,以及在PHP中如何運(yùn)用它。
為什么要用 cURL?
是的,我們可以通過(guò)其他辦法獲取網(wǎng)頁(yè)內(nèi)容。大多數(shù)時(shí)候,我因?yàn)橄胪祽校贾苯佑煤?jiǎn)單的PHP函數(shù):
$content = file_get_contents("//m.ythuaji.com.cn"); |
不過(guò),這種做法缺乏靈活性和有效的錯(cuò)誤處理。而且,你也不能用它完成一些高難度任務(wù)——比如處理coockies、驗(yàn)證、表單提交、文件上傳等等。
引用:
cURL 是一種功能強(qiáng)大的庫(kù),支持很多不同的協(xié)議、選項(xiàng),能提供 URL 請(qǐng)求相關(guān)的各種細(xì)節(jié)信息。
基本結(jié)構(gòu)
在學(xué)習(xí)更為復(fù)雜的功能之前,先來(lái)看一下在PHP中建立cURL請(qǐng)求的基本步驟:
-
初始化
-
設(shè)置變量
-
執(zhí)行并獲取結(jié)果
-
釋放cURL句柄
// 1. 初始化 |
第二步(也就是 curl_setopt() )最為重要,一切玄妙均在此。有一長(zhǎng)串cURL參數(shù)可供設(shè)置,它們能指定URL請(qǐng)求的各個(gè)細(xì)節(jié)。要一次性全部看完并理解可能比較困難,所以今天我們只試一下那些更常用也更有用的選項(xiàng)。
檢查錯(cuò)誤
你可以加一段檢查錯(cuò)誤的語(yǔ)句(雖然這并不是必需的):
// ... |
請(qǐng)注意,比較的時(shí)候我們用的是“=== FALSE”,而非“== FALSE”。因?yàn)槲覀兊脜^(qū)分 空輸出 和 布爾值FALSE,后者才是真正的錯(cuò)誤。
獲取信息
這是另一個(gè)可選的設(shè)置項(xiàng),能夠在cURL執(zhí)行后獲取這一請(qǐng)求的有關(guān)信息:
// ... |
返回的數(shù)組中包括了以下信息:
-
“url” //資源網(wǎng)絡(luò)地址
-
“content_type” //內(nèi)容編碼
-
“http_code” //HTTP狀態(tài)碼
-
“header_size” //header的大小
-
“request_size” //請(qǐng)求的大小
-
“filetime” //文件創(chuàng)建時(shí)間
-
“ssl_verify_result” //SSL驗(yàn)證結(jié)果
-
“redirect_count” //跳轉(zhuǎn)技術(shù)
-
“total_time” //總耗時(shí)
-
“namelookup_time” //DNS查詢耗時(shí)
-
“connect_time” //等待連接耗時(shí)
-
“pretransfer_time” //傳輸前準(zhǔn)備耗時(shí)
-
“size_upload” //上傳數(shù)據(jù)的大小
-
“size_download” //下載數(shù)據(jù)的大小
-
“speed_download” //下載速度
-
“speed_upload” //上傳速度
-
“download_content_length”//下載內(nèi)容的長(zhǎng)度
-
“upload_content_length” //上傳內(nèi)容的長(zhǎng)度
-
“starttransfer_time” //開(kāi)始傳輸?shù)臅r(shí)間
-
“redirect_time”//重定向耗時(shí)
基于瀏覽器的重定向
在第一個(gè)例子中,我們將提供一段用于偵測(cè)服務(wù)器是否有基于瀏覽器的重定向的代碼。例如,有些網(wǎng)站會(huì)根據(jù)是否是手機(jī)瀏覽器甚至用戶來(lái)自哪個(gè)國(guó)家來(lái)重定向網(wǎng)頁(yè)。
我們利用 CURLOPT_HTTPHEADER 選項(xiàng)來(lái)設(shè)定我們發(fā)送出的HTTP請(qǐng)求頭信息(http headers),包括user agent信息和默認(rèn)語(yǔ)言。然后我們來(lái)看看這些特定網(wǎng)站是否會(huì)把我們重定向到不同的URL。
// 測(cè)試用的URL |
首先,我們建立一組需要測(cè)試的URL,接著指定一組需要測(cè)試的瀏覽器信息。最后通過(guò)循環(huán)測(cè)試各種URL和瀏覽器匹配可能產(chǎn)生的情況。
因?yàn)槲覀冎付薱URL選項(xiàng),所以返回的輸出內(nèi)容則只包括HTTP頭信息(被存放于 $output 中)。利用一個(gè)簡(jiǎn)單的正則,我們檢查這個(gè)頭信息中是否包含了“Location:”字樣。
運(yùn)行這段代碼應(yīng)該會(huì)返回如下結(jié)果:
用POST方法發(fā)送數(shù)據(jù)
當(dāng)發(fā)起GET請(qǐng)求時(shí),數(shù)據(jù)可以通過(guò)“查詢字串”(query string)傳遞給一個(gè)URL。例如,在google中搜索時(shí),搜索關(guān)鍵即為URL的查詢字串的一部分:
http://www.google.com/search?q=nettuts
這種情況下你可能并不需要cURL來(lái)模擬。把這個(gè)URL丟給“file_get_contents()”就能得到相同結(jié)果。
不過(guò)有一些HTML表單是用POST方法提交的。這種表單提交時(shí),數(shù)據(jù)是通過(guò) HTTP請(qǐng)求體(request body) 發(fā)送,而不是查詢字串。例如,當(dāng)使用CodeIgniter論壇的表單,無(wú)論你輸入什么關(guān)鍵字,總是被POST到如下頁(yè)面:
http://codeigniter.com/forums/do_search/
你可以用PHP腳本來(lái)模擬這種URL請(qǐng)求。首先,新建一個(gè)可以接受并顯示POST數(shù)據(jù)的文件,我們給它命名為post_output.php:
print_r($_POST);
接下來(lái),寫一段PHP腳本來(lái)執(zhí)行cURL請(qǐng)求:
$url = "http://localhost/post_output.php"; |
執(zhí)行代碼后應(yīng)該會(huì)得到以下結(jié)果:
這段腳本發(fā)送一個(gè)POST請(qǐng)求給 post_output.php ,這個(gè)頁(yè)面 $_POST 變量并返回,我們利用cURL捕捉了這個(gè)輸出。
文件上傳
上傳文件和前面的POST十分相似。因?yàn)樗械奈募蟼鞅韱味际峭ㄟ^(guò)POST方法提交的。
首先新建一個(gè)接收文件的頁(yè)面,命名為 upload_output.php:
print_r($_FILES);
以下是真正執(zhí)行文件上傳任務(wù)的腳本:
$url = "http://localhost/upload_output.php"; |
如果你需要上傳一個(gè)文件,只需要把文件路徑像一個(gè)post變量一樣傳過(guò)去,不過(guò)記得在前面加上@符號(hào)。執(zhí)行這段腳本應(yīng)該會(huì)得到如下輸出:
cURL批處理(multi cURL)
cURL還有一個(gè)高級(jí)特性——批處理句柄(handle)。這一特性允許你同時(shí)或異步地打開(kāi)多個(gè)URL連接。
下面是來(lái)自來(lái)自php.net的示例代碼:
// 創(chuàng)建兩個(gè)cURL資源 |
這里要做的就是打開(kāi)多個(gè)cURL句柄并指派給一個(gè)批處理句柄。然后你就只需在一個(gè)while循環(huán)里等它執(zhí)行完畢。
這個(gè)示例中有兩個(gè)主要循環(huán)。第一個(gè) do-while 循環(huán)重復(fù)調(diào)用 curl_multi_exec() 。這個(gè)函數(shù)是無(wú)隔斷(non-blocking)的,但會(huì)盡可能少地執(zhí)行。它返回一個(gè)狀態(tài)值,只要這個(gè)值等于常量 CURLM_CALL_MULTI_PERFORM ,就代表還有一些刻不容緩的工作要做(例如,把對(duì)應(yīng)URL的http頭信息發(fā)送出去)。也就是說(shuō),我們需要不斷調(diào)用該函數(shù),直到返回值發(fā)生改變。
而接下來(lái)的 while 循環(huán),只在 $active 變量為 true 時(shí)繼續(xù)。這一變量之前作為第二個(gè)參數(shù)傳給了 curl_multi_exec() ,代表只要批處理句柄中是否還有活動(dòng)連接。接著,我們調(diào)用 curl_multi_select() ,在活動(dòng)連接(例如接受服務(wù)器響應(yīng))出現(xiàn)之前,它都是被“屏蔽”的。這個(gè)函數(shù)成功執(zhí)行后,我們又會(huì)進(jìn)入另一個(gè) do-while 循環(huán),繼續(xù)下一條URL。
還是來(lái)看一看怎么把這一功能用到實(shí)處吧:
WordPress 連接檢查器
想象一下你有一個(gè)文章數(shù)目龐大的博客,這些文章中包含了大量外部網(wǎng)站鏈接。一段時(shí)間之后,因?yàn)檫@樣那樣的原因,這些鏈接中相當(dāng)數(shù)量都失效了。要么是被和諧了,要么是整個(gè)站點(diǎn)都被功夫網(wǎng)了...
我們下面建立一個(gè)腳本,分析所有這些鏈接,找出打不開(kāi)或者404的網(wǎng)站/網(wǎng)頁(yè),并生成一個(gè)報(bào)告。
請(qǐng)注意,以下并不是一個(gè)真正可用的WordPress插件,僅僅是一段獨(dú)立功能的腳本而已,僅供演示,謝謝。
好,開(kāi)始吧。首先,從數(shù)據(jù)庫(kù)中讀取所有這些鏈接:
// CONFIG |
我們首先配置好數(shù)據(jù)庫(kù),一系列要排除的域名($excluded_domains),以及最大并發(fā)連接數(shù)($max_connections)。然后,連接數(shù)據(jù)庫(kù),獲取文章和包含的鏈接,把它們收集到一個(gè)數(shù)組中($url_list)。
下面的代碼有點(diǎn)復(fù)雜了,因此我將一小步一小步地詳細(xì)解釋:
// 1. 批處理器 |
下面解釋一下以上代碼。列表的序號(hào)對(duì)應(yīng)著代碼注釋中的順序數(shù)字。
-
新建一個(gè)批處理器。Created a multi handle.
-
稍后我們將創(chuàng)建一個(gè)把URL加入批處理器的函數(shù) add_url_to_multi_handle() 。每當(dāng)這個(gè)函數(shù)被調(diào)用,就有一個(gè)新url被加入批處理器。一開(kāi)始,我們給批處理器添加了10個(gè)URL(這一數(shù)字由 $max_connections 所決定)。
-
運(yùn)行 curl_multi_exec() 進(jìn)行初始化工作是必須的,只要它返回 CURLM_CALL_MULTI_PERFORM 就還有事情要做。這么做主要是為了創(chuàng)建連接,它不會(huì)等待完整的URL響應(yīng)。
-
只要批處理中還有活動(dòng)連接主循環(huán)就會(huì)一直持續(xù)。
-
curl_multi_select() 會(huì)一直等待,直到某個(gè)URL查詢產(chǎn)生活動(dòng)連接。
-
cURL的活兒又來(lái)了,主要是獲取響應(yīng)數(shù)據(jù)。
-
檢查各種信息。當(dāng)一個(gè)URL請(qǐng)求完成時(shí),會(huì)返回一個(gè)數(shù)組。
-
在返回的數(shù)組中有一個(gè) cURL 句柄。我們利用其獲取單個(gè)cURL請(qǐng)求的相應(yīng)信息。
-
如果這是一個(gè)死鏈或者請(qǐng)求超時(shí),不會(huì)返回http狀態(tài)碼。
-
如果這個(gè)頁(yè)面找不到了,會(huì)返回404狀態(tài)碼。
-
其他情況我們都認(rèn)為這個(gè)鏈接是可用的(當(dāng)然,你也可以再檢查一下500錯(cuò)誤之類...)。
-
從該批次移除這個(gè)cURL句柄,因?yàn)樗呀?jīng)沒(méi)有利用價(jià)值了,關(guān)了它!
-
很好,現(xiàn)在可以另外加一個(gè)URL進(jìn)來(lái)了。再一次地,初始化工作又開(kāi)始進(jìn)行...
-
嗯,該干的都干了。關(guān)閉批處理器,生成報(bào)告。
-
回過(guò)頭來(lái)看給批處理器添加新URL的函數(shù)。這個(gè)函數(shù)每調(diào)用一次,靜態(tài)變量 $index 就遞增一次,這樣我們才能知道還剩多少URL沒(méi)處理。
我把這個(gè)腳本在我的博客上跑了一遍(測(cè)試需要,有一些錯(cuò)誤鏈接是故意加上的),結(jié)果如下:
<img border="0" src="http://files.jb51.net/upload/201106/20110602225008534.png" /> |
共檢查約40個(gè)URL,只耗費(fèi)兩秒不到。當(dāng)需要檢查更加大量的URL時(shí),其省心省力的效果可想而知!如果你同時(shí)打開(kāi)10個(gè)連接,還能再快上10倍!另外,你還可以利用cURL批處理的無(wú)隔斷特性來(lái)處理大量URL請(qǐng)求,而不會(huì)阻塞你的Web腳本。
另一些有用的cURL 選項(xiàng)
HTTP 認(rèn)證
如果某個(gè)URL請(qǐng)求需要基于 HTTP 的身份驗(yàn)證,你可以使用下面的代碼:
復(fù)制內(nèi)容到剪貼板代碼:
$url = "http://www.somesite.com/members/"; |
FTP 上傳
PHP 自帶有 FTP 類庫(kù), 但你也能用 cURL:
// 開(kāi)一個(gè)文件指針 |
翻墻術(shù)
你可以用代理發(fā)起cURL請(qǐng)求:
$ch = curl_init(); |
回調(diào)函數(shù)
可以在一個(gè)URL請(qǐng)求過(guò)程中,讓cURL調(diào)用某指定的回調(diào)函數(shù)。例如,在內(nèi)容或者響應(yīng)下載的過(guò)程中立刻開(kāi)始利用數(shù)據(jù),而不用等到完全下載完。
$ch = curl_init(); |
這個(gè)回調(diào)函數(shù)必須返回字串的長(zhǎng)度,不然此功能將無(wú)法正常使用。
在URL響應(yīng)接收的過(guò)程中,只要收到一個(gè)數(shù)據(jù)包,這個(gè)函數(shù)就會(huì)被調(diào)用。
小結(jié)
今天我們一起學(xué)習(xí)了cURL庫(kù)的強(qiáng)大功能和靈活的擴(kuò)展性。希望你喜歡。下一次要發(fā)起URL請(qǐng)求時(shí),考慮下cURL吧!
原文:基于PHP的cURL快速入門
英文原文:http://net.tutsplus.com/tutorial%20...%20for-mastering-curl/
原文作者:Burak Guzel