这几天在帮一些同学处理问题的时候,突然发现这些同学是使用file_get_contents()函数来采集页面内容的,貌似都没有curl的概念亦或是对这种工具特别不敏感, 本文我来给大家详细介绍下curl的简单的使用方法,下文我将会给大家详细介绍curl的高级应用, 好,废
这几天在帮一些同学处理问题的时候,突然发现这些同学是使用file_get_contents()函数来采集页面内容的,貌似都没有curl的概念亦或是对这种工具特别不敏感,
本文我来给大家详细介绍下curl的简单的使用方法,下文我将会给大家详细介绍curl的高级应用,
好,废话不多说,我们先来认识下什么是curl,可能还有很多同学没有听说过这个工具,我先来给大家简单介绍下什么是curl:
curl可以使用url的语法模拟浏览器来传输数据,
因为它是模拟浏览器,因此它同样支持多种协议,
ftp, ftps, http, https, gopher, telnet, dict, file 以及 ldap等协议都可以很好的支持,包括一些:
https认证,http post方法,http put方法,ftp上传,keyberos认证,http上传,代理服务器,cookies,用户名/密码认证,
下载文件断点续传,上传文件断点续传,http代理服务器管道,甚至它还支持ipv6,scoket5代理服务器,通过http代理服务器上传文件
到ftp服务器等等。
这就是我们为什么要使用curl的原因!
使用curl完成简单的请求主要分为以下四步:
1.初始化,创建一个新curl资源
2.设置url和相应的选项
3.抓取url并把它传递给浏览器
4.关闭curl资源,并且释放系统资源
我们来采集一个页面,通常情况下,我们会使用file_get_contents()函数来获取:
像这样:
这样我们会发现,我们没有办法有效地进行错误处理,更重要的是我们没有办法完成一些高难度的任务:
如:处理cookies,验证,表单提交,文件上传等等。
好,现在我们来用代码完成上述curl的四步:
上述四步中,其中第二步最为关键,可以设置一些高级选项:
例如上例中的curlopt_url和curlopt_header,分别代表“需要获取的url地址”和“启用时会将头文件的信息作为数据流输出”,这些只是冰山一角,我们还可以设置很多选项:
选项 可选value值 备注
curlopt_autoreferer 当根据location:重定向时,自动设置header中的referer:信息。
curlopt_binarytransfer 在启用curlopt_returntransfer的时候,返回原生的(raw)输出。
curlopt_cookiesession 启用时curl会仅仅传递一个session cookie,忽略其他的cookie,默认状况下curl会将所有的cookie返回给服务端。session cookie是指那些用来判断服务器端的session是否有效而存在的cookie。
curlopt_crlf 启用时将unix的换行符转换成回车换行符。
curlopt_dns_use_global_cache 启用时会启用一个全局的dns缓存,此项为线程安全的,并且默认启用。
curlopt_failonerror 显示http状态码,默认行为是忽略编号小于等于400的http信息。
curlopt_filetime 启用时会尝试修改远程文档中的信息。结果信息会通过curl_getinfo()函数的curlinfo_filetime选项返回。 curl_getinfo().
curlopt_followlocation 启用时会将服务器服务器返回的location: 放在header中递归的返回给服务器,使用curlopt_maxredirs可以限定递归返回的数量。
curlopt_forbid_reuse 在完成交互以后强迫断开连接,不能重用。
curlopt_fresh_connect 强制获取一个新的连接,替代缓存中的连接。
curlopt_ftp_use_eprt 启用时当ftp下载时,使用eprt (或 lprt)命令。设置为false时禁用eprt和lprt,使用port命令 only.
curlopt_ftp_use_epsv 启用时,在ftp传输过程中回复到pasv模式前首先尝试epsv命令。设置为false时禁用epsv命令。
curlopt_ftpappend 启用时追加写入文件而不是覆盖它。
curlopt_ftpascii curlopt_transfertext的别名。
curlopt_ftplistonly 启用时只列出ftp目录的名字。
curlopt_header 启用时会将头文件的信息作为数据流输出。
curlinfo_header_out 启用时追踪句柄的请求字符串。 从 php 5.1.3 开始可用。curlinfo_前缀是故意的(intentional)。
curlopt_httpget 启用时会设置http的method为get,因为get是默认是,所以只在被修改的情况下使用。
curlopt_httpproxytunnel 启用时会通过http代理来传输。
curlopt_mute 启用时将curl函数中所有修改过的参数恢复默认值。
curlopt_netrc 在连接建立以后,访问~/.netrc文件获取用户名和密码信息连接远程站点。
curlopt_nobody 启用时将不对html中的body部分进行输出。
curlopt_noprogress
启用时关闭curl传输的进度条,此项的默认设置为启用。
note:
php自动地设置这个选项为true,这个选项仅仅应当在以调试为目的时被改变。
curlopt_nosignal 启用时忽略所有的curl传递给php进行的信号。在sapi多线程传输时此项被默认启用。 curl 7.10时被加入。
curlopt_post 启用时会发送一个常规的post请求,类型为:application/x-www-form-urlencoded,就像表单提交的一样。
curlopt_put 启用时允许http发送文件,必须同时设置curlopt_infile和curlopt_infilesize。
curlopt_returntransfer 将curl_exec()获取的信息以文件流的形式返回,而不是直接输出。
curlopt_ssl_verifypeer 禁用后curl将终止从服务端进行验证。使用curlopt_cainfo选项设置证书使用curlopt_capath选项设置证书目录 如果curlopt_ssl_verifypeer(默认值为2)被启用,curlopt_ssl_verifyhost需要被设置成true否则设置为false。 自curl 7.10开始默认为true。从curl 7.10开始默认绑定安装。
curlopt_transfertext 启用后对ftp传输使用ascii模式。对于ldap,它检索纯文本信息而非html。在windows系统上,系统不会把stdout设置成binary模式。
curlopt_unrestricted_auth 在使用curlopt_followlocation产生的header中的多个locations中持续追加用户名和密码信息,即使域名已发生改变。
curlopt_upload 启用后允许文件上传。
curlopt_verbose 启用时会汇报所有的信息,存放在stderr或指定的curlopt_stderr中。
对于下面的这些option的可选参数,value应该被设置一个integer类型的值:
选项 可选value值 备注
curlopt_buffersize 每次获取的数据中读入缓存的大小,但是不保证这个值每次都会被填满。 在curl 7.10中被加入。
curlopt_closepolicy 不是curlclosepolicy_least_recently_used就是curlclosepolicy_oldest,还存在另外三个curlclosepolicy_,但是curl暂时还不支持。
curlopt_connecttimeout 在发起连接前等待的时间,如果设置为0,则无限等待。
curlopt_connecttimeout_ms 尝试连接等待的时间,以毫秒为单位。如果设置为0,则无限等待。 在curl 7.16.2中被加入。从php 5.2.3开始可用。
curlopt_dns_cache_timeout 设置在内存中保存dns信息的时间,默认为120秒。
curlopt_ftpsslauth ftp验证方式:curlftpauth_ssl (首先尝试ssl),curlftpauth_tls (首先尝试tls)或curlftpauth_default (让curl自动决定)。 在curl 7.12.2中被加入。
curlopt_http_version curl_http_version_none (默认值,让curl自己判断使用哪个版本),curl_http_version_1_0 (强制使用 http/1.0)或curl_http_version_1_1 (强制使用 http/1.1)。
curlopt_httpauth
使用的http验证方法,可选的值有:curlauth_basic、curlauth_digest、curlauth_gssnegotiate、curlauth_ntlm、curlauth_any和curlauth_anysafe。 可以使用|位域(或)操作符分隔多个值,curl让服务器选择一个支持最好的值。
curlauth_any等价于curlauth_basic | curlauth_digest | curlauth_gssnegotiate | curlauth_ntlm. curlauth_anysafe等价于curlauth_digest | curlauth_gssnegotiate | curlauth_ntlm.
curlopt_infilesize 设定上传文件的大小限制,字节(byte)为单位。
curlopt_low_speed_limit 当传输速度小于curlopt_low_speed_limit时(bytes/sec),php会根据curlopt_low_speed_time来判断是否因太慢而取消传输。
curlopt_low_speed_time 当传输速度小于curlopt_low_speed_limit时(bytes/sec),php会根据curlopt_low_speed_time来判断是否因太慢而取消传输。
curlopt_maxconnects 允许的最大连接数量,超过是会通过curlopt_closepolicy决定应该停止哪些连接。
curlopt_maxredirs 指定最多的http重定向的数量,这个选项是和curlopt_followlocation一起使用的。
curlopt_port 用来指定连接端口。(可选项)
curlopt_protocols
curlproto_*的位域指。如果被启用,位域值会限定libcurl在传输过程中有哪些可使用的协议。这将允许你在编译libcurl时支持众多协议,但是限制只是用它们中被允许使用的一个子集。默认libcurl将会使用全部它支持的协议。参见curlopt_redir_protocols. 可用的协议选项为:curlproto_http、curlproto_https、curlproto_ftp、curlproto_ftps、curlproto_scp、curlproto_sftp、curlproto_telnet、curlproto_ldap、curlproto_ldaps、curlproto_dict、curlproto_file、curlproto_tftp、curlproto_all 在curl 7.19.4中被加入。
curlopt_proxyauth http代理连接的验证方式。使用在curlopt_httpauth中的位域标志来设置相应选项。对于代理验证只有curlauth_basic和curlauth_ntlm当前被支持。 在curl 7.10.7中被加入。
curlopt_proxyport 代理服务器的端口。端口也可以在curlopt_proxy中进行设置。
curlopt_proxytype 不是curlproxy_http (默认值) 就是curlproxy_socks5。 在curl 7.10中被加入。
curlopt_redir_protocols curlproto_*中的位域值。如果被启用,位域值将会限制传输线程在curlopt_followlocation开启时跟随某个重定向时可使用的协议。这将使你对重定向时限制传输线程使用被允许的协议子集默认libcurl将会允许除file和scp之外的全部协议。这个和7.19.4预发布版本种无条件地跟随所有支持的协议有一些不同。关于协议常量,请参照curlopt_protocols。 在curl 7.19.4中被加入。
curlopt_resume_from 在恢复传输时传递一个字节偏移量(用来断点续传)。
curlopt_ssl_verifyhost 1 检查服务器ssl证书中是否存在一个公用名(common name)。译者注:公用名(common name)一般来讲就是填写你将要申请ssl证书的域名 (domain)或子域名(sub domain)。2 检查公用名是否存在,并且是否与提供的主机名匹配。
curlopt_sslversion 使用的ssl版本(2 或 3)。默认情况下php会自己检测这个值,尽管有些情况下需要手动地进行设置。
curlopt_timecondition 如果在curlopt_timevalue指定的某个时间以后被编辑过,则使用curl_timecond_ifmodsince返回页面,如果没有被修改过,并且curlopt_header为true,则返回一个304 not modified的header, curlopt_header为false,则使用curl_timecond_ifunmodsince,默认值为curl_timecond_ifunmodsince。
curlopt_timeout 设置curl允许执行的最长秒数。
curlopt_timeout_ms 设置curl允许执行的最长毫秒数。 在curl 7.16.2中被加入。从php 5.2.3起可使用。
curlopt_timevalue 设置一个curlopt_timecondition使用的时间戳,在默认状态下使用的是curl_timecond_ifmodsince。
对于下面的这些option的可选参数,value应该被设置一个string类型的值:
选项 可选value值 备注
curlopt_cainfo 一个保存着1个或多个用来让服务端验证的证书的文件名。这个参数仅仅在和curlopt_ssl_verifypeer一起使用时才有意义。 .
curlopt_capath 一个保存着多个ca证书的目录。这个选项是和curlopt_ssl_verifypeer一起使用的。
curlopt_cookie 设定http请求中cookie: 部分的内容。多个cookie用分号分隔,分号后带一个空格(例如, fruit=apple; colour=red)。
curlopt_cookiefile 包含cookie数据的文件名,cookie文件的格式可以是netscape格式,或者只是纯http头部信息存入文件。
curlopt_cookiejar 连接结束后保存cookie信息的文件。
curlopt_customrequest
使用一个自定义的请求信息来代替get或head作为http请求。这对于执行delete 或者其他更隐蔽的http请求。有效值如get,post,connect等等。也就是说,不要在这里输入整个http请求。例如输入get /index.html http/1.0 是不正确的。
note: 在确定服务器支持这个自定义请求的方法前不要使用。
curlopt_egdsocket 类似curlopt_random_file,除了一个entropy gathering daemon套接字。
curlopt_encoding http请求头中accept-encoding: 的值。支持的编码有identity,deflate和gzip。如果为空字符串,请求头会发送所有支持的编码类型。 在curl 7.10中被加入。
curlopt_ftpport 这个值将被用来获取供ftppost指令所需要的ip地址。post指令告诉远程服务器连接到我们指定的ip地址。这个字符串可以是纯文本的ip地址、主机名、一个网络接口名(unix下)或者只是一个'-'来使用默认的ip地址。
curlopt_interface 网络发送接口名,可以是一个接口名、ip地址或者是一个主机名。
curlopt_krb4level krb4 (kerberos 4) 安全级别。下面的任何值都是有效的(从低到高的顺序):clear、safe、confidential、private.。如果字符串和这些都不匹配,将使用private。这个选项设置为null时将禁用krb4 安全认证。目前krb4 安全认证只能用于ftp传输。
curlopt_postfields 全部数据使用http协议中的post操作来发送。要发送文件,在文件名前面加上@前缀并使用完整路径。这个参数可以通过urlencoded后的字符串类似'para1=val1¶2=val2&...'或使用一个以字段名为键值,字段数据为值的数组。如果value是一个数组,content-type头将会被设置成multipart/form-data。
curlopt_proxy http代理通道。
curlopt_proxyuserpwd 一个用来连接到代理的[username]:[password]格式的字符串。
curlopt_random_file 一个被用来生成ssl随机数种子的文件名。
curlopt_range 以x-y的形式,其中x和y都是可选项获取数据的范围,以字节计。http传输线程也支持几个这样的重复项中间用逗号分隔如x-y,n-m。
curlopt_referer 在http请求头中referer: 的内容。
curlopt_ssl_cipher_list 一个ssl的加密算法列表。例如rc4-sha和tlsv1都是可用的加密列表。
curlopt_sslcert 一个包含pem格式证书的文件名。
curlopt_sslcertpasswd 使用curlopt_sslcert证书需要的密码。
curlopt_sslcerttype 证书的类型。支持的格式有pem (默认值), der和eng。 在curl 7.9.3中被加入。
curlopt_sslengine 用来在curlopt_sslkey中指定的ssl私钥的加密引擎变量。
curlopt_sslengine_default 用来做非对称加密操作的变量。
curlopt_sslkey 包含ssl私钥的文件名。
curlopt_sslkeypasswd
在curlopt_sslkey中指定了的ssl私钥的密码。
note: 由于这个选项包含了敏感的密码信息,记得保证这个php脚本的安全。
curlopt_sslkeytype curlopt_sslkey中规定的私钥的加密类型,支持的密钥类型为pem(默认值)、der和eng。
curlopt_url 需要获取的url地址,也可以在curl_init()函数中设置。
curlopt_useragent 在http请求中包含一个user-agent: 头的字符串。
curlopt_userpwd 传递一个连接中需要的用户名和密码,格式为:[username]:[password]。
对于下面的这些option的可选参数,value应该被设置一个数组:
对于下面的这些option的可选参数,value应该被设置一个流资源 (例如使用fopen()):
对于下面的这些option的可选参数,value应该被设置为一个回调函数名:
选项 可选value值
curlopt_headerfunction 设置一个回调函数,这个函数有两个参数,第一个是curl的资源句柄,第二个是输出的header数据。header数据的输出必须依赖这个函数,返回已写入的数据大小。
curlopt_passwdfunction 设置一个回调函数,有三个参数,第一个是curl的资源句柄,第二个是一个密码提示符,第三个参数是密码长度允许的最大值。返回密码的值。
curlopt_progressfunction 设置一个回调函数,有三个参数,第一个是curl的资源句柄,第二个是一个文件描述符资源,第三个是长度。返回包含的数据。
curlopt_readfunction 拥有两个参数的回调函数,第一个是参数是会话句柄,第二是http响应头信息的字符串。使用此函数,将自行处理返回的数据。返回值为数据大小,以字节计。返回0代表eof信号。
curlopt_writefunction 拥有两个参数的回调函数,第一个是参数是会话句柄,第二是http响应头信息的字符串。使用此回调函数,将自行处理响应头信息。响应头信息是整个字符串。设置返回值为精确的已写入字符串长度。发生错误时传输线程终止。
看到了吧,只要在第二个函数之内设置这些选项就可以完成相应的功能,curl的功能是灰常强大滴,大家可以尝试一下哦!
例如,我们只想把获取到的内容输入到文件,而不是直接输出给浏览器,我们就可以使用curlopt_returntransfer选项!
这样在curl执行的时候,就会把页面的内容输出到文件当中,我们就可以完成采集等功能啦!
效率方面,curl的原理是模拟浏览器的操作,它的效率要比file_get_contents()高出四倍以上,试想一下,我们
要采集一个信息量特别庞大的站,运行效率的差别可想而知!
不单单是效率上,稳定性上来说,curl也远比file_get_contents()函数要好很多!
这就是强大的curl,下文将给大家详细介绍它的高级应用,我们可以模拟浏览器的post传值,甚至上传!