您好,欢迎访问一九零五行业门户网

这个有关问题有点难,curl抓取不到页面

这个问题有点难,curl抓取不到页面。
本帖最后由 xroha 于 2015-03-07 15:57:23 编辑 百度经验里的url,如:http://jingyan.baidu.com/article/e2284b2b24eeb2e2e6118dfd.html
直接看页面源代码,是有文章数据。
但是用curl .都无法正常获取文章内容。
这是为什么?已经伪造了ip,来路,cookie等,但还是抓取不到。
注意:在本地可以抓取,但是上传到服务器就不行了,
测试了三个服务器,sae,阿里云,商务中国的空间,都无法获取。
百度是通过什么防止抓取数据的?怎么破解?
以下是代码:
function fcontents( $url, $timeout = 5, $referer = ){
$t = parse_url($url);
$ch = curl_init();
$header = array (
'user-agent: mozilla/5.0 (windows nt 5.2) applewebkit/537.36 (khtml, like gecko) chrome/35.1.1916.153 safari/537.36','x-forwarded-for:154.135.25.15', 'client-ip:154.135.25.15'
);
$cookie_jar = dirname(__file__)./jy.cookie;
curl_setopt($ch, curlopt_url, $url);
curl_setopt($ch, curlopt_timeout, $timeout);
curl_setopt($ch, curlopt_returntransfer, 1);
curl_setopt($ch, curlopt_httpheader, $header);
curl_setopt($ch, curlopt_referer, http://$t[host]/); //构造来路
curl_setopt($ch, curlopt_cookiefile, $cookie_jar);
curl_setopt($ch, curlopt_cookiejar, $cookie_jar);
curl_setopt($ch, curlopt_header, 0);
$result = curl_exec($ch);
curl_close($ch);
return $result;
}

------解决思路----------------------
他们都支持 curl 吗?
------解决思路----------------------
百度感知到你的ip访问频率很可疑
要么就是有复杂的cookie验证流程
------解决思路----------------------
1.如果本地可以,服务器不行。程序是没有问题的。
2.sae,阿里云,商务中国的空间
这些都支持curl吗,有试试采集其他地址吗?
3.有可能这段时间这些服务器都采集百度,所以被屏蔽掉了。
其它类似信息

推荐信息