php利用fopen实现简单的网页采集程序
这个采集程序是一个非常简单的程序了,个人认为不适合于大量数据采集了单页还是没有问题了,因为fopen函数对于远程文件操作与多线程时是非常的不理想的,这个只是一个作者写的觉得好玩合出来了,代码如下:
<?php
/**
* 根据URL采集网页内容
*
* @param string $url 链接地址
* @return string
*/
private function fetchbyurl($url) {
$handle = fopen($url, 'r');
$content = ";
while (!feof($handle)){
$content .= fgets($handle, 10000);
}
return $content;
//?$this->utf8_iconv($content):";
}
/*获取所有匹配的内容
* @param string $str 内容
* @param string $start 起始匹配
* @param string $end 中止匹配
* @return array
*/
private function utf8_iconv($content) {
return iconv('GBK', 'UTF-8', $content);
}
private function strCutAll($str, $start, $end) {
$content = explode($start, $str);
$matchs = array();
$sum = count($content);
for ($i = 1; $i < $sum; $i++) {
$tmp = explode($end, $content[$i]);
$matchs[] = $tmp[0];
unset($tmp);
}
return $matchs;
}
/*获取第一个匹配的内容
* @param string $str 内容
* @param string $start 起始匹配
* @param string $end 中止匹配
* @return string
*/
private function strCut($str, $start, $end) {
$content = strstr($str, $start);
$content = substr($content, strlen($start) , strpos($content, $end) - strlen($start));
return $content;
}
?>/*采集程序*/
header("content-Type: text/html; charset=utf-8");
//$nr = file_get_contents(‘/webback/php/php-yi-ju-hua-hou-men-zhuan’);
$nr = $this->fetchbyurl(‘/webback/php/php-yi-ju-hua-hou-men-zhuan’);
//推荐,还可以用curl dump($this->strCut($nr,’<div class="context">’,'<div class="betterrelated">’));
//得到内容。需要进一步过滤用(preg_match_all)
dump($this->strCutAll($nr,’<title>’,'</title>’));
得到标题本文地址:http://www.phprm.com/develop/fs5942.html
转载随意,但请附上文章地址:-)