file_get_contents()最直接但需allow_url_fopen开启且URL带协议头;cURL更可控,支持重定向、Header、证书等;路径拼接勿混用本地/远程;采集后须处理编码与XSS。

用 file_get_contents() 抓取远程 HTML 文件最直接
PHP 默认开启 allow_url_fopen 时,file_get_contents() 可直接读取 HTTP/HTTPS URL。它简单、无需额外扩展,适合轻量采集。
- 确保 php.ini 中
allow_url_fopen = On(很多云环境或 Docker 镜像默认关掉) - URL 必须带协议头,比如
"https://example.com/page.html",不能写成"//example.com/page.html" - 超时默认是
default_socket_timeout(通常 60 秒),卡住时会阻塞脚本,建议显式控制 - 返回值是原始字符串,不是 DOM 对象——后续解析需配合
DOMDocument或正则,别误以为能直接调$html->find()
if (ini_get('allow_url_fopen')) {
$html = @file_get_contents('https://httpbin.org/html');
if ($html === false) {
echo "抓取失败:可能网络不通、域名解析失败,或目标返回 4xx/5xx";
}
}
用 cURL 更可控,尤其要处理重定向、Header、证书或代理
当 file_get_contents() 不够用(比如目标强制跳转、需要携带 Cookie、校验 HTTPS 证书、走公司代理),cURL 是事实标准。它不依赖 allow_url_fopen,且错误可细粒度捕获。
-
CURLOPT_FOLLOWLOCATION默认关闭,遇到 301/302 不会自动跳,得手动开 - HTTPS 站点若用自签名证书或旧 CA,
CURLOPT_SSL_VERIFYPEER设为false才能通(仅测试用,生产禁用) - 某些网站会拒绝无
User-Agent的请求,加CURLOPT_USERAGENT能绕过基础反爬 - 用
curl_error($ch)和curl_getinfo($ch, CURLINFO_HTTP_CODE)区分是连接失败、超时,还是返回了 403/404
$ch = curl_init('https://httpbin.org/html');
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_FOLLOWLOCATION, true);
curl_setopt($ch, CURLOPT_USERAGENT, 'Mozilla/5.0 (X11; Linux x86_64) PHP-cURL');
$html = curl_exec($ch);
$http_code = curl_getinfo($ch, CURLINFO_HTTP_CODE);
if ($html === false || $http_code >= 400) {
echo "cURL 错误: " . curl_error($ch) . " | HTTP 状态: " . $http_code;
}
curl_close($ch);
远程文件路径拼接错误是高频翻车点
很多人把本地文件路径逻辑套到远程 URL 上,比如用 dirname(__FILE__) . '/remote.html' 拼出一个“路径”,再丢给 file_get_contents()——这只会尝试读服务器本地文件,根本不会发 HTTP 请求。
- 远程资源必须是完整 URL:
"http://"或"https://"开头,不能是相对路径或以/开头的绝对路径 - 动态拼 URL 时注意斜杠重复,比如
$base = "https://api.example.com"; $path = "/v1/data"; file_get_contents($base . $path)正确;但若$base末尾已有/,再拼/v1/data就变双斜杠,多数服务能容错,但部分 API 网关会 400 - URL 中含中文或空格?必须先
urlencode()路径段,或整个 URL 用rawurlencode()处理,否则请求直接 400
采集 HTML 后别直接 echo,小心 XSS 和编码乱码
抓回来的 HTML 如果未经处理就输出到浏览器,可能触发 XSS(比如目标页里藏了 ),而且如果源站用 GBK 编码而你用 UTF-8 输出,页面就全乱码。
立即学习“PHP免费学习笔记(深入)”;
- 用
mb_detect_encoding()+mb_convert_encoding()统一转成 UTF-8,再交给DOMDocument::loadHTML() - 输出前用
htmlspecialchars($html, ENT_QUOTES, 'UTF-8')转义,避免执行任意 HTML/JS - 若只是提取文本内容,优先用
DOMDocument解析,别用正则匹配——嵌套标签、换行、属性值含(.*?) >都会让正则崩 - 有些站点在 HTML 中用
澹版

