Goutte——一个简单的PHP网页抓取库
2024-12-20 03:33:21作者:昌雅子Ethen
Goutte 是一个用于 PHP 的网页抓取和网页爬虫库。它提供了一个良好的 API,用于爬取网站并从 HTML/XML 响应中提取数据。
1. 安装指南
Goutte 依赖于 PHP 7.1 或更高版本。
在您的 composer.json 文件中添加 fabpot/goutte 作为必需依赖项:
composer require fabpot/goutte
2. 项目的使用说明
创建一个 Goutte 客户端实例(它继承自 Symfony\Component\BrowserKit\HttpBrowser):
use Goutte\Client;
$client = new Client();
使用 request() 方法发送请求:
// 访问 symfony.com 网站
$crawler = $client->request('GET', 'https://www.symfony.com/blog/');
该方法返回一个 Crawler 对象(Symfony\Component\DomCrawler\Crawler)。
要使用自己的 HTTP 设置,您可以创建并传递一个 HttpClient 实例给 Goutte。例如,添加一个 60 秒的请求超时:
use Goutte\Client;
use Symfony\Component\HttpClient\HttpClient;
$client = new Client(HttpClient::create(['timeout' => 60]));
点击链接:
// 点击 "Security Advisories" 链接
<link> = $crawler->selectLink('Security Advisories')->link();
$crawler = $client->click($link);
提取数据:
// 获取该分类下的最新文章并显示标题
$crawler->filter('h2 > a')->each(function ($node) {
print $node->text()."\n";
});
提交表单:
$crawler = $client->request('GET', 'https://github.com/');
$crawler = $client->click($crawler->selectLink('Sign in')->link());
$form = $crawler->selectButton('Sign in')->form();
$crawler = $client->submit($form, ['login' => 'fabpot', 'password' => 'xxxxxx']);
$crawler->filter('.flash-error')->each(function ($node) {
print $node->text()."\n";
});
3. 项目API使用文档
Goutte 的 API 使用非常简单,主要包括以下几个部分:
Client类:用于创建客户端实例并发送请求。Crawler类:用于从 HTML/XML 响应中提取数据。HttpClient类:用于设置 HTTP 请求的各种参数。
更多关于这些类的使用,请参考官方文档。
4. 项目安装方式
项目的安装方式已在 "安装指南" 部分说明。您只需通过 Composer 添加依赖项即可。
composer require fabpot/goutte
以上就是关于 Goutte 的技术文档,希望对您有所帮助。
登录后查看全文
热门项目推荐
相关项目推荐
GLM-5智谱 AI 正式发布 GLM-5,旨在应对复杂系统工程和长时域智能体任务。Jinja00
GLM-5-w4a8GLM-5-w4a8基于混合专家架构,专为复杂系统工程与长周期智能体任务设计。支持单/多节点部署,适配Atlas 800T A3,采用w4a8量化技术,结合vLLM推理优化,高效平衡性能与精度,助力智能应用开发Jinja00
jiuwenclawJiuwenClaw 是一款基于openJiuwen开发的智能AI Agent,它能够将大语言模型的强大能力,通过你日常使用的各类通讯应用,直接延伸至你的指尖。Python0203- QQwen3.5-397B-A17BQwen3.5 实现了重大飞跃,整合了多模态学习、架构效率、强化学习规模以及全球可访问性等方面的突破性进展,旨在为开发者和企业赋予前所未有的能力与效率。Jinja00
AtomGit城市坐标计划AtomGit 城市坐标计划开启!让开源有坐标,让城市有星火。致力于与城市合伙人共同构建并长期运营一个健康、活跃的本地开发者生态。01
awesome-zig一个关于 Zig 优秀库及资源的协作列表。Makefile00
项目优选
收起
deepin linux kernel
C
27
12
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
606
4.05 K
🔥LeetCode solutions in any programming language | 多种编程语言实现 LeetCode、《剑指 Offer(第 2 版)》、《程序员面试金典(第 6 版)》题解
Java
69
21
暂无简介
Dart
848
205
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.47 K
829
Nop Platform 2.0是基于可逆计算理论实现的采用面向语言编程范式的新一代低代码开发平台,包含基于全新原理从零开始研发的GraphQL引擎、ORM引擎、工作流引擎、报表引擎、规则引擎、批处理引引擎等完整设计。nop-entropy是它的后端部分,采用java语言实现,可选择集成Spring框架或者Quarkus框架。中小企业可以免费商用
Java
12
1
喝着茶写代码!最易用的自托管一站式代码托管平台,包含Git托管,代码审查,团队协作,软件包和CI/CD。
Go
24
0
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
923
772
🎉 基于Spring Boot、Spring Cloud & Alibaba、Vue3 & Vite、Element Plus的分布式前后端分离微服务架构权限管理系统
Vue
235
152
昇腾LLM分布式训练框架
Python
131
157