如何高效爬取小红书数据:xhs工具的新手友好指南
2026-02-06 05:54:48作者:蔡怀权
xhs是一款基于小红书Web端的请求封装工具,专为需要高效获取小红书平台公开数据的开发者和数据分析师设计。它提供简洁易用的API接口,支持多种内容爬取场景,让即使没有复杂爬虫开发经验的用户也能轻松上手,快速搭建属于自己的数据采集系统。
📚 基础认知:3步完成环境准备
1. 安装工具(3种方式任选)
💡 新手推荐使用pip安装,简单快捷无需额外配置
# 方式1:PyPI稳定版(推荐)
pip install xhs
# 方式2:源码安装(获取最新功能)
git clone https://gitcode.com/gh_mirrors/xh/xhs
cd xhs && python setup.py install
# 方式3:开发模式(适合二次开发)
pip install -e .[dev]
2. 环境配置检查
⚠️ 请确保你的环境满足以下要求,避免出现兼容性问题
| 环境要求 | 版本限制 | 检测命令 |
|---|---|---|
| Python | ≥ 3.8 | python --version |
| pip | ≥ 20.0 | pip --version |
| 网络环境 | 可访问小红书 | ping www.xiaohongshu.com |
3. 基础目录认知
轻松掌握项目核心结构,3分钟了解关键文件作用:
xhs项目/
├── xhs/ # 核心代码目录(爬虫逻辑实现)
├── example/ # 示例代码库(含多种使用场景)
├── tests/ # 测试文件目录(确保功能稳定性)
├── docs/ # 详细文档说明(含API使用指南)
└── 配置文件区 # 项目环境与打包配置
🔍 核心解析:配置文件全攻略
setup.cfg配置技巧
作用解析:管理项目元数据和打包参数,控制安装行为的核心配置文件
[metadata]
name = xhs # 包名称
version = 0.1.0 # 当前版本号
description = 小红书数据爬取工具 # 项目简介
[options]
packages = find: # 自动发现包结构
python_requires = >=3.8 # Python版本要求
💡 修改建议:如需自定义安装路径,可添加install_scripts = /usr/local/bin指定脚本安装目录
requirements.txt管理指南
作用解析:定义项目依赖关系,确保开发环境一致性的关键文件
# 核心依赖(必选)
requests>=2.25.1 # HTTP请求库
pycryptodome>=3.10.1 # 数据加密处理
pydantic>=1.8.2 # 数据模型验证
# 开发依赖(可选)
pytest>=6.2.5 # 单元测试框架
sphinx>=4.2.0 # 文档生成工具
💡 修改建议:生产环境部署时,可使用pip freeze > requirements.txt固化当前环境依赖版本
tox.ini测试配置详解
作用解析:自动化测试配置文件,支持多环境并行测试验证
[tox]
envlist = py38, py39, py310 # 测试Python版本矩阵
skipsdist = true # 跳过源码打包步骤
[testenv]
deps = -rrequirements.txt # 依赖文件路径
commands = pytest tests/ # 测试执行命令
⚠️ 注意事项:修改测试配置后,需运行tox -r重建虚拟环境才能生效
🚀 实践指南:轻松掌握使用技巧
3步实现基础爬取
以搜索笔记为例,快速上手核心功能:
# 1. 初始化客户端
from xhs import XhsClient
client = XhsClient(cookie="your_cookie_here") # 需替换为真实cookie
# 2. 执行搜索请求
try:
# 搜索关键词"美食推荐",获取第1页结果
results = client.search_note(keyword="美食推荐", page=1)
# 3. 处理返回数据
for note in results['items']:
print(f"标题: {note['title']}, 作者: {note['user']['nickname']}")
except Exception as e:
print(f"爬取失败: {str(e)}")
⚠️ 注意事项:cookie需要从浏览器登录后获取,且具有时效性,建议定期更新
典型使用场景说明
场景1:热门笔记监控
适用于品牌方跟踪竞品动态,实现代码:
# 监控"口红"品类下的热门笔记
hot_notes = client.get_hot_notes(category="口红", limit=20)
for note in hot_notes:
print(f"热度:{note['hot_value']} 标题:{note['title']}")
场景2:用户内容分析
帮助创作者了解行业趋势,示例代码:
# 获取指定用户的全部笔记
user_notes = client.get_user_notes(user_id="5f8d6a7b...", page=1, size=10)
for note in user_notes:
print(f"发布时间:{note['time']}, 点赞数:{note['like_count']}")
常见问题解决
Q1: 频繁请求导致403错误怎么办?
💡 解决方案:实现请求间隔控制
import time
# 添加随机延迟,模拟真人浏览行为
def safe_request(func):
def wrapper(*args, **kwargs):
time.sleep(1 + random.random() * 2) # 1-3秒随机延迟
return func(*args, **kwargs)
return wrapper
@safe_request
def crawl_with_delay():
return client.search_note(keyword="旅行攻略")
Q2: 如何处理登录验证问题?
⚠️ 注意:目前支持两种登录方式
- Cookie登录(推荐):从浏览器获取完整cookie字符串
- 二维码登录:调用
client.login_by_qrcode()生成登录二维码
📌 扩展阅读
进阶功能探索
- 异步爬取实现:参考
example/async_usage.py - 代理池配置:查看
docs/advance/proxy.md文档 - 数据存储方案:示例代码在
example/storage_demo/目录
项目贡献指南
如果你想参与项目开发,可从以下方面入手:
- 完善测试用例:补充
tests/目录下的单元测试 - 优化文档:改进
docs/source/目录下的说明文档 - 功能开发:提交PR到
dev分支,包含详细实现说明
法律与伦理提示
⚠️ 重要提醒:本工具仅用于学习交流,使用时请遵守:
- 尊重网站robots协议
- 控制请求频率,避免影响服务器正常运行
- 不得用于获取非公开数据或商业用途
登录后查看全文
热门项目推荐
相关项目推荐
GLM-5智谱 AI 正式发布 GLM-5,旨在应对复杂系统工程和长时域智能体任务。Jinja00
GLM-5-w4a8GLM-5-w4a8基于混合专家架构,专为复杂系统工程与长周期智能体任务设计。支持单/多节点部署,适配Atlas 800T A3,采用w4a8量化技术,结合vLLM推理优化,高效平衡性能与精度,助力智能应用开发Jinja00
请把这个活动推给顶尖程序员😎本次活动专为懂行的顶尖程序员量身打造,聚焦AtomGit首发开源模型的实际应用与深度测评,拒绝大众化浅层体验,邀请具备扎实技术功底、开源经验或模型测评能力的顶尖开发者,深度参与模型体验、性能测评,通过发布技术帖子、提交测评报告、上传实践项目成果等形式,挖掘模型核心价值,共建AtomGit开源模型生态,彰显顶尖程序员的技术洞察力与实践能力。00
Kimi-K2.5Kimi K2.5 是一款开源的原生多模态智能体模型,它在 Kimi-K2-Base 的基础上,通过对约 15 万亿混合视觉和文本 tokens 进行持续预训练构建而成。该模型将视觉与语言理解、高级智能体能力、即时模式与思考模式,以及对话式与智能体范式无缝融合。Python00
MiniMax-M2.5MiniMax-M2.5开源模型,经数十万复杂环境强化训练,在代码生成、工具调用、办公自动化等经济价值任务中表现卓越。SWE-Bench Verified得分80.2%,Multi-SWE-Bench达51.3%,BrowseComp获76.3%。推理速度比M2.1快37%,与Claude Opus 4.6相当,每小时仅需0.3-1美元,成本仅为同类模型1/10-1/20,为智能应用开发提供高效经济选择。【此简介由AI生成】Python00
Qwen3.5Qwen3.5 昇腾 vLLM 部署教程。Qwen3.5 是 Qwen 系列最新的旗舰多模态模型,采用 MoE(混合专家)架构,在保持强大模型能力的同时显著降低了推理成本。00- RRing-2.5-1TRing-2.5-1T:全球首个基于混合线性注意力架构的开源万亿参数思考模型。Python00
项目优选
收起
deepin linux kernel
C
27
11
OpenHarmony documentation | OpenHarmony开发者文档
Dockerfile
564
3.83 K
本项目是CANN提供的数学类基础计算算子库,实现网络在NPU上加速计算。
C++
892
659
Ascend Extension for PyTorch
Python
375
443
openEuler内核是openEuler操作系统的核心,既是系统性能与稳定性的基石,也是连接处理器、设备与服务的桥梁。
C
348
198
昇腾LLM分布式训练框架
Python
116
145
暂无简介
Dart
794
197
🎉 (RuoYi)官方仓库 基于SpringBoot,Spring Security,JWT,Vue3 & Vite、Element Plus 的前后端分离权限管理系统
Vue
1.36 K
775
openJiuwen agent-studio提供零码、低码可视化开发和工作流编排,模型、知识库、插件等各资源管理能力
TSX
1.12 K
268
React Native鸿蒙化仓库
JavaScript
308
359