home/categories/cli-tools/openclaw-skills-skills-bytesagain3-crawler-skill-md
cli-toolstools

crawler

Web crawling and scraping reference — robots.txt protocol, Scrapy framework, anti-bot detection, headless browsers, and legal considerations

openclaw
maintainer
openclaw
Mis à jour 3/24/2026
Étoiles
4001
Forks
1095
quick start

Installation and usage

Web crawling and scraping reference — robots.txt protocol, Scrapy framework, anti-bot detection, headless browsers, and legal considerations

Installation
$ install --globalskills.sh
Utilisation

Après l'installation, vous pouvez utiliser ce skill en exécutant la commande suivante dans votre terminal :

skills use crawler