home/categories/cli-tools/openclaw-skills-skills-bytesagain3-crawler-skill-md
cli-toolstools

crawler

Web crawling and scraping reference — robots.txt protocol, Scrapy framework, anti-bot detection, headless browsers, and legal considerations

openclaw
maintainer
openclaw
آخر تحديث 3/24/2026
النجوم
4001
التفرعات
1095
quick start

Installation and usage

Web crawling and scraping reference — robots.txt protocol, Scrapy framework, anti-bot detection, headless browsers, and legal considerations

التثبيت
$ install --globalskills.sh
الاستخدام

بعد التثبيت، يمكنك استخدام هذه المهارة بتشغيل الأمر التالي في الطرفية:

skills use crawler