AI Agent Skills

Web Crawler/Spider for NodeJS + server-side jQuery ;-)

AI crawler access analysis. Checks robots.txt, meta tags, and HTTP headers to determine which AI crawlers can access the site. Provides a complete access map and recomme…

Collection of China illegal cases about web crawler 本项目用来整理所有中国大陆爬虫开发者涉诉与违规相关的新闻、资料与法律法规。致力于帮助在中国大陆工作的爬虫行业从业者了解我国相关法律，避免触碰数据合规红线。

A collection of awesome web crawler,spider in different languages

Google, Naver multiprocess image web crawler (Selenium)

A scalable, mature and versatile web crawler based on Apache Storm

A high performance web crawler / scraper in Elixir.

A lightweight web crawler framework.（Java爬虫框架）

Python API for JMComic | 提供Python API访问禁漫天堂，同时支持网页端和移动端 | 禁漫天堂GitHub Actions下载器🚀

新浪微博爬虫，用python爬取新浪微博数据，并下载微博图片和微博视频

Download comics novels 小说漫画下载工具 小説漫画のダウンローダ 小說漫畫下載:腾讯漫画 大角虫漫画 有妖气 咪咕 SF漫画 哦漫画 看漫画 漫画柜 汗汗酷漫 動漫伊甸園 快看漫画 微博动漫 733动漫网 大古漫画网 漫画DB 無限動漫 動漫狂 卡推漫画 动漫之家 动漫屋 古风漫画网 36漫画网 亲亲漫画网 乙女漫…

🕷 CrawlerDetect is a PHP class for detecting bots/crawlers/spiders via the user agent

Elasticsearch File System Crawler (FS Crawler)

Run a high-fidelity browser-based web archiving crawler in a single Docker container

A powerful browser crawler for web vulnerability scanners

Easily download all the photos/videos from tumblr blogs. 下载指定的 Tumblr 博客中的图片，视频