ワークフローガイド

Web データパイプライン ワークフロー

「Web データパイプライン」向けの、レビュー可能な Agent ワークフローです。

「Web データパイプライン」向けの、レビュー可能な Agent ワークフローです。

期待する結果

  • 「Web データパイプライン」の目的を明確化
  • 適切な能力を選択
  • 次の段階の前に結果を検証

ワークフローマップ

この順序で進める

01

タスクを整理

要求を明確でレビュー可能な Agent タスクにします。

02

能力を選択

広いカテゴリではなく現在の段階に合う能力を選びます。

03

実行と確認

ソース、権限、範囲を確認してから最小限の有効な作業を実行します。

04

結論を検証

次の段階に進む前に根拠と結果を確認します。

推奨能力

各ステップの Skill を選ぶ

このワークフローへの適合性、品質、GitHub の採用、保守の新しさで順位付けしています。単一のインストール命令ではなく判断ガイドです。

#1Crawlee品質 · 100

リポジトリ説明(原文)

Crawlee—A web scraping and browser automation library for Node.js to build reliable crawlers. In JavaScript and TypeScript. Extract data for AI, LLMs, RAG, or GPTs. Download HTML, PDF, JPG, PNG, and other files from websites. Works with Puppeteer, Playwright, Cheerio, JSDOM, and raw HTTP. Both headful and headless mode. With proxy rotation.

24K StarsApache-2.0browser-automation
比較
$ npx skills add apify/crawlee
#2Firecrawl品質 · 100

リポジトリ説明(原文)

The API to search, scrape, and interact with the web at scale. 🔥

139K StarsAGPL-3.0agent-frameworks
比較
$ npx skills add firecrawl/firecrawl
#3Crawlee Python品質 · 100

リポジトリ説明(原文)

Crawlee—A web scraping and browser automation library for Python to build reliable crawlers. Extract data for AI, LLMs, RAG, or GPTs. Download HTML, PDF, JPG, PNG, and other files from websites. Works with Parsel, BeautifulSoup, Playwright, and raw HTTP. Both headful and headless mode. With proxy rotation.

9.2K StarsApache-2.0browser-automation
比較
$ npx skills add apify/crawlee-python
#4Scrapegraph AI品質 · 100

リポジトリ説明(原文)

Python scraper based on AI

27K StarsMITweb-automation
比較
$ npx skills add ScrapeGraphAI/Scrapegraph-ai
#5Maxun品質 · 100

リポジトリ説明(原文)

🔥 The open-source no-code platform for web scraping, crawling, search and AI data extraction • Turn websites into structured APIs in minutes 🔥

16K StarsAGPL-3.0web-automation
比較
$ npx skills add getmaxun/maxun
#6Crawl4AI品質 · 100

リポジトリ説明(原文)

Open-source LLM-friendly web crawler and scraper

73K StarsApache-2.0web-automation
比較
$ npx skills add unclecode/crawl4ai
#7Lux品質 · 100

リポジトリ説明(原文)

👾 Fast and simple video download library and CLI tool written in Go

31K StarsMITweb-automation
比較
$ npx skills add iawia002/lux
#8Colly品質 · 100

リポジトリ説明(原文)

Elegant Scraper and Crawler Framework for Golang

25K StarsApache-2.0web-automation
比較
$ npx skills add gocolly/colly

適した用途

  • - Web データパイプライン のワークフロー
  • - 監査可能な Agent の判断
  • - 管理されたワークスペースでの試行

適さない場合

  • - 機密システムへ無監督でアクセスする必要がある場合
  • - 資料や出力品質を確認できない場合

実行可能な Pack が必要ですか?

Skill Pack にはインストール順、監査リンク、機械可読な Agent 計画が含まれます。

Pack を見る