pip install scrapegraphai capsolver

playwright install

import json
from scrapegraphai.graphs import SmartScraperGraph

# Định nghĩa cấu hình cho đường ống trích xuất
graph_config = {
    "llm": {
        "api_key": "YOUR_OPENAI_APIKEY",
        "model": "openai/gpt-4o-mini",
    },
    "verbose": True,
    "headless": False,
}

# Tạo thể hiện SmartScraperGraph
smart_scraper_graph = SmartScraperGraph(
    prompt="Liệt kê tất cả các trích dẫn cùng với mô tả của chúng",
    source="https://quotes.toscrape.com/",
    config=graph_config
)

# Chạy đường ống
result = smart_scraper_graph.run()
print(json.dumps(result, indent=4))

import json
from scrapegraphai.graphs import SmartScraperGraph

# Định nghĩa cấu hình cho đường ống trích xuất
graph_config = {
    "llm": {
        "model": "ollama/llama3.1",
        "temperature": 0,
        "format": "json",  # Ollama cần định dạng được chỉ định rõ ràng
        # "base_url": "http://localhost:11434", # đặt URL ollama tùy ý
    },
    "verbose": True,
    "headless": False
}

# Tạo thể hiện SmartScraperGraph
smart_scraper_graph = SmartScraperGraph(
    prompt="Liệt kê tất cả các trích dẫn cùng với mô tả của chúng",
    source="https://quotes.toscrape.com/",
    config=graph_config
)

# Chạy đường ống
result = smart_scraper_graph.run()
print(json.dumps(result, indent=4))

import capsolver
import os
import json
from scrapegraphai.graphs import SmartScraperGraph

# Cân nhắc sử dụng biến môi trường cho thông tin nhạy cảm
PROXY = os.getenv("PROXY", "http://username:password@host:port")
capsolver.api_key = os.getenv("CAPSOLVER_API_KEY", "Your Capsolver API Key")
PAGE_URL = os.getenv("PAGE_URL", "PAGE_URL")
PAGE_KEY = os.getenv("PAGE_SITE_KEY", "PAGE_SITE_KEY")

def solve_recaptcha_v2(url, key):
    solution = capsolver.solve({
        "type": "ReCaptchaV2Task",
        "websiteURL": url,
        "websiteKey": key,
        "proxy": PROXY
    })
    return solution['solution']['gRecaptchaResponse']

def main():
    print("Giải quyết reCaptcha v2")
    solution = solve_recaptcha_v2(PAGE_URL, PAGE_KEY)
    print("Giải pháp: ", solution)

# Định nghĩa cấu hình cho đường ống trích xuất
graph_config = {
    "llm": {
        "api_key": "YOUR_OPENAI_APIKEY",
        "model": "openai/gpt-4o-mini",
    },
    "verbose": True,
    "headless": False,
}

# Tạo thể hiện SmartScraperGraph
smart_scraper_graph = SmartScraperGraph(
    prompt="Tìm mô tả của mỗi trích dẫn.",
    source="https://quotes.toscrape.com/",
    config=graph_config
)

# Chạy đường ống
result = smart_scraper_graph.run()
print(json.dumps(result, indent=4))