curl_cffiを使ったWebスクレイピングの方法

sudo apt-get install libcurl4-openssl-dev

pip install curl_cffi

from curl_cffi import requests

# GETリクエストを実行
response = requests.get('https://httpbin.org/get')

# ステータスコードを確認
print(f'ステータスコード: {response.status_code}')

# レスポンスの内容を出力
print('レスポンスボディ:', response.text)

from curl_cffi import requests
from bs4 import BeautifulSoup

# スクレイピングするURL
url = 'http://quotes.toscrape.com/'

# GETリクエストを実行
response = requests.get(url)

# BeautifulSoupを使用してHTMLコンテンツを解析
soup = BeautifulSoup(response.content, 'html.parser')

# すべての引用要素を見つける
quotes = soup.find_all('div', class_='quote')

# 引用と著者を抽出して表示する
for quote in quotes:
    text = quote.find('span', class_='text').get_text()
    author = quote.find('small', class_='author').get_text()
    print(f'{text} — {author}')

“The world as we have created it is a process of our thinking. It cannot be changed without changing our thinking.” — Albert Einstein
“It is our choices, Harry, that show what we truly are, far more than our abilities.” — J.K. Rowling
... （追加の引用）

import os
import capsolver
from curl_cffi import requests

# 機密情報には環境変数の使用を検討してください
capsolver.api_key = os.getenv("CAPSOLVER_API_KEY", "Your CapSolver API Key")
PAGE_URL = os.getenv("PAGE_URL", "https://example.com")  # CAPTCHAを含むページのURL
PAGE_KEY = os.getenv("PAGE_SITE_KEY", "SITE_KEY")        # CAPTCHAのサイトキー

def solve_recaptcha_v2(url, site_key):
    solution = capsolver.solve({
        "type": "ReCaptchaV2TaskProxyless",
        "websiteURL": url,
        "websiteKey": site_key,
        "proxy": PROXY
    })
    return solution['solution']['gRecaptchaResponse']

def main():
    print("ReCaptcha V2を解決中...")
    captcha_solution = solve_recaptcha_v2(PAGE_URL, PAGE_KEY)
    print("CAPTCHA解決済み！")

if __name__ == "__main__":
    main()

from curl_cffi import requests

# プロキシ設定を定義
proxies = {
    'http': 'http://username:password@proxyserver:port',
    'https': 'https://username:password@proxyserver:port',
}

# プロキシを使用してGETリクエストを実行
response = requests.get('https://httpbin.org/ip', proxies=proxies)

# レスポンスの内容を出力
print('レスポンスボディ:', response.text)

from curl_cffi import requests
from http.cookiejar import CookieJar

# CookieJarインスタンスを作成
cookie_jar = CookieJar()

# CookieJarを使用してセッションを作成
session = requests.Session()
session.cookies = cookie_jar

# GETリクエストを実行
response = session.get('https://httpbin.org/cookies/set?name=value')

# Cookieを表示
for cookie in session.cookies:
    print(f'{cookie.name}: {cookie.value}')

from curl_cffi import requests

# カスタムヘッダーを定義
headers = {
    'User-Agent': 'Mozilla/5.0 (compatible)',
    'Accept-Language': 'en-US,en;q=0.5',
}

# POSTリクエストで送信するデータ
data = {
    'username': 'testuser',
    'password': 'testpass',
}

# POSTリクエストを実行
response = requests.post('https://httpbin.org/post', headers=headers, data=data)

# JSONレスポンスを出力
print('レスポンスJSON:', response.json())