Como usar curl_cffi para Web Scraping

sudo apt-get install libcurl4-openssl-dev

pip install curl_cffi

from curl_cffi import requests

# Execute uma solicitação GET
response = requests.get('https://httpbin.org/get')

# Verifique o código de status
print(f'Código de Status: {response.status_code}')

# Imprima o conteúdo da resposta
print('Corpo da Resposta:', response.text)

from curl_cffi import requests
from bs4 import BeautifulSoup

# URL para raspar
url = 'http://quotes.toscrape.com/'

# Execute uma solicitação GET
response = requests.get(url)

# Analise o conteúdo HTML usando BeautifulSoup
soup = BeautifulSoup(response.content, 'html.parser')

# Encontre todos os elementos de citação
quotes = soup.find_all('div', class_='quote')

# Extraia e exiba as citações e autores
for quote in quotes:
    text = quote.find('span', class_='text').get_text()
    author = quote.find('small', class_='author').get_text()
    print(f'{text} — {author}')

“The world as we have created it is a process of our thinking. It cannot be changed without changing our thinking.” — Albert Einstein
“It is our choices, Harry, that show what we truly are, far more than our abilities.” — J.K. Rowling
... (citações adicionais)

import os
import capsolver
from curl_cffi import requests

# Considere usar variáveis de ambiente para informações sensíveis
capsolver.api_key = os.getenv("CAPSOLVER_API_KEY", "Sua Chave de API CapSolver")
PAGE_URL = os.getenv("PAGE_URL", "https://example.com")  # URL da página com o captcha
PAGE_KEY = os.getenv("PAGE_SITE_KEY", "SITE_KEY")        # Chave do site para o captcha

def solve_recaptcha_v2(url, site_key):
    solution = capsolver.solve({
        "type": "ReCaptchaV2TaskProxyless",
        "websiteURL": url,
        "websiteKey": site_key,
        "proxy": PROXY
    })
    return solution['solution']['gRecaptchaResponse']

def main():
    print("Resolvendo reCaptcha V2...")
    captcha_solution = solve_recaptcha_v2(PAGE_URL, PAGE_KEY)
    print("Captcha Resolvido!")

if __name__ == "__main__":
    main()

from curl_cffi import requests

# Defina as configurações do proxy
proxies = {
    'http': 'http://username:password@proxyserver:port',
    'https': 'https://username:password@proxyserver:port',
}

# Execute uma solicitação GET usando o proxy
response = requests.get('https://httpbin.org/ip', proxies=proxies)

# Imprima o conteúdo da resposta
print('Corpo da Resposta:', response.text)

from curl_cffi import requests
from http.cookiejar import CookieJar

# Crie uma instância CookieJar
cookie_jar = CookieJar()

# Crie uma sessão com o cookie jar
session = requests.Session()
session.cookies = cookie_jar

# Execute uma solicitação GET
response = session.get('https://httpbin.org/cookies/set?name=value')

# Exiba os cookies
for cookie in session.cookies:
    print(f'{cookie.name}: {cookie.value}')

from curl_cffi import requests

# Defina cabeçalhos personalizados
headers = {
    'User-Agent': 'Mozilla/5.0 (compatible)',
    'Accept-Language': 'en-US,en;q=0.5',
}

# Dados para enviar na solicitação POST
data = {
    'username': 'testuser',
    'password': 'testpass',
}

# Execute uma solicitação POST
response = requests.post('https://httpbin.org/post', headers=headers, data=data)

# Imprima a resposta JSON
print('Resposta JSON:', response.json())