Cách sử dụng curl_cffi để trích xuất dữ liệu web

sudo apt-get install libcurl4-openssl-dev

pip install curl_cffi

from curl_cffi import requests

# Thực hiện yêu cầu GET
response = requests.get('https://httpbin.org/get')

# Kiểm tra mã trạng thái
print(f'Mã trạng thái: {response.status_code}')

# In nội dung phản hồi
print('Nội dung phản hồi:', response.text)

from curl_cffi import requests
from bs4 import BeautifulSoup

# URL để thu thập dữ liệu
url = 'http://quotes.toscrape.com/'

# Thực hiện yêu cầu GET
response = requests.get(url)

# Phân tích cú pháp nội dung HTML bằng BeautifulSoup
soup = BeautifulSoup(response.content, 'html.parser')

# Tìm tất cả các phần tử trích dẫn
quotes = soup.find_all('div', class_='quote')

# Trích xuất và hiển thị các trích dẫn và tác giả
for quote in quotes:
    text = quote.find('span', class_='text').get_text()
    author = quote.find('small', class_='author').get_text()
    print(f'{text} — {author}')

“The world as we have created it is a process of our thinking. It cannot be changed without changing our thinking.” — Albert Einstein
“It is our choices, Harry, that show what we truly are, far more than our abilities.” — J.K. Rowling
... (các trích dẫn khác)

import os
import capsolver
from curl_cffi import requests

# Cân nhắc sử dụng biến môi trường cho thông tin nhạy cảm
capsolver.api_key = os.getenv("CAPSOLVER_API_KEY", "Your CapSolver API Key")
PAGE_URL = os.getenv("PAGE_URL", "https://example.com")  # URL của trang có captcha
PAGE_KEY = os.getenv("PAGE_SITE_KEY", "SITE_KEY")        # Site key cho captcha

def solve_recaptcha_v2(url, site_key):
    solution = capsolver.solve({
        "type": "ReCaptchaV2TaskProxyless",
        "websiteURL": url,
        "websiteKey": site_key,
        "proxy": PROXY
    })
    return solution['solution']['gRecaptchaResponse']

def main():
    print("Đang giải quyết reCaptcha V2...")
    captcha_solution = solve_recaptcha_v2(PAGE_URL, PAGE_KEY)
    print("Captcha đã được giải quyết!")

if __name__ == "__main__":
    main()

from curl_cffi import requests

# Định nghĩa cài đặt proxy
proxies = {
    'http': 'http://username:password@proxyserver:port',
    'https': 'https://username:password@proxyserver:port',
}

# Thực hiện yêu cầu GET bằng proxy
response = requests.get('https://httpbin.org/ip', proxies=proxies)

# In nội dung phản hồi
print('Nội dung phản hồi:', response.text)

from curl_cffi import requests
from http.cookiejar import CookieJar

# Tạo một instance CookieJar
cookie_jar = CookieJar()

# Tạo một session với cookie jar
session = requests.Session()
session.cookies = cookie_jar

# Thực hiện yêu cầu GET
response = session.get('https://httpbin.org/cookies/set?name=value')

# Hiển thị các cookie
for cookie in session.cookies:
    print(f'{cookie.name}: {cookie.value}')

from curl_cffi import requests

# Định nghĩa tiêu đề tùy chỉnh
headers = {
    'User-Agent': 'Mozilla/5.0 (compatible)',
    'Accept-Language': 'en-US,en;q=0.5',
}

# Dữ liệu để gửi trong yêu cầu POST
data = {
    'username': 'testuser',
    'password': 'testpass',
}

# Thực hiện yêu cầu POST
response = requests.post('https://httpbin.org/post', headers=headers, data=data)

# In phản hồi JSON
print('Phản hồi JSON:', response.json())