Cómo usar aiohttp para Web Scraping

pip install aiohttp

import asyncio
import aiohttp

async def fetch(url):
    async with aiohttp.ClientSession() as session:
        async with session.get(url) as response:
            status = response.status
            text = await response.text()
            print(f'Código de estado: {status}')
            print('Cuerpo de la respuesta:', text)

if __name__ == '__main__':
    asyncio.run(fetch('https://httpbin.org/get'))

import asyncio
import aiohttp
from bs4 import BeautifulSoup

async def fetch_content(url):
    async with aiohttp.ClientSession() as session:
        async with session.get(url) as response:
            return await response.text()

async def scrape_quotes():
    url = 'http://quotes.toscrape.com/'
    html = await fetch_content(url)
    soup = BeautifulSoup(html, 'html.parser')
    quotes = soup.find_all('div', class_='quote')
    for quote in quotes:
        text = quote.find('span', class_='text').get_text(strip=True)
        author = quote.find('small', class_='author').get_text(strip=True)
        print(f'{text} — {author}')

if __name__ == '__main__':
    asyncio.run(scrape_quotes())

“El mundo tal como lo hemos creado es un proceso de nuestro pensamiento. No se puede cambiar sin cambiar nuestro pensamiento.” — Albert Einstein
“Son nuestras decisiones, Harry, las que muestran lo que realmente somos, mucho más que nuestras habilidades.” — J.K. Rowling
... (citas adicionales)

pip install capsolver

import asyncio
import os
import aiohttp
import capsolver

# Establece tu clave de API de CapSolver
capsolver.api_key = os.getenv("CAPSOLVER_API_KEY", "Tu clave de API de CapSolver")
PAGE_URL = os.getenv("PAGE_URL", "https://example.com")  # URL de la página con captcha
SITE_KEY = os.getenv("SITE_KEY", "SITE_KEY")             # Clave del sitio del captcha

async def solve_recaptcha_v2():
    solution = capsolver.solve({
        "type": "ReCaptchaV2TaskProxyless",
        "websiteURL": PAGE_URL,
        "websiteKey": SITE_KEY
    })
    return solution['solution']['gRecaptchaResponse']

async def access_protected_page():
    captcha_response = await solve_recaptcha_v2()
    print("Captcha resuelto!")

    async with aiohttp.ClientSession() as session:
        data = {
            'g-recaptcha-response': captcha_response,
            # Incluye otros datos del formulario si es requerido por el sitio web
        }
        async with session.post(PAGE_URL, data=data) as response:
            content = await response.text()
            print('Contenido de la página:', content)

if __name__ == '__main__':
    asyncio.run(access_protected_page())

import asyncio
import aiohttp

async def fetch(url, proxy):
    async with aiohttp.ClientSession() as session:
        async with session.get(url, proxy=proxy) as response:
            return await response.text()

async def main():
    proxy = 'http://usuario:contraseña@servidorproxy:puerto'
    url = 'https://httpbin.org/ip'
    content = await fetch(url, proxy)
    print('Cuerpo de la respuesta:', content)

if __name__ == '__main__':
    asyncio.run(main())

import asyncio
import aiohttp

async def main():
    jar = aiohttp.CookieJar()
    async with aiohttp.ClientSession(cookie_jar=jar) as session:
        await session.get('https://httpbin.org/cookies/set?name=value')
        # Mostrar las cookies
        for cookie in jar:
            print(f'{cookie.key}: {cookie.value}')

if __name__ == '__main__':
    asyncio.run(main())

import asyncio
import aiohttp

async def main():
    headers = {
        'User-Agent': 'Mozilla/5.0 (compatible)',
        'Accept-Language': 'es-ES,es;q=0.5',
    }
    data = {
        'username': 'usuarioprueba',
        'password': 'contraseñaprueba',
    }
    async with aiohttp.ClientSession() as session:
        async with session.post('https://httpbin.org/post', headers=headers, data=data) as response:
            json_response = await response.json()
            print('Respuesta JSON:', json_response)

if __name__ == '__main__':
    asyncio.run(main())