Ir para o conteúdo

DataFrameIt

Enriqueça DataFrames com LLMs de forma simples e estruturada

PyPI version Python 3.11+ License: MIT

O que é?

DataFrameIt processa textos em DataFrames usando Modelos de Linguagem (LLMs) e extrai informações estruturadas definidas por modelos Pydantic. Uma função, um modelo e um prompt bastam.

from pydantic import BaseModel
from typing import Literal
import pandas as pd
from dataframeit import dataframeit

class Sentimento(BaseModel):
    sentimento: Literal['positivo', 'negativo', 'neutro']
    confianca: Literal['alta', 'media', 'baixa']

df = pd.DataFrame({'texto': ['Produto excelente!', 'Péssimo serviço.']})
resultado = dataframeit(df, Sentimento, "Analise o sentimento do texto.")

Funcionalidades

Múltiplos Provedores

OpenAI, Google Gemini, Anthropic, Groq e outros via LangChain, além de Codex e Claude Code pelos SDKs oficiais.

Saída Estruturada

Validação automática com Pydantic. Defina campos, tipos e descrições; uma resposta fora do modelo volta ao LLM com o erro para correção.

Resiliência

Retry automático com backoff exponencial, rate limiting configurável e checkpoints periódicos para retomar execuções longas.

Performance

Processamento paralelo que reduz os workers diante de rate limit. Com parallel_requests > 1, o resumo ao fim da execução traz as métricas de throughput.

Busca Web

Tavily ou Exa para enriquecer dados com informações da internet, com busca por campo e campos condicionais.

Múltiplas Entradas

DataFrame e Series do pandas ou do Polars, lista e dicionário. A saída é um DataFrame, do Polars quando a entrada é do Polars.

Instalação Rápida

pip install dataframeit[openai]     # OpenAI (provider padrão)
pip install dataframeit[google]     # Google Gemini
pip install dataframeit[anthropic]  # Anthropic
pip install dataframeit[all]        # providers com extra, menos o Codex, mais busca web, Polars e Excel

Próximos Passos