Una libreria Python che trasforma PostgreSQL in un robusto motore di retrieval pronto per la produzione, per applicazioni RAG e Agentic.

• 🔄 Crea e sincronizza automaticamente gli embedding vettoriali dai dati PostgreSQL e dai documenti S3. Gli embedding si aggiornano automaticamente al variare dei dati.

• 🔍 Potente ricerca vettoriale e semantica con pgvector e pgvectorscale.

• 🛡️ Pronto per la produzione fin da subito: supporta l'elaborazione batch per una generazione efficiente degli embedding, con gestione integrata di errori del modello, limiti di frequenza e picchi di latenza.

• 🐘 Funziona con qualsiasi database PostgreSQL, inclusi Timescale Cloud, Amazon RDS, Supabase e altri.

Architettura di base: Il sistema è composto da un'applicazione che scrivi tu, un database PostgreSQL e worker vectorizer senza stato. L'applicazione definisce una configurazione del vectorizer per incorporare dati da fonti come PostgreSQL o S3. I worker leggono questa configurazione, elaborano la coda di dati trasformandoli in embedding e testo a chunk, e riscrivono i risultati. L'applicazione interroga quindi questi dati per alimentare RAG e la ricerca semantica.

Il punto di forza di questa architettura risiede nella sua resilienza: le modifiche ai dati apportate dall'applicazione sono disaccoppiate dal processo di embedding, garantendo che i guasti nel servizio di embedding non influiscano sulle operazioni dati principali.

installazione

Per prima cosa, installa il pacchetto pgai.``` pip install pgai

Quick Start

Questa guida rapida dimostra come pgai Vectorizer abiliti la ricerca semantica e il RAG sui dati PostgreSQL creando e sincronizzando automaticamente gli embedding man mano che i dati cambiano.

Il "segreto" fondamentale di pgai Vectorizer è il suo approccio dichiarativo alla generazione degli embedding. Definisci semplicemente la tua pipeline e lascia che Vectorizer gestisca la complessità operativa di mantenere sincronizzati gli embedding, anche quando gli endpoint di embedding non sono affidabili. Puoi definire una versione semplice della pipeline come segue:```sql CREATE TABLE IF NOT EXISTS wiki ( id INTEGER PRIMARY KEY GENERATED ALWAYS AS IDENTITY, url TEXT NOT NULL, title TEXT NOT NULL, text TEXT NOT NULL )

SELECT ai.create_vectorizer( 'wiki'::regclass, loading => ai.loading_column(column_name=>'text'), destination => ai.destination_table(target_table=>'wiki_embedding_storage'), embedding => ai.embedding_openai(model=>'text-embedding-ada-002', dimensions=>'1536') )

Puoi scaricare il codice Python completo e il requirements.txt dall'esempio di avvio rapido ed eseguirli nella stessa directory del file .env.

Analisi del codice

Installare i componenti del database pgai

Pgai richiede che alcune tabelle di catalogo e funzioni vengano installate nel database. Questa operazione viene eseguita tramite la funzione pgai.install, che installerà i componenti necessari nello schema ai del database.```python pgai.install(DB_URL)

Esegui il worker di vectorizzazione

In questo esempio, eseguiamo il worker di vectorizzazione una volta per creare gli embedding per i dati esistenti.```python worker = Worker(DB_URL, once=True) worker.run()

Inserire un nuovo articolo nella tabella wiki

Questo codice è notevole per ciò che non sta facendo. Si tratta di una semplice inserzione di un nuovo articolo nella tabella wiki. Non abbiamo avuto bisogno di fare nulla di diverso per creare gli embeddings: il worker vectorizer si occuperà di aggiornare gli embeddings man mano che i dati cambiano.```python def insert_article_about_pgai(conn: psycopg.AsyncConnection): async with conn.cursor(row_factory=class_row(WikiSearchResult)) as cur: await cur.execute(""" INSERT INTO wiki (url, title, text) VALUES ('https://en.wikipedia.org/wiki/pgai', 'pgai', 'pgai is a Python library that turns PostgreSQL into the retrieval engine behind robust, production-ready RAG and Agentic applications. It does this by automatically creating vector embeddings for your data based on the vectorizer you define.') """) await conn.commit()

Passaggi successivi

Cerca altre guide rapide:

• Guida rapida con FastAPI e psycopg qui

Scopri di più sul vectorizer:

• Scopri di più sul vectorizer e sul vectorizer worker
• Approfondisci il riferimento API del vectorizer

Funzionalità

La nostra libreria Python pgai ti consente di lavorare con gli embedding generati dai tuoi dati:

• Crea e sincronizza automaticamente gli embedding vettoriali per i tuoi dati utilizzando il vectorizer.
• Carica dati da una colonna della tua tabella o da un file, bucket s3, ecc.
• Crea più embedding per gli stessi dati con modelli e parametri diversi per test e sperimentazione.
• Personalizza il modo in cui la tua pipeline di embedding analizza, suddivide in chunk, formatta e incorpora i tuoi dati.

Puoi utilizzare gli embedding vettoriali per:

• Eseguire ricerche semantiche utilizzando pgvector.
• Implementare la Retrieval Augmented Generation (RAG)
• Eseguire ricerche ANN ad alte prestazioni ed efficienti in termini di costi su grandi carichi di lavoro vettoriali con pgvectorscale, che integra pgvector.

Offriamo anche un'estensione PostgreSQL in grado di effettuare chiamate dirette ai modelli LLM da SQL. Questo è spesso utile per casi d'uso come classificazione, riepilogo e arricchimento dei dati sui tuoi dati esistenti.

Una pipeline vectorizer configurabile

Il vectorizer è progettato per essere flessibile e personalizzabile. Ogni vectorizer definisce una pipeline per la creazione di embedding dai tuoi dati. La pipeline è definita da una serie di componenti applicati in sequenza ai dati:

• Caricamento: Innanzitutto, definisci la fonte dei dati da incorporare. Può essere costituita dai dati memorizzati direttamente in una colonna della tabella sorgente o da un URI referenziato in una colonna della tabella sorgente che punta a un file, bucket s3, ecc.
• Analisi: Quindi, definisci il modo in cui i dati vengono analizzati se si tratta di un documento non testuale come un PDF, HTML o file markdown.
• Suddivisione in chunk: Successivamente, definisci il modo in cui i dati testuali vengono suddivisi in chunk.
• Formattazione: Poi, per ogni chunk, definisci il modo in cui i dati vengono formattati prima di essere inviati per l'incorporamento. Ad esempio, puoi aggiungere il titolo del documento come prima riga del chunk.
• Incorporamento: Infine, specifica il provider LLM, il modello e i parametri da utilizzare durante la generazione degli embedding.

Modelli di embedding supportati

I seguenti modelli sono supportati per l'incorporamento:

• Ollama
• OpenAI
• Voyage AI
• Cohere
• Huggingface
• Mistral
• Azure OpenAI
• AWS Bedrock
• Vertex AI

Il diavolo è nella gestione degli errori

Creare semplicemente embedding vettoriali è facile e diretto. La sfida è che gli LLM sono in qualche modo inaffidabili e gli endpoint mostrano guasti intermittenti e/o prestazioni degradate. Una parte critica per gestire correttamente i guasti è che le tue operazioni primarie di modifica dei dati (INSERT, UPDATE, DELETE) non dovrebbero dipendere dall'operazione di incorporamento. Altrimenti, la tua applicazione sarà inattiva ogni volta che l'endpoint è lento o fallisce e l'esperienza dell'utente ne risentirà.

Normalmente, dovresti implementare una pipeline MLops personalizzata per gestire correttamente i guasti degli endpoint. Questo comporta in genere un sistema di code come Kafka, worker specializzati e altre infrastrutture per gestire la coda e ritentare le richieste fallite. È molto lavoro ed è facile sbagliare.

Con pgai, puoi saltare tutto questo e concentrarti sulla creazione della tua applicazione perché il vectorizer gestisce gli embedding per te. Abbiamo integrato logica di accodamento e retry per gestire le varie modalità di guasto che puoi incontrare. Poiché svolgiamo questo lavoro in background, le operazioni primarie di modifica dei dati non dipendono dall'operazione di incorporamento. Questo è il motivo per cui pgai è pronto per la produzione fin da subito.

Molti database vettoriali specializzati creano embedding per te. Tuttavia, in genere falliscono quando gli endpoint di incorporamento sono inattivi o degradati, lasciando a te l'onere della gestione degli errori e dei retry.

Risorse

Perché lo abbiamo creato

• Vector Databases Are the Wrong Abstraction
• pgai: Giving PostgreSQL Developers AI Engineering Superpowers

Guide rapide

• La guida rapida con Ollama sopra
• Guida rapida con OpenAI
• Guida rapida con VoyageAI

Tutorial sul vectorizer pgai

• How to Automatically Create & Update Embeddings in PostgreSQL—With One SQL Query
• [video] Auto Create and Sync Vector Embeddings in 1 Line of SQL
• Which OpenAI Embedding Model Is Best for Your RAG App With Pgvector?
• Which RAG Chunking and Formatting Strategy Is Best for Your App With Pgvector
• Parsing All the Data With Open-Source Tools: Unstructured and Pgai

Contribuire

Accogliamo con piacere i contributi a pgai! Consulta la pagina Contributing per maggiori informazioni.

Partecipa

pgai è ancora in una fase iniziale. Ora è un ottimo momento per contribuire a definire la direzione di questo progetto; stiamo attualmente decidendo le priorità. Dai un'occhiata all'elenco delle funzionalità a cui stiamo pensando di lavorare. Sentiti libero di commentare, ampliare l'elenco o partecipare al forum Discussions.

Per iniziare, dai un'occhiata a come contribuire e a come configurare un ambiente di sviluppo/test.

Informazioni su Timescale

Timescale è un'azienda di database PostgreSQL. Per saperne di più visita timescale.com.

Timescale Cloud è una piattaforma cloud ad alte prestazioni, focalizzata sugli sviluppatori, che fornisce servizi PostgreSQL per i carichi di lavoro AI, time-series, analitici ed eventi più esigenti. Timescale Cloud è ideale per applicazioni di produzione e offre alta disponibilità, backup in streaming, aggiornamenti nel tempo, ruoli e permessi e un'ottima sicurezza.