Un MVP sperimentale per ridurre inferenze ripetitive, osservare il carico dei nodi e costruire pipeline AI local-first, modulari e verificabili.
// Problema
Un modello AI o un backend computazionale può ricevere richieste identiche, ripetute o riconducibili allo stesso spazio parametrico. Se ogni richiesta attiva nuovamente il calcolo, aumentano latenza, utilizzo hardware e consumo operativo.
Periflow esplora un livello di verifica posto prima dell’esecuzione costosa. Il Gatekeeper controlla se esiste un risultato compatibile con la policy di caching configurata.
Richieste simili elaborate ripetutamente senza riutilizzare lo stato precedente.
Filtro ante-inferenza per decidere se servire la risposta localmente o attivare il compute worker.
// Architettura
Input → normalizzazione → cache lookup → HIT: risposta locale / MISS: compute worker.
Riceve la richiesta, normalizza le informazioni disponibili, consulta la cache, registra lo stato dell’operazione e decide se attivare il backend.
Confronta rappresentazioni strutturate attraverso regole e intervalli configurabili. L’efficacia dipende dal dominio, dalla dimensionalità, dagli indici e dalla distribuzione dei dati.
Esegue il modello locale, il solver o il calcolo richiesto quando non è disponibile un risultato riutilizzabile.
// Strategia CIRE
CIRE è il nome di lavoro utilizzato per descrivere la strategia relazionale sperimentata da Periflow. L’input viene rappresentato attraverso caratteristiche strutturate e confrontato con intervalli configurabili prima di attivare il calcolo costoso.
Nel percorso CIRE dell’MVP non è richiesta una fase di embedding. Questo non significa che gli embedding o i vector database siano inutili in generale: indica soltanto che Periflow esplora un’alternativa domain-aware per workload strutturati.
// Comparazione
Confronto tra i modelli di caching tradizionali e l'approccio relazionale a intervalli chiusi di Periflow.
| Approccio | Principio | Limite o condizione |
|---|---|---|
| Exact cache | Riutilizza la risposta con la stessa chiave o lo stesso input normalizzato | Non gestisce variazioni |
| Semantic cache | Confronta rappresentazioni vettoriali e soglie di similarità | Richiede embedding e una policy di similarità |
| CIRE / Periflow | Confronta caratteristiche strutturate entro intervalli configurabili | Richiede un dominio e una rappresentazione adatti |
// Telemetria
Raccolta dei dati di esecuzione locale per valutare l’efficacia del Gatekeeper e il comportamento dei nodi.
Conteggio transazioni analizzate dal Gatekeeper
Percentuale di risposte servite localmente
Monitoraggio in tempo reale dei worker attivi
Approfondisci le specifiche e la teoria del progetto.
Leggi documentazione completa →// Stato attuale
Periflow è un MVP funzionante in fase di validazione. Il prototipo include un Gatekeeper locale, persistenza PostgreSQL, registrazione delle richieste e integrazione con un backend AI locale.
Accedi all'MVP, sperimenta il caching locale e consulta la documentazione.
Richiedi Accesso MVPSelf-hosting community edition in arrivo su GitHub.