Il runtime di inferenza

Le tue foto vengono elaborate in memoria e mai salvate in modo permanente. In concreto:

• Mai scritta su disco. Non c'è alcuna cartella di caricamento, nessun file temporaneo, nessuna cache. L'immagine viene decodificata, ridimensionata in memoria, inviata al runtime del modello sull'interfaccia di loopback del container ed eliminata al termine della richiesta.
• Mai registrata nei log. Né l'immagine, né il base64, né un suo hash. I log registrano i metadati della richiesta (stato, tempi, un'impronta della chiave impronta, mai una chiave), e il formattatore dei log rimuove i valori che potrebbero contenere payload o credenziali. Questo include i percorsi di errore: le risposte di errore e i relativi log vengono ripuliti, e questo comportamento è verificato dalla suite di test unitari.
• Mai inviata altrove. Il servizio effettua esattamente tre tipi di richieste in uscita: download una tantum dei pesi al primo avvio, (solo se abiliti un FOOD_SOURCE connesso in rete) una ricerca del nome dell'alimento tramite testuale, e (solo se imposti EMBEDDING_RUNTIME_URL) una chiamata di embedding testuale. Nessuna immagine lascia mai il container, con qualsiasi configurazione.
• I nomi da tradurre restano nel runtime del modello. La chiamata di traduzione invia i nomi degli alimenti come testo al runtime del modello. Nel container integrato, il runtime usa l'interfaccia di loopback, quindi il traffico rimane locale. Con MODEL_PROFILE=external, i nomi vengono inviati all'URL configurato del tuo runtime. Tale chiamata non include mai foto. Il servizio legge Accept-Language per selezionare la lingua di destinazione. Non memorizza né registra nei log l'intestazione.
• Nessun account, nessun cookie, nessuna cronologia. Il servizio non memorizza nulla tra una richiesta e l'altra. Non c'è nulla da esportare, violare o richiedere per vie legali.
• Nel flusso di openplate, la foto passa direttamente dal dispositivo al tuo endpoint. Non passa attraverso il server di openplate. Controlli tu ogni passaggio.

Il codice è qui, è compatto e la superficie di rete è costituita da una sola porta.

Queste indicazioni descrivono il servizio self-hosted in questo repository. Per la segnalazione di vulnerabilità, vedi SECURITY.md.

Entrambe le varianti di lite funzionano su CPU. Anche quality funziona su CPU, ma molto lentamente, ed è pensato a tutti gli effetti per GPU.

A chi fa auto-hosting e vuole scansionare le foto del piatto senza creare un account di intelligenza artificiale sul cloud e senza far uscire alcuna foto dalla propria rete. Non fa parte dell'istanza ospitata su openplate.de.