LiteRT.js: eseguire IA locale nel browser con un'alternativa chiara

LiteRT.js è l'interfaccia di Google per eseguire inferenza di intelligenza artificiale (IA) nel browser. Può usare WebAssembly sull'unità centrale di elaborazione (CPU) e WebGPU quando esiste un'accelerazione compatibile. La progettazione deve considerare fin dall'inizio i dispositivi che non coprono il percorso preferito.

Il caso pratico valuterà la qualità di una foto prima del caricamento. Il modello locale rileverà sfocatura o esposizione scarsa e mostrerà una raccomandazione. Se il browser non riesce a eseguire il modello, l'applicazione spiegherà il limite e offrirà un altro percorso.

LiteRT.js porta il modello sul dispositivo

Al 15 luglio 2026 Google documentava LiteRT.js come un ambiente web per caricare ed eseguire modelli compatibili. La guida iniziale mostra un'API di caricamento e compilazione e un percorso accelerato con WebGPU. La compatibilità reale dipende da browser, hardware e modello.

Eseguire sul dispositivo può ridurre i viaggi di rete durante l'inferenza. Permette anche risposte quando la connessione è instabile, purché applicazione e modello siano già disponibili. Non elimina il costo di download, compilazione e memoria.

Prima di sceglierlo, definisci che cosa porta al caso della fotografia. Un avviso immediato prima del caricamento può risparmiare un invio inutile e tenere l'immagine fuori dal server. Quel vantaggio esiste solo se nemmeno le altre parti della pagina trasmettono la foto.

Il rilevamento precede il download

Controlla le capacità prima di scaricare un modello grande. Rileva le API necessarie, registra la memoria disponibile quando è possibile e considera il tipo di dispositivo. L'interfaccia deve restare utilizzabile mentre si decide il percorso.

Per la foto, mostra prima il selettore e una breve spiegazione. Se il browser soddisfa le condizioni, avvia il caricamento del modello con un avanzamento visibile. In caso contrario offri una valutazione remota facoltativa o permetti di continuare senza analisi.

Non usare un rilevamento basato solo sul nome del browser. Versioni, driver e criteri possono variare all'interno della stessa famiglia. Esegui una prova di capacità e cattura l'errore di inizializzazione.

Il caricamento richiede stati e limiti chiari

Il modello aggiunge byte, tempo di avvio e memoria al percorso. Comunica che l'analisi locale si sta preparando e permetti di annullare quando il download è lento. Metti in cache solo se la politica del prodotto e lo spazio disponibile lo consentono.

Una barra completa non dimostra che il modello sia pronto. Distingui download, compilazione e prima inferenza. Per il caso pratico, abilita «Analizza foto» dopo aver confermato che il percorso locale risponde a un ingresso di prova.

Definisci un tempo massimo e un recupero. Se la compilazione fallisce, libera le risorse e attiva l'alternativa. Un ciclo silenzioso di nuovi tentativi consuma batteria e lascia la persona senza una decisione.

La qualità va misurata con foto rappresentative

Prepara immagini di prova di buona qualità, sfocate, con poca luce e di dimensioni diverse. Confronta l'uscita del modello con una classificazione rivista e registra gli errori rilevanti. Una dimostrazione con una sola foto non permette di valutare il comportamento.

Misura anche il tempo fino al primo risultato, la latenza successiva, la memoria e la temperatura percepita in sessioni lunghe. Includi telefoni di fascia media, un dispositivo senza WebGPU e browser rappresentativi. I benchmark del fornitore servono da riferimento, non da accettazione del tuo prodotto.

Se l'analisi stabilisce che una foto è mossa, spiega l'azione: stabilizzare il dispositivo, migliorare la luce o ripetere lo scatto. Un punteggio senza contesto non aiuta. La guida ai prompt applica lo stesso principio di risultato verificabile.

La riservatezza dipende dall'intero percorso

L'inferenza locale descrive dove viene eseguito il modello, non tutto ciò che fa l'applicazione. Analytics, registri di errore, archiviazione, miniature o servizi di copia possono inviare dati. Documenta ogni uscita di rete prima di affermare che l'immagine resta sul dispositivo.

Ispeziona la rete durante selezione, analisi e scarto. Ripeti la prova con l'alternativa remota e mostra una richiesta di consenso prima del caricamento. Il testo deve distinguere con chiarezza i due percorsi.

Evita di registrare l'immagine, il contenuto estratto o identificatori inutili. Se hai bisogno di telemetria, misura tempi e codici di stato senza allegare dati personali. La persona deve poter continuare quando rifiuta l'alternativa.

L'alternativa fa parte del prodotto

Un percorso alternativo non è un errore imbarazzante da nascondere. Spiega che l'analisi locale non è disponibile su quel dispositivo e offri opzioni concrete: continuare senza valutazione, usare un server con consenso o provare un'altra immagine. Conserva la funzione principale finché è sicuro.

L'alternativa remota richiede regole proprie di conservazione, accesso e cancellazione. Non attivarla in secondo piano. L'approccio responsabile al vibe coding richiede di provare sia il percorso principale sia quello degradato.

Registra quante sessioni usano ogni percorso e perché quello locale fallisce. Quella prova permette di decidere se conviene cambiare modello, ridurne la dimensione o ritirare una funzione. Non trasformare la percentuale in una promessa senza data e campione rappresentativo.

I limiti compaiono in download, memoria e compatibilità

Un modello può essere troppo grande per una connessione mobile o esaurire la memoria durante più inferenze. WebGPU può esistere e comunque fallire nel compilare un'operazione. Cattura entrambi i casi e ripristina l'interfaccia.

Anche la qualità può variare tra gruppi di immagini assenti dalla valutazione. Rivedi illuminazione, dispositivi e contesti diversi. Un risultato locale sbagliato resta un risultato sbagliato.

Infine, il browser condivide risorse con il resto della pagina. Evita più inferenze simultanee e libera tensori o sessioni che non usi più. Un'interfaccia fluida conta quanto la cifra isolata di un'inferenza.

Controlla l'esperienza prima di pubblicarla

Percorri queste caselle su più dispositivi. Ogni risposta deve poggiare su una misurazione, un'ispezione di rete o un comportamento visibile.

• L'applicazione rileva le capacità prima di scaricare il modello.
• Caricamento, compilazione, esecuzione ed errore hanno stati comprensibili.
• Le foto di prova coprono qualità, dimensioni e dispositivi diversi.
• L'intero percorso dei dati, telemetria compresa, è documentato.
• L'alternativa remota richiede informazione e consenso espliciti.
• Un guasto libera le risorse e permette di continuare in sicurezza.

LiteRT.js apre un percorso utile per l'IA locale, ma un'architettura affidabile include anche il dispositivo che non può usarla. Rileva, carica, esegui, misura e attiva un'alternativa dichiarata. Quella sequenza trasforma una dimostrazione in una funzione mantenibile.