I chatbot online e altre funzionalità AI basate su modelli linguistici basati su cloud si sono affermati molto rapidamente nella nostra vita quotidiana. Il passo successivo? I modelli AI appaiono localmente sui tuoi dispositivi.

Brave ha già un assistente AI: Leo. Si basa su grandi modelli linguistici riconosciuti (LLM) di Mistral AI, Anthropic (Claude) o Meta (Llama), ma aggiunge un ulteriore livello di sicurezza. Il browser web, che si basa sul motore di rendering Chromium, va ancora oltre offrendo agli utenti la possibilità di utilizzare il proprio modello linguistico operando localmente.

>>>

HB5781P1EEW-31A PerHUAWEI

Avere un modello eseguito direttamente dal tuo dispositivo piuttosto che passare attraverso il cloud ha molti vantaggi. Dati come conversazioni, pagine web visitate e prompt non vengono mai trasferiti a un server remoto, migliorando la riservatezza delle informazioni. La connessione tra l'utente e il modello è diretta, Brave non funge da intermediario. Il browser non ha accesso o controllo sull'attività del modello.

Local AI, la prossima grande evoluzione delle lingue
Un altro argomento a favore dei modelli linguistici locali è la possibilità di configurarlo da soli e personalizzarlo per soddisfare al meglio le proprie esigenze specifiche. L'utente può scegliere il comportamento e le capacità dell'IA, il suo modo di rispondere, dargli elementi di contesto da tenere in considerazione per ogni invito senza doverlo ricordare ogni volta... Il modello non è più progettato per un grande volume di utenti, ma per il proprio uso, il che può solo renderlo più rilevante.

Naturalmente, ci sono anche dei limiti. Un PC personale non può essere potente come un server gestito dai più importanti attori del settore tecnologico. Un modello linguistico multilingue sulla tua macchina è destinato ad essere più piccolo dei migliori LLM sul mercato. Infatti, un concorrente di Brave, Opera, ha lanciato un piccolo strumento per sapere se il tuo computer è abbastanza potente da eseguire l'IA localmente.

>>>

HT30 PerHOMTOM

Dopo la grande tendenza dei chatbot, quindi le funzioni AI integrate nel sistema operativo o nel software, ma che richiedono una connessione Internet, sembra che la prossima grande svolta presa dall'IA sia l'esecuzione locale. Microsoft ha fatto progressi su questo argomento con i PC Copilot +, che sono certificati per tale uso. Apple andrà ancora oltre fornendo AI locale sui suoi iPhone, iPad e Mac.

Per impostare la propria lingua su Brave
Ma torniamo al caso di Brave e del suo Leo AI. Innanzitutto, dovresti sapere che devi essere registrato nel programma beta Brave Nightly per beneficiare di questa funzione ora. La versione stabile del browser dovrebbe goderselo "più tardi quest'estate". Per configurare il tuo modello di lingua personalizzato, ecco i passaggi da seguire:

Scarica il framework Ollama a questo indirizzo, installa il programma ed eseguilo.

>>>

MN79H PerDELL

Segui i passaggi sullo schermo e scegli il tuo modello linguistico. Ollama è compatibile con dozzine di loro, di dimensioni che vanno da 829 MB a 40 GB. Brave consiglia 3 (Meta) per il suo equilibrio tra qualità e prestazioni. Può funzionare su un PC con solo 8 GB di RAM. Mistral 7B (Mistral AI) e Phi 3 Mini (Microsoft) sono anche tra i modelli raccomandati da Brave.

Esegui il modello sul tuo dispositivo tramite il terminale. Se hai scelto 3, ad esempio, digita "ollama run llama3". Quindi inizia il download del modello.
Vai alle Impostazioni coraggiose e vai alla sezione Leo. Scorrere per portare il proprio modello e fare clic su Aggiungi nuovo modello.
Si viene quindi invitati a compilare le informazioni del modello: l'etichetta (il nome che si desidera dargli), il vero nome del modello (llama3 per esempio), il punto di terminazione del server ed eventualmente una chiave API

Fai clic su Aggiungi modello, che ora appare nel menu di Leo, e selezionalo per potenziare l'IA di Brave.
E questo è tutto! Brave consiglia di utilizzare Ollama, perché la sua interfaccia è intuitiva e lo strumento è semplice da usare. Ma puoi anche farlo con un altro framework dello stesso tipo.

Questo browser offre di utilizzare il proprio modello di IA a livello locale, ecco come funziona