Questa implementazione di llama è molto veloce anche con la sola CPU
Ollama, intelligenza artificiale in locale sui propri sistemi | IlSoftware.it
https://www.ilsoftware.it/focus/ollama-intelligenza-artificiale-in-locale-sui-propri-sistemi/
https://www.ilsoftware.it/focus/ollama-intelligenza-artificiale-in-locale-sui-propri-sistemi/
Questa implementazione di llama è molto veloce anche con la sola CPU
1 Comments
trem@feddit.it · 1 pts · 2y
L’ho provato un paio di giorni fa, non è malaccio. Mistral non l’ho ancora provato, solo llama2. Dovrebbe avere qualche vantaggio?