Guide pour faire de l'inférence avec un GPU AMD sous Windows avec Jan, llama.cpp et le modèle ministral 3
Comment faire tourner Ministral 3 avec un GPU AMD sous Windows
https://www.50-nuances-octets.fr/posts/ministral-3-gpu-amd-windows/
https://www.50-nuances-octets.fr/posts/ministral-3-gpu-amd-windows/
Guide pour faire de l'inférence avec un GPU AMD sous Windows avec Jan, llama.cpp et le modèle ministral 3
1 Comments
Chimrod@jlai.lu · 2 pts · 254d
Pareil, j'utilise aussi jan avec ma carte intel sous linux.
j'ai attendu trop longtemps que ce ticket soit résolu pour continuer avec ollama:
https://github.com/ollama/ollama/issues/2033