Experimentei o llamafile no Windows com dois modelos GGUF que também importei para o Ollama. Partilho o que funcionou, os erros encontrados e os passos para repetir o procedimento em CPU.
Inteligência ArtificialLer artigoBLOG · DANIEL GARCIA
#IA Local
Experiências com modelos de Inteligência Artificial executados no próprio computador, incluindo ferramentas, desempenho e limitações.
Seguir por RSS ↗Correr inteligência artificial localmente já não exige necessariamente hardware de topo. Neste artigo analiso quando um modelo local faz sentido, onde começa a ficar limitado e porque a melhor escolha pode ser simplesmente o menor modelo capaz de resolver bem a tarefa.
Inteligência ArtificialLer artigo
