Блог Workstation
Ollama
Записи с тегом Ollama.
Build AI Agents with NebulaDB: Semantic Search, RAG and a Visa AI Agent
How we built semantic search, RAG and a Thai Visa AI Agent on NebulaDB, with real queries, query plans and retrieval scores measured on our 8.3M-document production server, and the guards that keep private data and invented numbers out of the answers.
Balinder WaliaЧитать 
Muse Glimmer на Ollama: постоянные локальные агенты на одном GPU
Meta Muse Glimmer обеспечивает постоянное подключение локальных агентов к одному GPU через Ollama: контекст 30B, Apache 2.0, 128K, видение и инструменты — бизнес-руководство Workstation.
Balinder WaliaЧитать 
Распаковка Mac Studio M4 и запуск вашего первого LLM
Я распаковал Mac Studio M4 Max со 128 унифицированными памятью GB и 40 ядрами GPU, установил Ollama, запустил Llama 3.1 8B локально и построил частный конвейер RAG — и все это на одном тихом, простаивающем настольном блоке мощностью 6,48 Вт.
Balinder WaliaЧитать