Workstation ब्लॉग
LLM
LLM टैग वाली पोस्ट।
बड़े भाषा मॉडलों की व्याख्या: LLMs कैसे काम करते हैं और Kubernetes पर अपना खुद का कैसे चलाएं
बड़े भाषा मॉडल क्या हैं और वे कैसे काम करते हैं? प्रबंधकों और इंजीनियरों के लिए एक स्पष्ट, गैर-तकनीकी व्याख्याता - टोकन, एम्बेडिंग, ट्रांसफार्मर, प्रशिक्षण और अनुमान - साथ ही Ollama और vLLM के साथ अपने स्वयं के LLM को तैनात करने के लिए Kubernetes YAML का उत्पादन।
Balinder Waliaपढ़ें 
Mac Studio M4 को अनबॉक्स करना और अपना पहला LLM चलाना
मैंने 128 GB एकीकृत मेमोरी और 40 GPU कोर के साथ एक Mac Studio M4 Max को अनबॉक्स किया, Ollama स्थापित किया, Llama 3.1 8B को स्थानीय रूप से चलाया, और एक निजी RAG पाइपलाइन बनाई - सभी एक शांत, 6.48 W निष्क्रिय डेस्क-साइड बॉक्स पर।
Balinder Waliaपढ़ें 
