Loading blogs...
Posts tagged Local AI.
Meta Muse Glimmer Ollama: 30B، Apache 2.0، 128K سیاق و سباق، وژن اور ٹولز - Workstation بزنس گائیڈ کے ذریعے ہمیشہ مقامی ایجنٹوں کو ایک واحد GPU پر لاتا ہے۔
Balinder WaliaRead 
میں نے 128 GB یونیفائیڈ میموری اور 40 GPU کور کے ساتھ ایک Mac Studio M4 Max کو ان باکس کیا، Ollama انسٹال کیا، مقامی طور پر Llama 3.1 8B چلایا، اور ایک پرائیویٹ RAG پائپ لائن بنائی - یہ سب ایک ہی پرسکون، 6.48 ڈبلیو آئیڈیل ڈیسک سائیڈ باکس پر ہے۔
Balinder WaliaRead