Loading blogs...
Posts tagged Mac Studio.
ਮੈਂ 128 GB ਯੂਨੀਫਾਈਡ ਮੈਮੋਰੀ ਅਤੇ 40 GPU ਕੋਰ ਦੇ ਨਾਲ ਇੱਕ Mac Studio M4 Max ਨੂੰ ਅਨਬਾਕਸ ਕੀਤਾ, Ollama ਸਥਾਪਤ ਕੀਤਾ, Llama 3.1 8B ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਚਲਾਇਆ, ਅਤੇ ਇੱਕ ਨਿੱਜੀ RAG ਪਾਈਪਲਾਈਨ ਬਣਾਈ - ਸਾਰੇ ਇੱਕ ਸ਼ਾਂਤ, 6.48 W ਨਿਸ਼ਕਿਰਿਆ ਡੈਸਕ-ਸਾਈਡ ਬਾਕਸ 'ਤੇ।
Balinder WaliaRead