Loading blogs...
Posts tagged Apple Silicon.
Meta Muse Glimmer Ollama: 30B, Apache 2.0, 128K প্রসঙ্গ, দৃষ্টি এবং টুলস — Workstation ব্যবসা নির্দেশিকা-এর মাধ্যমে একটি একক GPU-এ সর্বদা-অন-অন স্থানীয় এজেন্টদের নিয়ে আসে।
Balinder WaliaRead 
আমি 128 GB ইউনিফাইড মেমরি এবং 40 GPU কোর সহ একটি Mac Studio M4 Max আনবক্স করেছি, Ollama ইনস্টল করেছি, স্থানীয়ভাবে Llama 3.1 8B চালালাম, এবং একটি ব্যক্তিগত RAG পাইপলাইন তৈরি করেছি - সবই একটি শান্ত, 6.48 W নিষ্ক্রিয় ডেস্ক-সাইড বক্সে৷
Balinder WaliaRead