Блог Workstation
LLM
Записи с тегом LLM.
Сравнение моделей Claude: Haiku vs Sonnet vs Opus vs Fable 5 (Mythos 5)
Выберите нужный тир Claude: Haiku для быстрой маршрутизации, Sonnet для ежедневной работы, Opus для сложного agentic coding, Fable 5 для long-horizon автономии. Включает чертёж token-budget router.
Balinder WaliaЧитать 
Claude Fable 5: Полное руководство по модели Mythos-класса от Anthropic
Claude Fable 5 — это передовая модель Anthropic класса Mythos для агентов дальнего действия. Реакция сообщества, обзоры YouTube, когда его использовать и как сохранять токены.
Balinder WaliaЧитать 
Объяснение больших языковых моделей: как работают LLM и как запустить свои собственные модели на Kubernetes
Что такое большие языковые модели и как они работают? Четкое, нетехническое объяснение для менеджеров и инженеров — токены, внедрения, преобразователи, обучение и логические выводы — а также рабочий Kubernetes YAML для развертывания собственного LLM с Ollama и vLLM.
Balinder WaliaЧитать 
Распаковка Mac Studio M4 и запуск вашего первого LLM
Я распаковал Mac Studio M4 Max со 128 унифицированными памятью GB и 40 ядрами GPU, установил Ollama, запустил Llama 3.1 8B локально и построил частный конвейер RAG — и все это на одном тихом, простаивающем настольном блоке мощностью 6,48 Вт.
Balinder WaliaЧитать 
Размещение моделей искусственного интеллекта на AWS Bedrock и Azure AI Foundry: масштабируемый контроль затрат
Запустите производственный искусственный интеллект на AWS Bedrock и Azure AI Foundry с четкими шаблонами для выбора модели, кэширования, пакетной обработки, квот и FinOps, чтобы инновации не увеличивали расходы на облако.
Balinder WaliaЧитать 