Hermes на локальной модели: подключи ЭТО и забудь про лимиты

📌 Мой телеграм и все ссылки и команды из видео здесь: https://t.me/BlogHinkoK Я научил Hermes делать всю рутину бесплатно, на локальной модели прямо на компе. Облачный GPT при этом остаётся мозгом для сложного, а локалка просто забирает рутину, которая раньше жгла мои токены и лимиты. В этом видео показываю, как поставить локальную модель и подключить её к Гермесу по шагам. Я всё собрал и протестировал сам: ставим Ollama, подбираем модель под своё железо, поднимаем контекст, чтобы агент не тупил, и настраиваем связку, где GPT думает, а локальная модель пашет на фоне. 🔗 Плейлист про Hermes: ▪️https://www.youtube.com/playlist?list=PLmavsR3dM6TMqmpF1qNTWgTqRGMxYuES2 📌 Все мои соц. сети https://www.hinkok.link Таймкоды: 0:00 Вступление 0:47 Что такое локальная модель 1:32 От чего зависит качество: память и мощность 2:04 Размер модели и сравнение с GPT 3:37 Скачиваем Ollama и выбираем модель под железо 4:52 Установка и первый запуск 5:19 Увеличиваем контекстное окно 6:04 Привязываем модель к Гермесу 7:14 Фейковый контекст для слабых компьютеров 8:24 Тест на голосовой заметке #hermes #ollama #hinkok

Иконка канала В мире Соты
10 подписчиков
12+
4 просмотра
15 дней назад
12+
4 просмотра
15 дней назад

📌 Мой телеграм и все ссылки и команды из видео здесь: https://t.me/BlogHinkoK Я научил Hermes делать всю рутину бесплатно, на локальной модели прямо на компе. Облачный GPT при этом остаётся мозгом для сложного, а локалка просто забирает рутину, которая раньше жгла мои токены и лимиты. В этом видео показываю, как поставить локальную модель и подключить её к Гермесу по шагам. Я всё собрал и протестировал сам: ставим Ollama, подбираем модель под своё железо, поднимаем контекст, чтобы агент не тупил, и настраиваем связку, где GPT думает, а локальная модель пашет на фоне. 🔗 Плейлист про Hermes: ▪️https://www.youtube.com/playlist?list=PLmavsR3dM6TMqmpF1qNTWgTqRGMxYuES2 📌 Все мои соц. сети https://www.hinkok.link Таймкоды: 0:00 Вступление 0:47 Что такое локальная модель 1:32 От чего зависит качество: память и мощность 2:04 Размер модели и сравнение с GPT 3:37 Скачиваем Ollama и выбираем модель под железо 4:52 Установка и первый запуск 5:19 Увеличиваем контекстное окно 6:04 Привязываем модель к Гермесу 7:14 Фейковый контекст для слабых компьютеров 8:24 Тест на голосовой заметке #hermes #ollama #hinkok

, чтобы оставлять комментарии