Несколько нейронок на llama-swap

12+
12+

2 просмотра

5 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

2 просмотра

5 дней назад

ПожаловатьсяНарушение авторских прав
12+
12+

2 просмотра

5 дней назад

Плейлист по нейронкам: - https://rutube.ru/plst/1813816 Ресурсы: - llama.cpp: https://github.com/ggml-org/llama.cpp - Gemma 4: https://huggingface.co/unsloth/gemma-4-12B-it-qat-GGUF - Qwen3.6: https://huggingface.co/unsloth/Qwen3.6-27B-GGUF - llama-swap: https://github.com/mostlygeek/llama-swap Эпизоды: - 00:00 О Gemma 4 и Qwen3.6 - 01:40 Проблема переключения моделей - 03:16 Решение: llama-swap - 04:09 Варианты установки - 05:18 Готовые бинарники - 06:35 Подготовка демо - 07:30 config.yaml для llama-swap - 11:40 Запуск llama-swap - 12:40 Обзор веб-интерфейса - 14:05 Статистика по активности - 16:06 Быстрый доступ к моделям - 17:30 Техническая информация по моделям - 18:08 Мониторинг системы - 19:00 Добавление флага --preserve-reasoning - 21:40 Фиксирование объема контекста - 24:30 Что решил llama-swap и что ещё доступно