Вентильный рекуррентный блок (GRU) | Сброс и обновление вентиля | Карусель постоянных ошибок | По...

📘 Примечания: https://robosathi.com/docs/natural_language_processing/gru/ 🎥 Плейлист по НЛП: https://www.youtube.com/playlist?list=PLnpa6KP2ZQxcDlHCeNiKbRhLWKVunQaxn 🎥 LSTM: https://www.youtube.com/watch?v=AJy9U2YFAtI 🎥 RNN: https://www.youtube.com/watch?v=jSj1STepMA8 🎥 BPTT: https://www.youtube.com/watch?v=-6aCFeOu4ng ✅ В этом видео описывается, как вентильный рекуррентный блок улучшает архитектуру LSTM, уменьшая количество вентилей и параметров в модели. ✅ ✅ Мы также подробно разберем с помощью математики: 👉 Вентили сброса и обновления, 👉 Обратное распространение ошибки во времени 👉 Карусель постоянных ошибок 🕔 Временная метка 🕘 00:00:00 - 00:01:55 Введение 00:01:56 - 00:02:44 Проблемы с архитектурой LSTM 00:02:45 - 00:03:52 Что такое GRU? 00:03:53 - 00:06:11 Ячейка памяти GRU 00:06:12 - 00:06:54 Архитектура GRU 00:06:55 - 00:08:07 Вентиль сброса 00:08:08 - 00:10:28 Кандидат на скрытое состояние 00:10:29 - 00:13:39 Вентиль обновления 00:13:40 - 00:14:45 Объяснение использования сигмоиды, TanH и поэлементного скалярного произведения 00:14:46 - 00:15:58 Сдвиг контекста 00:15:59 - 00:16:44 Текущий вход игнорируется 00:16:45 - 00:18:58 Поведение по умолчанию (RNN) 00:18:59 - 00:22:11 Назад Распространение во времени (BPTT) 00:22:12 - 00:23:51 Карусель постоянных ошибок 00:23:52 - 00:25:02 Сводка по всем вентилям 00:25:03 - 00:26:22 Далее: Механизм внимания