Теория информация: Энтропия.

00:00:00 Введение в энтропию 00:01:39 Формула энтропии 00:04:27 Пример с монеткой 00:07:46 Пример с кубиком 00:09:32 Условная энтропия 00:12:00 Свойства условной энтропии 00:13:01 Коэффициент Тиля 00:14:01 Крайние значения коэффициента Тиля 00:15:12 Кросс-энтропия в машинном обучении 00:17:23 Расчёт кросс-энтропии 00:19:27 Дивергенция Кульбака-Лейблера 00:20:21 Применение кросс-энтропии в классификации 00:23:49 Формула кросс-энтропии для бинарной классификации 00:25:16 Введение в кросс-энтропию 00:26:25 Пример расчёта кросс-энтропии 00:28:10 Применение кросс-энтропии в PyTorch 00:30:03 Обучение нейросетки на реальных данных 00:31:24 Результаты обучения 00:35:24 Заключение 00:38:11 Вопрос от аудитории 00:39:31 Введение в энтропию 00:40:09 Применение энтропии в теории информации 00:41:08 Рост энтропии 00:41:43 Вопросы и ответы 00:42:30 Решающие деревья и энтропия 00:43:59 Свойства энтропии в решающих деревьях