Квантование простыми словами на PyTorch: посттренировочное квантование и обучение с учетом кванто...

В этом видео я познакомлю вас с квантизацией и объясню её суть: сначала мы немного поговорим о числовом представлении целых чисел и чисел с плавающей запятой в компьютерах, а затем рассмотрим, что такое квантизация и как она работает. Я изучу такие темы, как асимметричная и симметричная квантизация, диапазон квантизации, гранулярность квантизации, динамическая и статическая квантизация, квантизация после обучения и обучение с учётом квантизации. Код: https://github.com/hkproj/quantization-notes PDF-слайды: https://github.com/hkproj/quantization-notes Разделы 00:00 - Введение 01:10 - Что такое квантизация? 03:42 - Целочисленное представление 07:25 - Представление с плавающей запятой 09:16 - Квантование (подробности) 13:50 - Асимметричное и симметричное квантование 15:38 - Асимметричное квантование 18:34 - Симметричное квантование 20:57 - Асимметричное и симметричное квантование (код на Python) 24:16 - Динамическое квантование и калибровка 27:57 - Блок умножения-накопления 30:05 - Стратегии выбора диапазона 34:40 - Гранулярность квантования 35:49 - Квантование после обучения 43:05 - Квантование с учетом обучения