ИИ, квантовые вычисления, передовая упаковка и новые материалы (10 минут)

Искусственный интеллект, квантовые вычисления, передовые технологии упаковки и новые материалы — как они связаны Эти четыре области сходятся в единую тему: вычисления становятся «системной инженерией». Прогресс теперь зависит не столько от прорыва в области отдельных транзисторов, сколько от архитектур (ИИ), новых вычислительных парадигм (квантовые вычисления), интеграции (передовые технологии упаковки) и материалов, обеспечивающих масштабирование мощности/тепловых характеристик/межсоединений (новые материалы). 1) ИИ: рабочая нагрузка, которая заставляет аппаратное обеспечение меняться Что движет этим Современный ИИ (особенно глубокое обучение) в значительной степени основан на плотной линейной алгебре (умножение матриц/свертка) и все больше на пропускной способности памяти и межсоединениях (перемещение активаций/весов). Масштабирование моделей увеличивает нагрузку на: пропускную способность HBM задержку и пропускную способность межкристальных каналов связи питание (сотни и тысячи ампер при низком напряжении) охлаждение (стойки класса кВт; высокий тепловой поток на корпусах) В итоге Ускорители ИИ все чаще представляют собой многокристальные системы (чиплеты), а не один огромный монолитный кристалл. Повышение производительности достигается за счет совместной оптимизации вычислительных ресурсов + памяти + корпуса + сети. 2) Квантовые вычисления: новый вычислительный метод, но жестко ограниченный законами физики В чем его потенциальные возможности Квантовое моделирование (химия, материалы) Определенные режимы математики/оптимизации/выборки (с оговорками) Почему упаковка и материалы здесь имеют еще большее значение Квантовое оборудование часто ограничено: шумом (декогеренция, потери, двухуровневые дефекты) узкими местами в проводке и вводе/выводе (передача сигналов без нагрева) криогенной совместимостью (температуры в милликельвинах для сверхпроводящих кубитов) «Компьютер» — это в равной степени радиочастотная/микроволновая инженерия + чистота материалов + упаковка, как и алгоритмы. Итог Квантовые вычисления не являются заменой чипам ИИ; это специализированный ускоритель, жизнеспособность которого в значительной степени зависит от инноваций в упаковке/материалах (и коррекции ошибок). 3) Передовые технологии упаковки: новый «множитель закона Мура» Передовые технологии упаковки позволяют отрасли сохранять масштабируемость системных возможностей, когда масштабирование на одном кристалле становится дорогостоящим. Основные технологии (что они дают) Чиплеты (2D / 2.5D): сочетание технологических узлов (например, передовые вычислительные возможности + зрелые интерфейсы ввода-вывода/аналоговые интерфейсы) 2.5D интерпозеры (кремниевые или органические): высокоплотная трассировка; обеспечивает HBM + логику с огромной пропускной способностью 3D-стекирование: TSV (вертикальные переходные отверстия) для стеков памяти и некоторых логических элементов Гибридное соединение для сверхмалого шага кристаллов (короткие, широкие соединения с низким энергопотреблением на бит) Разветвление (FOWLP / тенденции на уровне панелей): более тонкие корпуса, хорошие электрические характеристики, другая кривая стоимости Почему ИИ любит передовые технологии упаковки ИИ нуждается в памяти и межсоединениях: Интеграция HBM — это, по сути, достижение в области упаковки. Масштабирование чиплетов часто ограничивается пропускной способностью, задержкой и энергопотреблением между кристаллами — опять же, из-за упаковки. Что сейчас решает упаковка: Целостность сигнала на частотах в десятки ГГц Подача питания (низкоимпедансная система распределения питания, концепции питания с обратной стороны, толстый слой меди, передовые подложки) Теплоотводы (теплораспределители, испарительные камеры, жидкостное охлаждение, прямая подача на кристалл, инновации в термоинтерфейсных материалах) Выход годных изделий + деформация + надежность при огромных размерах корпусов