Пиковая мощь ИИ с LiteRT

Источником является сообщение в блоге разработчиков Google, датированное 24 ноября 2025 года, в котором подробно описывается значительное объявление, касающееся LiteRT, высокопроизводительной ML-платформы Google для устройств. В статье представлена LiteRT Qualcomm AI Engine Direct (QNN) Accelerator, разработанная в сотрудничестве с Qualcomm, которая позволяет разработчикам использовать специализированный NPU (Neural Processing Unit), имеющийся в большинстве современных чипов Qualcomm. В тексте утверждается, что NPU обеспечивает существенное повышение производительности — вплоть до 100-кратного ускорения по сравнению с CPU и 10-кратного по сравнению с GPU — для сложных задач генеративного искусственного интеллекта (GenAI). Кроме того, в нем описывается, как новый ускоритель упрощает рабочий процесс развертывания, обеспечивая унифицированное API и автоматическую поддержку различных SoC, а также демонстрируются результаты высокой пропускной способности при использовании больших языковых моделей (LLM), таких как FastVLM. В заключение, в блоге предлагается трехэтапное руководство для начала работы, включая компиляцию Ahead-of-Time (AOT) и развертывание с помощью Google Play for On-device AI (PODAI). Узнайте больше: https://developers.googleblog.com/en/unlocking-peak-performance-on-qualcomm-npu-with-litert/ Подпишитесь на Viber канал автора: https://viber.page #Google #LiteRT #ИИ #LLM #GoogleDevelopers #dev #Qualcomm #NPU