MediaTek использует платформу Llama 2 от Meta для улучшения генеративного ИИ

СГГПО 25.08.2023 10:37

MediaTek, глобальная компания по производству полупроводников, объявила о тесном сотрудничестве с Meta Llama 2 — открытой языковой моделью следующего поколения (LLM).

MediaTek стремится создать полноценную экосистему периферийных вычислений

Используя LLM от Meta, а также новейшие APU от MediaTek и платформу искусственного интеллекта NeuroPilot, MediaTek стремится создать полноценную экосистему периферийных вычислений, предназначенную для ускорения разработки приложений ИИ для смартфонов, Интернета вещей, транспортных средств, умных домов и других периферийных вычислительных устройств.

В настоящее время большая часть обработки данных с помощью генеративного ИИ выполняется в облаке. Однако использование моделей MediaTek Llama 2 позволит запускать приложения генеративного ИИ непосредственно на устройстве.

Это обеспечивает разработчикам и пользователям ряд преимуществ, включая бесперебойную работу, улучшенную конфиденциальность, большую безопасность и надежность, меньшую задержку, улучшенную возможность работы в областях с небольшим или отсутствующим подключением, а также меньшие эксплуатационные расходы.

Чтобы по-настоящему использовать возможности генеративного ИИ на периферийных вычислительных устройствах, производителям периферийных устройств потребуется внедрить высокопроизводительные, энергоэффективные ИИ-процессоры и более быстрое и надежное подключение для расширения вычислительных возможностей. Каждый из современных мобильных чипов MediaTek 5G оснащен APU, предназначенным для реализации различных функций генеративного ИИ, таких как шумоподавление, повышение разрешения и многое другое.

Кроме того, флагманский процессор MediaTek следующего поколения, который, как ожидается, будет представлен позднее в этом году, будет оснащен оптимизированным программным стеком для работы Llama 2, а также модернизированным APU с ускорением ядра Transformer, уменьшенным объемом памяти DRAM и использованием полосы пропускания, а также улучшенной производительностью LLM и AIGC. Эти усовершенствования способствуют быстрой разработке сценариев использования генеративного ИИ на устройствах.

MediaTek ожидает, что ИИ-приложения на базе Llama 2 будут доступны на смартфонах, оснащенных ее флагманской SoC следующего поколения, выход которой на рынок ожидается в этом году.

Источник