MediaTek、MetaのLlama 2プラットフォームを活用し、生成AIを強化

SGGPO 2023年8月25日 10時37分

世界的な半導体企業である MediaTek は、同社の次世代オープンソース大規模言語モデル (LLM) である Meta の Llama 2 と緊密に連携していくことを発表した。

MediaTekは完全なエッジコンピューティングエコシステムの構築を目指す

MediaTek は、Meta の LLM と MediaTek の最新 APU および NeuroPilot AI プラットフォームを使用して、スマートフォン、IoT、車両、スマートホーム、その他のエッジ コンピューティング デバイスにわたる AI アプリケーション開発を加速するように設計された完全なエッジ コンピューティング エコシステムの構築を目指しています。

現在、Generative AI処理のほとんどはクラウド経由で行われています。しかし、MediaTekのLlama 2モデルを使用すれば、Generative AIアプリケーションをデバイス上で直接実行できるようになります。

これにより、スムーズなパフォーマンス、プライバシーの強化、セキュリティと信頼性の向上、レイテンシの低減、接続がほとんどまたはまったくないエリアでの作業能力の向上、運用コストの削減など、開発者とユーザーにさまざまなメリットがもたらされます。

さらに、今年後半に発表予定のMediaTekの次世代フラッグシッププロセッサは、Llama 2の実行に最適化されたソフトウェアスタックに加え、Transformerコアアクセラレーションを搭載したアップグレードされたAPU、DRAM面積と帯域幅の削減、そしてLLMとAIGC性能のさらなる向上を実現します。これらの進歩により、デバイス上でのAI生成ユースケースの迅速な開発が促進されます。