SGGPO
世界的な半導体企業である MediaTek は、同社の次世代オープンソース大規模言語モデル (LLM) である Meta の Llama 2 と緊密に連携していくことを発表した。
MediaTekは完全なエッジコンピューティングエコシステムの構築を目指す |
MediaTek は、Meta の LLM と MediaTek の最新 APU および NeuroPilot AI プラットフォームを使用して、スマートフォン、IoT、車両、スマートホーム、その他のエッジ コンピューティング デバイスにわたる AI アプリケーション開発を加速するように設計された完全なエッジ コンピューティング エコシステムの構築を目指しています。
現在、ほとんどの生成 AI 処理はクラウド コンピューティングを通じて行われています。ただし、MediaTek の Llama 2 モデルを使用すると、生成 AI アプリケーションをデバイス上で直接実行できるようになります。
これにより、スムーズなパフォーマンス、プライバシーの強化、セキュリティと信頼性の向上、レイテンシの低減、接続がほとんどまたはまったくないエリアでの作業能力の向上、運用コストの削減など、開発者とユーザーにさまざまなメリットがもたらされます。
エッジ コンピューティング デバイスで生成 AI テクノロジーを真に活用するには、エッジ コンピューティング デバイスのメーカーが、ハイエンドの低消費電力 AI プロセッサと、より高速で信頼性の高い接続を採用して、コンピューティング機能を強化する必要があります。現在、MediaTek が開発したすべての 5G モバイル チップには、AI ノイズ低減、AI 解像度向上など、さまざまな生成 AI 機能を実行するように設計された APU が搭載されています。
さらに、今年後半に発表される予定の MediaTek の次世代フラッグシップ プロセッサには、Llama 2 を実行するために最適化されたソフトウェア スタックと、Transformer コア アクセラレーションを備えたアップグレードされた APU が搭載され、DRAM アクセス領域と帯域幅の使用量を削減し、LLM と AIGC のパフォーマンスをさらに強化します。これらの進歩により、デバイス上の生成 AI のユースケースを迅速に構築できるようになります。
MediaTekは、今年後半に市場投入が予定されている同社の次世代主力SoCを搭載したスマートフォンで、Llama 2ベースのAIアプリケーションが利用可能になると予想している。
[広告2]
ソース
コメント (0)