高通實現Meta Llama 3在搭載Snapdragon的裝置上運行。圖／高通提供

在人工智能浪潮襲捲全球的當下，高通技術公司與Meta宣布達成重要合作，將Meta最新開源的大型語言模型Llama 3最佳化，實現在搭載高通Snapdragon旗艦平台的終端設備上直接本地運行。

高通長期專注於推動終端設備AI的發展。此次與Meta的合作無疑將為市場帶來顛覆性的變革；Llama 3作為Meta最新一代大型語言模型，在自然語言處理、內容生成等領域展現出驚人的能力。一旦移植到終端設備之上，勢必引發全方位應用的創新浪潮。

Llama 3能在終端設備本地運行，意味著無需網路連線，即可實現多種AI應用場景，包括語音辨識、智慧問答、內容創作等，極大提升了實時反應能力。更重要的是，數據完全存儲在設備內部，杜絕了來自網路傳輸環節的隱私和安全隱憂。

關鍵在於高通業界領先的CPU、GPU、神經網路處理器(NPU)等硬體，加上精心設計的記憶體系統和軟體算法，使大型模型能在移動平台高效、穩定地運行，充分釋放性能的同時兼顧功耗和散熱，為終端AI應用的發展揭開新的大門。

高通資深副總裁暨技術規劃和邊緣解決方案業務總經理Durga Malladi表示：「我們與Meta的深度合作，旨在讓開發者能夠輕鬆存取各種資源，將Llama 3的強大功能充分引入Snapdragon生態系統，催化新一代令人興奮的AI創新浪潮。」

事實上，高通已經在自家的Qualcomm AI Hub上整合近百個經過高度優化的AI模型和工具，供開發者直接調用。透過這一合作，Qualcomm AI Hub將為開發者提供更多支持，協助他們加快在Snapdragon平台上部署Llama 3的進程。

對消費者而言，這場AI革命正在悄然到來。未來，將在手機、平板、PC乃至VR／AR設備等終端上，體驗到更智能、更個性化、也更安全可靠的AI助手，實現人機交互的嶄新高度。