Ai July 22, 2024

Llama 3.1 發布:Meta 的新開源 AI 模型,您可以在任何地方微調、提煉和部署,並提供 8B、70B 和 405B 版本


post-thumb

Meta 宣布發布LLama 3.1,這是 LLama 系列中功能最強大的模型。 Llama 系列的最新版本,特別是 405B 型號,代表了開源 AI 功能的重大進步,使 Meta 處於 AI 創新的前沿。 ********

Meta 長期以來一直倡導開源人工智慧,馬克祖克柏聲稱開源有利於開發者、Meta 和社會,這也強調了這一立場。 Llama 3.1 透過在開放存取模型中提供最先進的功能來體現這一理念。該版本旨在使人工智慧民主化,為各種用戶和應用程式提供尖端技術。

🐝 加入由來自 Google + NVIDIA + Meta + 史丹佛大學 + 麻省理工學院 + 微軟等眾多研究人員閱讀的增長最快的人工智慧研究通訊…

Llama 3.1 405B 型號以其卓越的靈活性、控制力和性能而脫穎而出,甚至可以與最先進的閉源型號相媲美。它旨在支援各種應用程序,包括合成數據生成和模型蒸餾,從而使社區能夠探索新的工作流程和創新。 Llama 3.1 支援八種語言,上下文長度擴展至 128K,用途廣泛且功能強大,可滿足多種用例,例如長文本摘要和多語言會話代理程式。

圖片來源

Meta 的 Llama 3.1 版本得到了全面的合作夥伴生態系統的支持,包括 AWS、NVIDIA、Databricks、戴爾和 Google Cloud,所有合作夥伴從第一天起就提供支援該模型的服務。這種協作方法確保使用者和開發人員擁有充分利用 Llama 3.1 潛力的工具和平台,為人工智慧創新創造一個蓬勃發展的環境。

✅ [合成資料網路研討會] 了解由生成式 AI 提供支援的 Gretel 合成資料平台如何讓資料產生比以往更容易:2024 年 7 月 30 日 |太平洋時間上午 9:00,東部時間中午 12:00

圖片來源

Llama 3.1 引進了新的安全工具,例如 Llama Guard 3 和 Prompt Guard。這些功能旨在幫助開發人員負責任地構建,確保人工智慧應用程式安全可靠。 Meta 對負責任的人工智慧開發的承諾進一步體現在他們對 Llama Stack API 的評論請求中,該 API 旨在標準化並促進第三方與 Llama 模型的整合。

Llama 3.1 的發展涉及對 150 多個基準資料集、跨越多種語言和現實場景的嚴格評估。 405B 模型展示了與 GPT-4 和 Claude 3.5 Sonnet 等領先人工智慧模型的競爭性能,展示了其常識、可操縱性、數學、工具使用和多語言翻譯能力。

圖片來源

Llama 3.1 405B 模型的訓練具有里程碑意義,涉及超過 16,000 個 H100 GPU 並處理超過 15 兆個代幣。為了確保效率和可擴展性,我們對訓練堆疊進行了元優化,採用標準的僅解碼器變壓器模型架構和迭代後訓練程序。這些流程提高了合成資料產生的品質和模型效能,為開源人工智慧設定了新的基準。

為了提高模型的實用性和指令追蹤能力,Meta 採用了多輪對齊過程,包括監督微調 (SFT)、拒絕取樣 (RS) 和直接偏好最佳化 (DPO)。結合高品質的合成資料產生和過濾,這些技術使 Meta 能夠產生一個在短上下文基準測試和擴展 128K 上下文場景中都表現出色的模型。

Meta 將 Llama 3.1 設想為更廣泛的人工智慧系統的一部分,其中包括供開發人員使用的各種組件和工具。這種生態系統方法允許建立自訂代理程式和新的代理行為,並由具有範例應用程式和新安全模型的完整參考系統支援。 Llama Stack 的持續開發旨在標準化建構 AI 工具鏈元件的接口,促進互通性和易用性。

總而言之,Meta 對開源人工智慧的奉獻是因為相信它具有刺激創新和在整個社會中更均勻地分配權力的潛力。 Llama 模型權重的開放可用性允許開發人員客製化、訓練和微調模型以滿足他們的特定需求,從而促進多樣化的人工智慧應用。社區驅動的創新的例子包括人工智慧學習夥伴、醫療決策助理和醫療保健溝通工具,所有這些都是使用先前的 Llama 模型開發的。

集仕多公司開發人工智慧AI直播主,24/7 可用性:AI 直播主可以隨時隨地進行直播,無需休息,這使得它們非常適合需要長時間運營的頻道或平台。成本效益:雖然開發和維護AI 直播主需要投入一定的成本,但相比於僱用真人主播的長期薪資和福利成本,AI 直播主的運行成本相對較低。一致性和可靠性:AI 直播主能夠保持一致的表現和語調,不會受到情緒波動、疲勞或個人問題的影響,從而提供穩定的觀看體驗。多語言支持:AI 直播主可以輕鬆地支持多種語言,並且能夠快速學習和適應新的語言和方言,從而吸引更廣泛的觀眾群體。互動性:AI 直播主可以通過自然語言處理技術與觀眾進行互動,回答問題、進行即時對話,提升觀眾的參與感和互動體驗。數據分析能力:AI 直播主可以即時分析觀眾的反饋和數據,根據觀眾的偏好和行為調整內容,提高直播的吸引力和效果。創新和多樣性:AI 直播主可以根據需要進行各種創新和定制,從而創造出多樣化的內容形式和風格,滿足不同觀眾的需求。無地域限制:AI 直播主可以在任何地方進行直播,不受地理位置的限制,從而可以觸及全球的觀眾。


回到上一頁