Meta Llama 3基礎模型現已在亞馬遜云科技正式可用Meta Llama 3基礎模型現已在亞馬遜云科技正式可用
供稿 / 2024-04-19 19:155649北京——2024年4月19日 亞馬遜云科技宣布，Meta剛剛發布的兩款Llama 3基礎模型Llama 3 8B和Llama 3 70B現已在Amazon SageMaker JumpStart中提供。這兩款模型是一系列經過預訓練和微調的生成文本模型，上下文長度為8k，能夠支持廣泛的用例，并在推理、代碼生成和指令跟隨等方面有所改進?？蛻艨梢栽贏mazon SageMaker JumpStart中輕松發現、部署Llama 3基礎模型，并運行推理。
Llama 3提供兩種參數大小的模型——8B和70B，上下文長度為8k，能夠支持廣泛的用例。Llama 3使用了僅含解碼器的Transformer架構，以及高達128k規模的新型分詞器，極大提升了模型的性能。此外，Meta改進的訓練后處理程序大幅降低了誤拒率，提高了模型響應的一致性和多樣性。
Amazon SageMaker JumpStart提供預訓練的模型、內置算法和預構建的解決方案，幫助客戶快速開始機器學習項目。Amazon SageMaker JumpStart能夠幫助客戶從廣泛的公開可用基礎模型中進行選擇，并將基礎模型部署到專用的SageMaker實例中，這些實例置于網絡隔離的環境，并可以使用SageMaker進行模型訓練和部署。
客戶現在可以在Amazon SageMaker Studio中通過幾次點擊或通過SageMaker Python SDK編程方式發現并部署Llama 3模型，還可以利用SageMaker Pipelines、SageMaker Debugger或容器日志等功能，提升模型性能并實施MLOps控制。此外，該方式部署的模型始終處在亞馬遜云科技的安全環境下，由客戶的VPC控制，以確保數據安全。
Meta Llama 3基礎模型現已在Amazon SageMaker Studio的美東（北弗吉尼亞州）、美東（俄亥俄州）、美西（俄勒岡州）、歐洲（愛爾蘭）和亞太（東京）區域提供部署和推理服務。
關于亞馬遜云科技
自2006年以來，亞馬遜云科技（Amazon Web Services）一直以技術創新、服務豐富、應用廣泛而享譽業界。亞馬遜云科技一直不斷擴展其服務組合以支持幾乎云上任意工作負載，目前提供超過240項全功能的服務，涵蓋計算、存儲、數據庫、網絡、數據分析、機器學習與人工智能、物聯網、移動、安全、混合云、媒體，以及應用開發、部署與管理等方面；基礎設施遍及33個地理區域的105個可用區，并已公布計劃在馬來西亞、墨西哥、新西蘭、沙特阿拉伯和泰國等新建6個區域、18個可用區。全球數百萬客戶，包括發展迅速的初創公司、大型企業和領先的政府機構，都信賴亞馬遜云科技，通過亞馬遜云科技的服務支撐其基礎設施，提高敏捷性，降低成本。要了解更多關于亞馬遜云科技的信息，請訪問：www.amazonaws.cn。
滬公網安備 31010702005758號
發表評論注冊|登錄