亞馬遜雲端運算服務（AWS）宣布推出生成式AI建構工具，支援四個大型語言模型

亞馬遜雲端運算服務（AWS）於日前推出了用於建構生成式AI的工具「Amazon Bedrock」。目前以有限預覽版形式提供。

「Amazon Bedrock」支援四個大型語言模型，包括生成式AI系統開發公司AI21 Labs、Anthropic、Stability AI，以及亞馬遜自有的大型語言模型（LLM）皆可透過API使用。其中，使用者可以利用多種基礎模型來建構生成式AI應用程式，包含亞馬遜自有的「Amazon Titan」、AI21 Labs的「Jurassic-2」、Anthropic的「Claude」以及Stability AI的「Stable Diffusion」。「Amazon Bedrock」的模型定制簡易，使用者只需對Bedrock指示約20個已在Amazon S3上儲存的標籤範例，就可以針對特定任務微調模型，而無需註釋大量數據。

Amazon Titan提供了兩種模型，其一為大型語言生成模型，其二為嵌入式大型語言模型。其與傳統的機器學習模型不同，透過事先接觸網路上各種形式的資料和模式，學習各種情況下的應用，進而根據特定領域的需求執行自定義功能。自定義基礎模型可以展現公司的品牌形象與服務，因此可以在多元的行業中創造獨特的客戶體驗。

AWS也推出了「Amazon EC2 Trn1n」和「Amazon EC2 Inf2」，作為執行、建構和自定義基礎模型的基礎設施。「Trn1n」實例不同於其他EC2實例，透過多個伺服器分散訓練，將訓練成本降低了50%。「Inf2」則是具備加速器之間超高速連接以支持大規模分散式推理。

此外，「Amazon CodeWhisperer」是一個利用機器學習提供代碼建議的服務，支援Python、Java、JavaScript、TypeScript、C#等多達10種語言提供機器學習代碼建議。該服務不僅可以從公開的數十億行代碼中進行學習，還可以透過Amazon的代碼進行訓練。這些創新的解決方案將有助於企業更好地應對挑戰，並開拓出更多的可能性。

資料來源：my navi新聞（2023-04-14）
【原文/出處】