助力安全構建和規模化生成式AI應用
北京2023年11月30日 /美通社/ -- 亞馬遜云科技在2023 re:Invent全球大會上宣布推出Amazon Bedrock更多模型選擇和強大功能，幫助客戶更輕松地構建和規模化針對其業務定制的生成式AI應用程序。Amazon Bedrock是一項全面托管的服務，用戶可輕松訪問來自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜的多種行業領先大語言模型和其他模型，以及客戶構建生成式AI應用程序所需的廣泛的功能，包括確保隱私和安全的同時簡化開發。此次發布進一步降低了生成式AI應用的門檻——為客戶提供了更多行業領先的模型選擇和評估模型新功能，以簡化客戶使用相關和專有數據定制模型的方式；提供自動執行復雜任務的工具；并為客戶配備了提供負責任地構建和部署應用程序的保障。Amazon Bedrock的這些新功能為千行百業、各種規模的企業應用生成式AI的方式都帶來改變，助力企業激發創新并重塑客戶體驗。開始使用Amazon Bedrock，請訪問aws.amazon.com/bedrock。
亞馬遜云科技數據和人工智能副總裁Swami Sivasubramanian博士表示：“生成式AI有望成為我們這個時代最具變革性的技術。客戶積極應用生成式AI創造新機遇、應對業務挑戰，這給我們帶來了啟發。當客戶將生成式AI融入其業務時，他們會利用Amazon Bedrock以全托管的方式獲取領先模型、定制功能、代理功能以及企業級安全和隱私保障。有了更多觸手可及的工具，客戶可以使用Amazon Bedrock充分發揮生成式AI的潛力，創新用戶體驗、重塑業務并加速生成式AI之旅。”
企業希望在各種場景中應用生成式AI，例如提高生產效率，創新用戶體驗和開啟全新工作方式。然而，生成式AI技術正快速發展，每天都有新的服務和創新發生。在日新月異的當下，客戶的適應能力至關重要。企業需要能夠使用最新、最好的可用模型進行試驗、部署、迭代和調整，并時刻準備好迎接變化。為了應對這些挑戰，亞馬遜云科技開發了Amazon Bedrock，使一系列模型的構建和移動就像API調用一樣簡單，讓所有開發人員都可以獲得模型定制的最新技術，并確保客戶的安全和數據隱私。包括Alida、Automation Anywhere、Blueshift、寶馬集團、Clariant、Coinbase、Cox Automotive、dentsu、Druva、Genesys、Gilead、GoDaddy、Hellmann Worldwide Logistics、INRIX、KONE、LexisNexis Legal & Professional、Lonely Planet、NatWest、Nexxiot、OfferUp、宏盟集團、The PGA Tour、Proofpoint、Salesforce、西門子、竹中公司和Verint在內的眾多企業已率先采用Amazon Bedrock應用生成式AI。此次發布引入了新的模型和功能，使客戶能夠更輕松地構建和規模化生成式AI應用。
Anthropic、Cohere、Meta和Stability AI的最新模型以及亞馬遜Titan的新增功能為客戶提供了更多模型選擇
沒有一個模型適合所有場景。模型的功能、價格和性能都不盡相同。客戶需要輕松訪問各種模型選擇，多次嘗試和切換模型，最終選出最匹配需求的模型。借助Amazon Bedrock，客戶可以利用最新版本的模型快速創新，包括新推出的Anthropic Claude 2.1和Meta Llama 2 70B以及最近推出的Stability AI Stable Diffusion XL 1.0、Meta Llama 2 Chat 13B、Cohere Command Light、Cohere Embed English和Cohere Embed多語言模型——全部可通過API訪問。除了Amazon Titan Text Embeddings和Amazon Titan Text模型（現已全面可用）之外，亞馬遜云科技還提供了Titan Multimodal Embeddings和Amazon Titan Image Generator為客戶使用模型構建生成式AI應用程序提供更多選擇和靈活性。Amazon Titan模型由Amazon Bedrock獨家提供，由亞馬遜云科技在適用于各種用例的大型且多樣化的數據集上創建和預訓練，并內置對負責任地使用AI的支持。如果正式可用的Amazon Titan模型或其輸出的內容侵犯了第三方版權，亞馬遜將對使用這些模型的客戶進行賠償。
新功能可幫助客戶高效評估、比較和選擇最適合其應用場景和業務需求的模型
如今，企業擁有廣泛的模型選項來為其生成式AI應用程序提供支持。在具體應用場景中，為了在準確性和性能之間取得適當的平衡，企業必須有效地比較模型并根據其首選指標找到最佳選擇。為了比較模型，企業必須首先花幾天時間確定基準、設置評估工具并運行評估，所有這些都需要深厚的數據科學專業知識。此外，這些測試無法用于主觀標準的評估（例如，品牌聲量、相關性和風格），因為主觀標準需要通過繁瑣、耗時的人工審核進行判斷。對于每個新場景模型，這些比較所需的時間、專業知識和資源使企業望而卻步，從而限制了他們對生成式AI的使用。
Amazon Bedrock中的模型評估功能現已推出預覽版，可幫助客戶使用自動或人工評估來評估、比較和選擇適合其特定應用場景的最佳模型。在Amazon Bedrock控制臺中，客戶可以選擇他們想要針對給定任務（例如問答或內容摘要）進行比較的模型。如需自動評估，客戶可以選擇預定義的評估標準（例如準確性、魯棒性和是否含有有害內容）并上傳自己的測試數據集或從內置的公開數據集中進行選擇。對于需要復雜判斷的主觀標準或細微內容，客戶只需點擊幾下即可輕松設置基于人工的評估工作流程。這些工作流程利用客戶的內部員工隊伍或使用亞馬遜云科技提供的員工隊伍來評估模型響應。在基于人的評估過程中，客戶可以定義特定的指標（例如，相關性、風格和品牌聲量）。客戶完成設置后，Amazon Bedrock就會運行評估并生成報告，以便客戶可以輕松了解模型在關鍵標準上的表現，并可以做出最佳權衡，從而快速選擇最適合其應用場景的模型。
擴展的全新模型定制功能可幫助客戶在亞馬遜云科技上私密且安全地釋放數據價值
企業希望最大限度地釋放數據價值，以大規模提供卓越的用戶體驗，這些體驗經過獨特定制，能夠反映公司的風格、聲音和服務。Amazon Bedrock中提供的新的專門構建的功能可幫助客戶使用自己的數據私密且安全地定制模型，以構建差異化的生成式AI驅動的應用程序。
借助Amazon Bedrock代理功能，生成式AI應用程序可以使用公司系統和數據源執行多步驟任務
雖然模型能夠有效地進行對話和創建新內容，但如果能夠執行復雜的操作，例如解決問題以及與公司系統交互以完成任務（例如，旅行預定或訂購替換零件），它們可以提供更多價值。然而，這需要定制化地將模型與公司數據源、API以及內部和外部系統集成起來。開發人員必須編寫代碼來協調模型、系統和用戶之間的交互，以便應用程序可以按邏輯順序執行一系列API調用。為了將模型與數據源連接起來，開發人員必須部署RAG，以便模型可以根據任務調整其響應。最后，開發人員必須配置和管理必要的基礎設施，并制定數據安全和隱私策略。這些步驟非常耗時且需要專業知識，從而減慢了生成式AI應用程序的開發速度。
現在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI應用程序能夠跨公司系統和數據源執行多步驟任務。代理可以計劃和執行大多數業務任務，例如回答有關產品可用性的問題或接受訂單。客戶可以使用簡單的設置過程創建代理——首先選擇所需的模型，用自然語言編寫一些說明（例如，“你是一位友好的客戶服務代理”，和“在庫存系統中檢查產品庫存情況”），并開放其對公司企業系統和知識庫的訪問；代理自動分析請求并將其分解為邏輯序列，使用模型的推理功能來確定所需的信息；然后，代理通過識別要調用的API并決定何時調用它們來采取行動、滿足請求。代理還可以從專有數據源檢索所需信息，以提供準確且相關的響應。代理每次都會在后臺安全、私密地執行此過程，使客戶無需設計提示、管理會話上下文或手動編排系統。借助適用于Amazon Bedrock的代理，客戶可以提升準確性，加速生成式AI應用程序的開發。
借助Amazon Bedrock的Guardrails功能，客戶可以根據應用程序要求和負責任的AI策略跨模型實施保護措施
企業認識到需要管理生成式AI應用程序中的交互，以提供所答即所問的用戶體驗并確保安全。雖然許多模型使用內置控件來過濾不良和有害內容，但企業希望進一步定制交互，以保證話題始終與業務相關，符合公司政策，并遵守“負責任的AI”的原則。例如，銀行可能希望這樣設置其在線助手：避免查詢競爭對手、避免提供投資建議、以及限制有害內容。此外，應用戶要求，可能要變換或隱去用戶的個人身份信息（PII）以保證安全。企業可能需要更改模型、使用多個模型或跨應用程序復制策略，他們需要一種簡單的方法來同時在所有這些領域一致地部署他們的要求。這需要深厚的專業知識來構建具有此類保護措施的定制保護系統并將其集成到應用程序中，并且該過程可能需要數月時間。企業希望以一種簡化的方式在生成AI應用程序中強化關鍵策略和規則，以提供所答即所問的用戶體驗并支持更安全地使用該技術。
Amazon Bedrock的Guardrails功能現已推出預覽版，使客戶能夠為生成式 AI 應用程序實施保護措施。這些應用程序根據客戶應用場景和“負責任的AI”原則進行定制，因此這一功能可以增強用戶交互的安全性和隱私性。Guardrails功能可以提高Amazon Bedrock上的模型對應用程序中不良和有害內容的響應方式的一致性。客戶可以將Guardrails功能應用于Amazon Bedrock上的所有大型語言模型，以及微調模型并與 Amazon Bedrock代理功能結合使用。要在Amazon Bedrock控制臺中創建一個Guardrail，客戶首先使用自然語言描述來定義其應用程序中需要被拒絕的話題。客戶還可以配置仇恨言論、侮辱、性語言和暴力的閾值，以將有害內容過濾到他們想要的水平。在2024年初，客戶還可以設定模型響應中的個人身份信息（PII）的變換方法以保證安全、設置臟話過濾器，并提供自定義單詞列表來阻止用戶和模型之間的交互。Guardrails自動評估用戶查詢和模型響應，以檢測并防止出現屬于受限類別的內容。客戶可以創建多個Guardrails來支持不同的用例，也可以在多個模型中應用相同的Guardrail。Amazon Bedrock的Guardrails功能通過提供一致的用戶體驗并標準化生成型AI應用程序的安全和隱私控制，使客戶能夠安全地進行創新。
電通是全球最大的整合營銷和技術服務提供商之一。電通創新與新興技術執行副總裁Brian Klochkoff表示：“我們致力于將營銷、技術和咨詢整合起來，助力那些希望造福社會的品牌實現以人為本的轉型。生成式AI能夠讓我們以更大規模、更快速地為客戶提供服務。這項技術不會取代我們的員工，而是為我們全球72000名員工提供助力。具體來說，Amazon Bedrock為我們提供了企業級的控制能力和便捷部署第三方模型的能力，以便我們的產品和技術團隊能夠跨團隊分散使用。這讓團隊能夠在一個安全和負責任的環境下，借助最新、最前沿的生成式AI技術進行革新，為客戶打造創新機遇。”
MongoDB的使命是通過釋放軟件和數據的力量，幫助創新者創造、變革和顛覆行業。MongoDB首席產品官Sahir Azam表示：“各行各業越來越多的客戶希望利用生成式AI來構建下一代應用程序，但許多人擔心數據隱私以及人工智能驅動的系統輸出的準確性。為了滿足客戶的需求，我們將MongoDB Atlas作為Amazon Bedrock的知識庫，以便我們的共同客戶可以利用其運營數據安全地構建生成式AI應用程序，以符合最終用戶期望的信任度和準確性來創建個性化體驗。通過這種集成，客戶可以訪問行業領先的基礎模型，并使用MongoDB Atlas Vector Search處理過的數據來創建應用程序，在正確的上下文中提供更多相關的輸出。利用Amazon Bedrock知識庫中內置的數據隱私最佳實踐，客戶可以節省在生成式AI運營上花費的時間，從而更專注于技術部署，以在 亞馬遜云科技上提供更有吸引力的最終用戶體驗。”
Salesforce是領先的AI客戶關系管理（CRM）平臺，通過AI、CRM和數據的力量實現高效和可信賴的客戶體驗。Salesforce產品高級副總裁Kaushal Kurapati表示：“我們致力于幫助企業以全新、個性化的方式與客戶建立連接，AI對實現這一承諾來說不可或缺。Amazon Bedrock是我們開放模型生態戰略的重要組成部分，能夠將模型與客戶的數據無縫整合，并集成到Salesforce工作流程當中。新增的評估能力可以從多維度對比基礎模型，包括從友好性、風格和品牌相關性等定性方面進行比較，從而讓模型落地變得前所未有的簡單、快捷。”
