每日經濟新聞 2024-04-24 17:56:41
◎在生成式AI爆發之際,亞馬遜云科技基于生成式AI,選擇提供三層服務架構。簡單來說就是云基礎設施服務、模型層服務、應用層服務。
每經記者 王紫薇 每經編輯 劉雪梅
北京時間4月23日晚,亞馬遜云科技(AWS)宣布,其生成式AI平臺Amazon Bedrock進行了重大功能更新。官方博客一口氣發布了8篇Amazon Bedrock相關文章,來介紹此次更新功能的全部內容。
Amazon Bedrock于去年4月份首次推出,也是當時亞馬遜云科技首次針對生成式AI的官方發布。它允許用戶通過API訪問亞馬遜云科技和眾多知名第三方基礎模型提供商的預訓練基礎模型。
《每日經濟新聞》記者了解到,誕生一年之際的這次更新,其功能升級幾乎全是面向AI方向,涵蓋了模型選擇、安全性、易用性等多個方面。
此次更新之后,最引人矚目的是對定制化模型的支持功能。
Amazon Bedrock首次支持專有模型導入,用戶能夠將本地微調后的開源模型(Llama,Mistral及Flan-T5框架)上架Bedrock,以托管API方式來調用,無需運維。只需通過點擊操作,客戶即可以在Amazon Bedrock中訪問其定制模型,無論這些模型是它通過Amazon SageMaker(在亞馬遜云科技re:Invent 2017全球大會上推出的機器學習平臺,面向AI領域和機器學習領域)開發的還是用其他的工具開發的。只需模型通過自動驗證流程后,即可使用Amazon Bedrock的一系列功能來加速其生成式AI應用開發。
此外,Agents for Amazon Bedrock現在提供簡化的創建和配置,允許開發者快速創建代理并管理跨多個系統和數據源的任務,以此提高開發效率。
此次更新還推出了更多的新模型。
在亞馬遜云科技re:Invent2023上推出的Amazon Titan Image Generator圖像生成模型目前已經在Amazon Bedrock上正式可用。Amazon Titan Image Generator支持一系列新的圖像生成和編輯功能,同時引入了水印檢測API,幫助用戶識別AI生成的圖像,以減少誤導性內容的傳播。
本周Meta剛剛發布的Meta Llama 3兩款模型(8B和70B),也已登陸Amazon SageMaker和Amazon Bedrock。新版的Amazon Titan Text Embeddings V2模型和來自Cohere(加拿大的AI獨角獸)的Command R和Command R+模型也即將登陸Amazon Bedrock。
Amazon Bedrock Guardrails功能目前也正式可用,可以為AI應用提供了一套安全保護措施,能夠自定義內容策略,過濾敏感信息,保護用戶隱私,確保AI應用符合倫理和合規性要求。
在知識庫方面,Amazon Bedrock知識庫功能支持通過跨賬號的數據源構建知識庫和Ephemeral RAG(和文檔聊天)跨賬號的數據源構建知識庫可以允許用戶無縫地聚合和使用來自各種來源的信息,從而提高了知識庫的全面性和準確性;Ephemeral RAG讓用戶能夠直接上傳文件而無需使用向量數據庫的方式來快速構建RAG,便于快速測試驗證。
Amazon Bedrock的這些功能更新,不僅提升了AI應用的開發效率和用戶體驗,同時也加強了對安全性和合規性的控制。據稱,Amazon Bedrock Guardrails功能正式可用,可以控制FM輸出內容合規性,實現負責任AI。它在基礎模型的原生能力之上提供了安全保護,能夠幫助客戶阻止高達85%的有害內容。這些創新為AI技術的商業應用開辟了新的可能性,預計將在金融、醫療、娛樂等多個行業中產生深遠影響。
自2023年生成式AI爆發以來,云服務商最大的感受就是,企業上云這件事,不需要費力驅動。
《每日經濟新聞》記者注意到,亞馬遜云科技AI和數據副總裁Swami Sivasubramanian此次也在署名博客里表示,企業應用Amazon Bedrock正呈現爆炸式增長。
二十多年來,亞馬遜一直關注人工智能和機器學習。上述的亞馬遜云科技機器學習平臺Amazon SageMaker于2017年推出,它的功能包括從數據標注到數據訓練、再到部署、上線以后的持續監控以及基于原始數據的再迭代等端到端的能力。在生成式AI大模型出現之前,就已經非常成熟地幫用戶解決問題。
在生成式AI爆發之際,亞馬遜云科技基于生成式AI,選擇提供三層服務架構。簡單來說就是云基礎設施服務、模型層服務、應用層服務。
AWS 亞馬遜云計算服務平臺 圖片來源:每日經濟新聞 資料圖
云基礎設施服務。這一層包括自研芯片和AMD、Intel和Nvidia的芯片,以及Amazon SageMaker等相關服務,是亞馬遜云科技的王牌產品,也是亞馬遜云科技之前一直強化的重點。目前,亞馬遜云科技基礎設施遍及33個地理區域的105個可用區,并計劃在馬來西亞、墨西哥、新西蘭、沙特阿拉伯和泰國等新建6個區域、18個可用區。
模型層就是以Amazon Bedrock為代表的云托管服務,也是此次功能更新迭代的重點。
應用層,即生成式AI驅動的應用程序。主要包括生成式AI助手Amazon Q、實時AI編程助手Amazon CodeWhisperer等。
Amazon Q于去年11月在re:Invent大會上發布,這是一種新型生成式AI支持的助手,可以根據客戶業務進行定制,專門用于滿足辦公場景需要。
Swami Sivasubramanian同時表示:隨著今天新功能的推出,AWS將繼續快速創新,進一步推動生成式AI的大規模普及。
封面圖片來源:每日經濟新聞 資料圖
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權,嚴禁轉載或鏡像,違者必究。
讀者熱線:4008890008
特別提醒:如果我們使用了您的圖片,請作者與本站聯系索取稿酬。如您不希望作品出現在本站,可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP