雲端管理者必看!如何運用生成式AI更好管控雲端成本?

目錄

管理雲端成本和了解雲端資源使用情況可說是非常艱鉅的任務,尤其對於在 AWS 上部署相當多應用程式的企業來說,更是如此。AWS 成本與使用報告 (AWS Cost and Usage Report, CUR) 提供了許多不同維度的數據洞察,但解讀和查詢這些原始的成本數據卻相當具有挑戰性。 

這也引發營運者的好奇,該怎麼樣才能夠更加有效地管理雲端成本?博弘雲端今天將介紹運用 Amazon Bedrock 與 Amazon Athena 的解決方案,藉由生成式人工智慧 (AI) ,並且根據使用者的自然語言問題,自動生成 SQL 查詢。簡化資料庫中的 CUR 數據的過程,讓數據更容易理解,達到成本管控的重要目標!

如何使用Amazon Bedrock 進行降本增效?

過往雲端運營者在查看成本報告的時候,常常會遇到三個挑戰,從而導致潛在的效率低下、過度雲端成本支出,以及錯失成本優化的機會:

  • SQL 查詢的複雜性 – 撰寫 SQL 查詢以從 CUR 數據中找到洞察是相當繁雜的工程,尤其對於非技術人員或不熟悉 CUR 數據結構的使用者來說,更加劇其成本管理的難度。 
  • 數據的可訪問性 – 使用者要從資料庫中的結構化數據中獲得洞察,必須取得資料庫訪問權限,但來回訪問這些數據,可能對整體數據保護構成潛在威脅。
  • 使用者友善性 – 傳統的 CUR 數據分析方法往往缺乏友善的介面,這讓非技術使用者難以充分利用隱藏在數據中的寶貴洞察。

因此,對於工程技術人員來說,倘若利用 Amazon Bedrock 的生成式AI工具來簡化這些問題,對整體企業在提升營運效能和增加彈性上也有很大的幫助。透過聊天機器人的形式,讓使用者可以用自然語言詢問與 AWS 成本和使用情況相關的問題。根據營運管理人員的輸入生成 SQL 查詢,並在包含 CUR 數據的 Athena 資料庫中執行這些查詢,然後以友善的格式呈現結果。這個應用程式結合了生成式AI、SQL 生成、資料庫查詢以及直觀的網頁介面,提供了一個無縫的體驗來分析 CUR 數據。

不過您也好奇,除了 Amazon Bedrock 之外,該繼續部署哪些AWS 解決方案,建構互動式的成本和用量自動回覆機器人,以協助營運人員達到智能管理與即時查詢成本用量的目的?

透過一道指令,就能查詢目前AWS帳戶中各項服務的資源使用狀況,究竟是怎麼辦到的?(圖片來源:AWS blog)

AWS 架構部署解析:節省雲端用量與成本!

在本次的架構部署當中,有三個關鍵,首先是將AWS成本與用量報告的資料,以及應用程式、VPC和伺服器的日誌資料串接到 Amazon S3 當中,接續是使用 Amazon Athena 互動式SQL 無伺服器查詢服務,來存取並查詢儲存在 Amazon S3 中的 CUR 數據。最後則是透過Amazon Bedrock 生成式AI的服務,來完成「成本管理的最後一哩路」,透過以下四個步驟與架構圖,讓您更清楚了解如何部署「雲端用量分析」的應用程式:

  1. Streamlit 應用程式將使用者的輸入發送到 Amazon Bedrock,由 LangChain 應用程式協助進行整體調度。
  2. LangChain 代碼使用 LangChain 的 BedrockChat 類別來調用基礎模型 (FM),並與 Amazon Bedrock 互動,根據使用者的輸入生成 SQL 查詢。
  3. 生成的 SQL 查詢通過 Amazon Bedrock 的基礎模型在 Athena 資料庫上運行,查詢儲存在 Amazon S3 中的 CUR 數據。 查詢結果返回到 LangChain 應用程式。
  4. LangChain 將 SQL 查詢和查詢結果發送回 Streamlit 應用程式。 Streamlit 應用程式以格式化且使用者友善的方式向使用者展示 SQL 查詢和查詢結果。

AWS 雲端架構運用 Amazon Athena 與 Amazon Bedrock,打造雲端成本與用量查詢的應用程式(圖:AWS Blog)

透過生成式AI的工具,也能夠讓營運人員輕鬆進行成本管理,無需花上過多的程式撰寫時間,就能掌握組織內部運用AWS資源的情況。除此之外,管理人員更可以藉由這項工具,提升成本的可訪問性,無需擁有資料庫的憑證,獲取重要洞察。如此一來,管理人員既可以維護在AWS上運行應用程式的安全性,同時也可以節省時間,增加 AWS 成本和使用情況的透明度,有助於做出更好的成本優化和資源管理決策。

AICOM 助攻管理者實現完善雲端運營!

您也苦於無法有完善的成本控管策略,以及不曉得該從何開始部署生成式AI應用程式來提高效率嗎?博弘雲端擁有專業的生成式AI解決方案團隊,以及自行研發的 AICOM 產品,讓您輕鬆管理雲端資源,達到營運效能彈性。

為了滿足企業客戶日益增長的雲端需求,加上不少客戶遇到雲端管理上的「成本用量」問題,因此博弘雲端加大投入技術研發,推出AICOM自有產品解決方案,提供預測分析、節費和營運優化等功能。隨著國際業務擴展,AICOM更上架於AWS Marketplace,為全球客戶提供更智能的雲端資源管理體驗。不僅如此,AICOM助力企業實現一站式的卓越營運,從跨組織的雲端帳戶管理,再到動態報表的即時資料,運用集中式的戰情中心,建構良好又安全的雲端環境。

除了運用AWS的生成式AI解決方案來部署成本與用量的查找之外,運用博弘雲端的AICOM 也能掌握雲端資源的狀況,提升可視性!立即與我們的專業顧問聯繫,掌握運用AI管理雲端成本的密技!