Amazon OpenSearch Service強化AI代理偵錯與監控 單一介面提升雲端可觀測性

Date:

圖/本報AI製圖(示意圖)

商傳媒|責任編輯/綜合外電報導

Amazon OpenSearch Service 近日整合了應用程式監控、原生的 Amazon Managed Service for Prometheus 功能以及人工智慧(AI)代理追蹤能力,並將這些服務統一匯集到 OpenSearch UI 的可觀測性工作區中。這項升級為開發者和 IT 專業人士提供單一介面,旨在大幅提升雲端系統的監控與除錯效率。

統一遙測數據提升診斷效率

這項新的整合讓使用者能夠在 OpenSearch UI 中,直接透過 PromQL 查詢 Prometheus 指標,同時檢視儲存在 Amazon OpenSearch Service 中的日誌(logs)與追蹤(traces)。過去,這些不同類型的遙測數據往往分散在不同工具中,現在則能實現一站式的資料關聯分析,有助於 IT 團隊快速識別系統問題。根據《Amazon Web Services》的報導,其目的在於提供一個統一的平台,簡化複雜雲端環境的營運管理。

AI代理追蹤深化除錯能力

特別針對 AI 代理(AI agent)的應用場景,Amazon OpenSearch Service 導入了 AI 代理追蹤功能,使開發者能追溯 AI 代理的完整推理鏈(reasoning chain),甚至精確定位到導致錯誤的工具呼叫。報導指出,由於 AI 代理的行為不像傳統微服務(microservices)那般具有確定性,它們會根據大型語言模型(LLM)的回應、工具執行結果及連鎖推理(chained reasoning)做出自主決策,因此需要捕捉 AI 特定訊號的語義追蹤(semantic tracing)來進行根本原因分析。

例如,在一個多代理旅行規劃應用程式中,若 AI 代理表現不佳,使用者可透過 OpenSearch UI 的 Agent Traces 區塊,檢視其推理步驟,包括根代理範圍(root agent span)、LLM 呼叫及工具調用,並透過追蹤圖(trace map)看到調用的模型、Token 消耗量及訊息交換。當工具呼叫發生錯誤時,系統能清楚標示,協助開發者快速找出問題根源。這項功能依賴於 OpenTelemetry 生成式 AI 語義慣例(generative AI semantic conventions),該慣例定義了如 gen_ai.operation.namegen_ai.usage.input_tokens 等標準屬性,讓 Amazon OpenSearch Service 能將這些跨度(span)按操作類型分類,並在 UI 中呈現代理追蹤樹和追蹤圖視圖。

整合傳統微服務與開源生態

除了 AI 代理,該服務也強化了傳統微服務的故障排除能力。開發者可從服務層級的健康狀態視圖,一路向下鑽取(drill down)至導致問題的特定跨度,例如在結帳流程中,透過 APM Services 視圖觀察服務健康狀況,並從要求、錯誤和持續時間(RED)指標中發現異常。報導舉例,若 P99 執行時間(p99 duration)翻倍,透過關聯式追蹤(correlated spans)便可找出是哪個微服務在擷取產品資訊時失敗。

這套解決方案整合了 Prometheus 開源指標系統與 OpenSearch 開源日誌及追蹤系統,並透過 OpenTelemetry 標準進行遙測數據的採集。應用程式可經由 OpenTelemetry Collector 將日誌、追蹤與指標傳送至 Amazon OpenSearch Ingestion,再由其將追蹤與日誌送至 Amazon OpenSearch Service,指標則送往 Amazon Managed Service for Prometheus。OpenSearch UI 則在執行時跨兩者進行查詢,呈現應用程式地圖、服務目錄、代理追蹤及指標等視圖,且 OpenSearch UI 對 Amazon OpenSearch Service 客戶不收取額外費用。

對於企業而言,這項統一的可觀測性服務,特別是針對新興 AI 代理應用的調試能力,能大幅降低管理複雜雲端原生(cloud-native)應用程式的營運負擔。透過單一介面整合多元遙測數據,IT 團隊可更迅速地辨識、診斷並解決問題,縮短平均修復時間(MTTR),進而提升服務的穩定性與使用者體驗。

7e2d0b27 247e 45d9 a5c1 154ad056d27a

相關新聞推薦

正在載入相關新聞…

Share post:

spot_imgspot_img

熱門

相關新聞
Related

黃仁推動「南迴傳統生態體驗園區」成形!行政院核准金崙37筆國有地無償撥用

瀏覽數:491黃仁指出,未來「南迴地區傳統生態體驗園區」可結合金崙在地文化、生態教育、休憩綠帶、友善步道、停車空間及河堤周邊公共設施,打造兼具防災、觀光、教育與休閒功能的複合式公共場域,讓土地真正回歸地方、回應居民需求,也為太麻里與金崙創造新的發展契機。據了解,本案是由太麻里鄉代表會提案,建議將「金崙溪疏濬工程」所產生之土石,移置至交通部觀光署位於太麻里鄉金崙村金富段661地號等38筆土地,作為回填造地與整地再利用。年初由黃仁委員主持會勘,陪同會勘的貴賓還包括觀光署副署長黃勢芳、台東縣議會議長吳秀華、台東縣政府建設處代理科長董韋廷、台東縣議員翁麗吟、台東縣議員尤忠正、太麻里鄉民代表羅春明、邱天生、陳孫金、雷明聖、廖雙穎以及太麻里金崙村長、觀光署科長吳盈璇等人。

輝達布局台灣牽動供電挑戰 王鴻薇:「錯誤能源政策」代價已浮現

瀏覽數:912王鴻薇指出,黃仁勳並非首次公開提及能源對AI發展的重要性。他強調,若沒有充足能源,就無法支撐經濟成長,也難以支撐AI產業持續發展。王鴻薇認為,這番說法正反映出台灣當前能源政策所面臨的壓力。王鴻薇批評,民進黨長期推動「非核家園」政策,導致台灣能源結構彈性不足,如今即使討論重啟核二、核三,最快也需等到2028年,難以立即因應AI產業快速成長帶來的用電需求。她直言,「錯誤能源政策」終究必須付出代價,現在問題已逐步浮現。針對輝達落腳北士科所衍生的供電討論,王鴻薇也質疑民進黨立委沈伯洋,將外界關注的能源與缺電問題,轉移成「變電所問題」。她表示,AI產業發展的關鍵不只是個別設施配置,而是整體能源供應是否充足、穩定,政府不應模糊焦點。王鴻薇進一步指出,台電過去也曾說明,隨著台灣AI產業發展,未來電力需求將達過去十年平均增幅的兩倍以上。她強調,若政府無法正視缺電風險,並提出具體能源配置與穩定供電方案,台灣在AI產業鏈中的關鍵地位,恐將受到挑戰。王鴻薇呼籲,政府應誠實面對AI時代的能源需求,不應再以政治立場迴避供電壓力,更不能將產業發展所需的穩定電力,簡化為單一變電設施問題。台灣若要掌握AI浪潮,就必須先確保能源政策務實、電力供應穩定。

美國SEC延遲代幣化資產交易豁免計畫 監管前景添變數

商傳媒|方承業/綜合外電報導美國證券交易委員會(SEC)近期決定延後公布一項廣泛豁免計畫,該計畫原欲允許美國加密貨幣公司交易代幣化資產。此舉恐將使市場期盼已久的監管清晰度再次蒙上陰影。這項被稱為「創新豁免」(innovation exemption)的計畫,原訂近期內發布,旨在為代幣化證券交易提供明確路徑。然而,美國證券交易委員會最終選擇延遲發布,具體原因並未公開說明。此一決定對尋求在美國市場拓展代幣化業務的企業而言,無疑增加了監管的不確定性。分析人士指出,美國在全球金融市場扮演重要角色,其監管動向常為其他國家或地區的數位資產監管框架提供借鑒。美國證券交易委員會的這項延遲舉措,可能讓全球數位資產市場的發展面臨更多變數,同時也可能影響包含台灣在內,正在積極探索和建立自身加密貨幣與代幣化資產監管體系的國家,使其在規劃相關法規時面臨類似的挑戰與不確定性。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒

南韓世宗新設投資公司 年薪上看1.3億韓元挑戰人才磁吸

商傳媒|吳承岳/台北報導南韓世宗特別自治市將成立一家負責管理 2,000 億美元對美戰略投資的全新實體——Korea-US Strategic Investment Corporation,提供年薪高達 1.3 億韓元的職位,被視為當地的高薪「神級職場」。這家新設的投資公司預計下個月正式啟動,並將招募 16...