Amazon OpenSearch Service強化AI代理偵錯與監控 單一介面提升雲端可觀測性

Date:

圖/本報AI製圖(示意圖)

商傳媒|責任編輯/綜合外電報導

Amazon OpenSearch Service 近日整合了應用程式監控、原生的 Amazon Managed Service for Prometheus 功能以及人工智慧(AI)代理追蹤能力,並將這些服務統一匯集到 OpenSearch UI 的可觀測性工作區中。這項升級為開發者和 IT 專業人士提供單一介面,旨在大幅提升雲端系統的監控與除錯效率。

統一遙測數據提升診斷效率

這項新的整合讓使用者能夠在 OpenSearch UI 中,直接透過 PromQL 查詢 Prometheus 指標,同時檢視儲存在 Amazon OpenSearch Service 中的日誌(logs)與追蹤(traces)。過去,這些不同類型的遙測數據往往分散在不同工具中,現在則能實現一站式的資料關聯分析,有助於 IT 團隊快速識別系統問題。根據《Amazon Web Services》的報導,其目的在於提供一個統一的平台,簡化複雜雲端環境的營運管理。

AI代理追蹤深化除錯能力

特別針對 AI 代理(AI agent)的應用場景,Amazon OpenSearch Service 導入了 AI 代理追蹤功能,使開發者能追溯 AI 代理的完整推理鏈(reasoning chain),甚至精確定位到導致錯誤的工具呼叫。報導指出,由於 AI 代理的行為不像傳統微服務(microservices)那般具有確定性,它們會根據大型語言模型(LLM)的回應、工具執行結果及連鎖推理(chained reasoning)做出自主決策,因此需要捕捉 AI 特定訊號的語義追蹤(semantic tracing)來進行根本原因分析。

例如,在一個多代理旅行規劃應用程式中,若 AI 代理表現不佳,使用者可透過 OpenSearch UI 的 Agent Traces 區塊,檢視其推理步驟,包括根代理範圍(root agent span)、LLM 呼叫及工具調用,並透過追蹤圖(trace map)看到調用的模型、Token 消耗量及訊息交換。當工具呼叫發生錯誤時,系統能清楚標示,協助開發者快速找出問題根源。這項功能依賴於 OpenTelemetry 生成式 AI 語義慣例(generative AI semantic conventions),該慣例定義了如 gen_ai.operation.namegen_ai.usage.input_tokens 等標準屬性,讓 Amazon OpenSearch Service 能將這些跨度(span)按操作類型分類,並在 UI 中呈現代理追蹤樹和追蹤圖視圖。

整合傳統微服務與開源生態

除了 AI 代理,該服務也強化了傳統微服務的故障排除能力。開發者可從服務層級的健康狀態視圖,一路向下鑽取(drill down)至導致問題的特定跨度,例如在結帳流程中,透過 APM Services 視圖觀察服務健康狀況,並從要求、錯誤和持續時間(RED)指標中發現異常。報導舉例,若 P99 執行時間(p99 duration)翻倍,透過關聯式追蹤(correlated spans)便可找出是哪個微服務在擷取產品資訊時失敗。

這套解決方案整合了 Prometheus 開源指標系統與 OpenSearch 開源日誌及追蹤系統,並透過 OpenTelemetry 標準進行遙測數據的採集。應用程式可經由 OpenTelemetry Collector 將日誌、追蹤與指標傳送至 Amazon OpenSearch Ingestion,再由其將追蹤與日誌送至 Amazon OpenSearch Service,指標則送往 Amazon Managed Service for Prometheus。OpenSearch UI 則在執行時跨兩者進行查詢,呈現應用程式地圖、服務目錄、代理追蹤及指標等視圖,且 OpenSearch UI 對 Amazon OpenSearch Service 客戶不收取額外費用。

對於企業而言,這項統一的可觀測性服務,特別是針對新興 AI 代理應用的調試能力,能大幅降低管理複雜雲端原生(cloud-native)應用程式的營運負擔。透過單一介面整合多元遙測數據,IT 團隊可更迅速地辨識、診斷並解決問題,縮短平均修復時間(MTTR),進而提升服務的穩定性與使用者體驗。

7e2d0b27 247e 45d9 a5c1 154ad056d27a

相關新聞推薦

正在載入相關新聞…

Share post:

spot_imgspot_img

熱門

相關新聞
Related

輝達布局台灣牽動供電挑戰 王鴻薇:「錯誤能源政策」代價已浮現

瀏覽數:912王鴻薇指出,黃仁勳並非首次公開提及能源對AI發展的重要性。他強調,若沒有充足能源,就無法支撐經濟成長,也難以支撐AI產業持續發展。王鴻薇認為,這番說法正反映出台灣當前能源政策所面臨的壓力。王鴻薇批評,民進黨長期推動「非核家園」政策,導致台灣能源結構彈性不足,如今即使討論重啟核二、核三,最快也需等到2028年,難以立即因應AI產業快速成長帶來的用電需求。她直言,「錯誤能源政策」終究必須付出代價,現在問題已逐步浮現。針對輝達落腳北士科所衍生的供電討論,王鴻薇也質疑民進黨立委沈伯洋,將外界關注的能源與缺電問題,轉移成「變電所問題」。她表示,AI產業發展的關鍵不只是個別設施配置,而是整體能源供應是否充足、穩定,政府不應模糊焦點。王鴻薇進一步指出,台電過去也曾說明,隨著台灣AI產業發展,未來電力需求將達過去十年平均增幅的兩倍以上。她強調,若政府無法正視缺電風險,並提出具體能源配置與穩定供電方案,台灣在AI產業鏈中的關鍵地位,恐將受到挑戰。王鴻薇呼籲,政府應誠實面對AI時代的能源需求,不應再以政治立場迴避供電壓力,更不能將產業發展所需的穩定電力,簡化為單一變電設施問題。台灣若要掌握AI浪潮,就必須先確保能源政策務實、電力供應穩定。

美國SEC延遲代幣化資產交易豁免計畫 監管前景添變數

商傳媒|方承業/綜合外電報導美國證券交易委員會(SEC)近期決定延後公布一項廣泛豁免計畫,該計畫原欲允許美國加密貨幣公司交易代幣化資產。此舉恐將使市場期盼已久的監管清晰度再次蒙上陰影。這項被稱為「創新豁免」(innovation exemption)的計畫,原訂近期內發布,旨在為代幣化證券交易提供明確路徑。然而,美國證券交易委員會最終選擇延遲發布,具體原因並未公開說明。此一決定對尋求在美國市場拓展代幣化業務的企業而言,無疑增加了監管的不確定性。分析人士指出,美國在全球金融市場扮演重要角色,其監管動向常為其他國家或地區的數位資產監管框架提供借鑒。美國證券交易委員會的這項延遲舉措,可能讓全球數位資產市場的發展面臨更多變數,同時也可能影響包含台灣在內,正在積極探索和建立自身加密貨幣與代幣化資產監管體系的國家,使其在規劃相關法規時面臨類似的挑戰與不確定性。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒

南韓世宗新設投資公司 年薪上看1.3億韓元挑戰人才磁吸

商傳媒|吳承岳/台北報導南韓世宗特別自治市將成立一家負責管理 2,000 億美元對美戰略投資的全新實體——Korea-US Strategic Investment Corporation,提供年薪高達 1.3 億韓元的職位,被視為當地的高薪「神級職場」。這家新設的投資公司預計下個月正式啟動,並將招募 16...

慶應大學教授示警:伊朗情勢引通膨,減消費稅反添薪柴

商傳媒|吳承岳/台北報導慶應義塾大學經濟學部教授土居丈朗近日指出,在全球通膨壓力持續、伊朗地緣政治緊張情勢未歇之際,日本政府若透過減徵消費稅來刺激國內需求,不僅無助於抑制物價上漲,反而可能加劇通膨。土居丈朗教授強調,伊朗衝突的長期化,可能對全球經濟造成顯著衝擊。由於日本與東南亞國家的供應鏈緊密連結,一旦東南亞地區的石油供應受阻,將直接影響日本的物資供應。他提到,日本企業受困於長達三十年的通縮環境,導致其「價格轉嫁能力」普遍較弱,難以有效將上漲的原料成本轉嫁給消費者,進而影響企業獲利,甚至造成貿易條件惡化。面對當前的物價上漲,土居教授認為,政府的財政政策應著重於抑制需求,而非不必要地刺激需求。他以日本前首相田中角榮為例,田中角榮在第一次石油危機時,曾果斷放棄其「日本列島改造論」,轉而實施抑制需求的政策。土居教授建議,與其片面減免食品消費稅,不如考慮推動「育兒給付稅額抵減」作為更具效益的解決方案。對於財政健全與貨幣政策,土居丈朗教授也表達擔憂。他指出,政府針對十七個領域提出的「危機管理投資」策略,初期可能需發行公債支應,若缺乏明確的償還計畫,可能在現有通膨壓力下,進一步推升利率。他強調,一旦市場對日本財政產生不信任感,將需要付出十倍的努力才能挽回。此外,為遏止日圓持續貶值,日本銀行(BOJ)必須擁有充分的彈性來適時調整利率。儘管有傳聞首相高市不樂見升息,日本銀行仍需向市場明確表達其獨立性,以便在關鍵時刻果斷採取行動。土居教授提到,儘管財政年度 2026 一般會計年度的初級平衡(PB)預計將轉為正數,但如果無法穩定實現初級平衡盈餘,通膨所帶來的名目 GDP 增長恐掩蓋潛在的財政問題,而非真正的財政改善。他呼籲日本各界應進行更誠實、透明的經濟政策討論,而非礙於對首相高市的「過度忖度」而迴避關鍵議題。相關新聞推薦正在載入相關新聞...標籤: 合作媒體商傳媒