邊緣運算是什麼？邊緣運算結合生成式 AI 的最新趨勢、職缺機會

隨著智慧型行動裝置的普及，以及物聯網技術的導入，生活中越來越多的服務可透過一鍵處理、即時回饋，這些成就都能歸功於電腦運算技術的成熟發展。然而，隨著智慧服務越來越多，數據傳送及雲端儲存的需求爆炸性成長，中心化的數據資料庫漸漸不足以滿足大量劇增且即時的電腦運算需求，此時邊緣運算便成為智慧服務的下一個解決方案。本文將介紹邊緣運算（edge computing）的運作方式、邊緣運算產業發展和應用需求，以及相關職缺資訊。

一般而言，當一筆數據處理需求產生時，網路會將運算需求傳送至中央系統（如數據 / 雲端中心）進行運算，再將結果傳回至終端裝置上。一來一回，不但產生數據往來的時間，也相當仰賴於網路基礎架構的順暢 —— 當數據流量變得龐大時，可能造成系統過載、延遲問題，也會有儲存裝置維護的高額成本。這時，邊緣運算便能有效解決這項痛點。

邊緣運算，顧名思義是將運算執行的地點移至邊緣終端（edge），而非將所有運算需求限制在特定數據中心，改以在靠近需求來源的地點直接執行運算，並即時將運算結果提供給需求者。

邊緣運算強調去中心化的運算及儲存服務，在合理的範圍內執行大多數的數據運算、儲存、及分析，省去傳輸時間；並可以透過需求的篩選，將必要資訊或進一步的運算需求回傳至數據或雲端中心，執行更進階的運算功能。

藉由分散的運算機制，多數的基本運算需求不但可以更快地得到回饋，數據及雲端中心也可以減輕運算壓力與儲存空間，加強整體網路系統的運算效率及系統負荷能力。

邊緣運算強調的即時處理能力，更能夠讓資料讀取及分析的需求，快速被執行及回傳，也因此成為「智慧零售」、「智慧製造」、「智慧醫療」等智慧城市的重要技術之一，透過邊緣運算的低延遲性，可以迅速反映的客戶需求、增加工廠週轉率以及物聯網的執行效率、加速醫護人員對病患傷勢的診斷等。

其中，消費性電子品牌也積極將邊緣運算能力導向更著重於「個人」的技術服務，成為個人邊緣 AI，將 AI 服務加入行動裝置的功能之中，使邊緣運算的終端使用者由企業擴大成一般消費者。與企業需求不同的是，消費者對於數據分析及預測模型的需求較低；要使得 AI 功能更貼近消費市場需求，就不得不提及近年掀起全球熱潮的「生成式 AI」。

由於生成式 AI 需要龐大的運算資源基礎，通常需要硬體加速來實現推理過程，以提高速度、效率以及同時平行處理多個客戶端需求的能力。隨著具有整合 GPU 的小型電腦的出現，經調整的模型便能藉由商業上可行的方式成功部署在遙遠的邊緣位置。

這股大浪推動之下，生成式 AI 結合 PC 及手機的應用自然受到熱烈重視，許多國際科技大廠包含華碩、三星、英特爾等消費性電子品牌，都已積極搶入這塊市場。未來前瞻性的生成式 AI 手機、AI PC 陸續問世，強調可以在僅透過個人裝置下就能將多數的應用服務完成邊緣運算處理，減少需傳送至中央系統進行雲端運算的需求，不僅可以加速使用者需求回饋時間，也可以應用服務耗能，讓應用服務商得以在效能更好的運算模式下，打造更符合個人化需求的全新應用。

此外，讓個人化裝置如 AI 手機、AI PC 完成需求，也可以減少使用者資訓散播至第三方的次數及機會，更能夠迎合近年來消費市場越來越講求的個人隱私及網路安全。而除消費性電子產品外，業界也預計會有越來越多相關產業產生應用典範轉移。以下簡列目前生成式 AI 的想像應用，未來在搭配邊緣運算、5G 等技術的同步突破之下，有望為人類達成更高速和低延遲的運算效果：

• 一般消費者：即使在沒有連網的情況下，也可使用像 ChatGPT、Bard、Midjourney 這類的應用程式，得以在個人裝置上執行更複雜的指令操作與裝置互動
• 內容創作者：可透過生成式 AI 自動生成與編輯文字及影像，更快速及更簡單地產出多樣的內容創作
• 行銷媒體公司：能更有效投放精準廣告給消費者，並透過與消費者的互動，即時調整廣告組合及元素，製作高度個人化的廣告內容及服務
• 學術研究者：研究人員得以透過 AI 模型得以從複雜大量的學術資料中，自動搜尋並整理具價值的資訊，製作研究搜尋資料庫，加速研究進度
• 醫療：生成式 AI 提供問診服務，並在終端執行病例分析及症狀搜尋，快速得出診斷結果，還可以結合病患的保險照護資料庫，即時建議可使用的醫療補助管道
• 程式開發人員：軟體工程師得以透過 AI 應用服務，輔助工程師維護、修正程式碼，對於沒有程式開發經驗的使用者，也可以透過 AI no code/ low code 開發相關服務

由於個人 AI 的發展，為迎合業界看漲的邊緣運算應用發展，越來越多企業開始大力徵求相關職缺，包含邊緣運算工程師、韌體工程師、數據架構師（Data Architect）、提示工程師（Prompt Engineer）等。

值得一提的是提示工程師（Prompt Engineer）這個人工智慧領域的新興職缺，這個角色做的工作並非開發 AI 應用服務，也不是鑽研優化背後程式碼，而是聚焦「與 AI 溝通」，給予 AI 更明確的提示與指令，協助訓練 AI 模型。提示工程師需要透過清晰的溝通能力，讓 AI 明白使用者提出的要求或問題真正的「背後意義」為何，並提供參考內容，讓 AI 可以提供更精準、更符合使用者需求的結果。也因此，提示工程師實際上並非需要強大的技術背景，而更需要有強大的理解能力、清晰的溝通與表達能力、以及設計與創作的能力。

各類 AI 百花齊放的時代到來，你也對 AI 人工智慧應用和邊緣運算的工作心動了嗎？以下介紹幾個可能符合你理想的職缺機會，想搜尋更多就上 Cake 平台！