【TSIA 年會】專訪微軟副總裁 Eric Boyd：AI時代應採取團體戰

湯皓茹

2023年10月31日上午2:57

微軟副總裁 Eric Boyd 27 日來台出席台灣半導體協會 TSIA 2023 年會，擔任 Keynote 演講嘉賓，並於會後接受商益等媒體團訪。除了闡述 AI 應用的多樣化和深度，從基本的圖像、語音識別，發展到能生成並理解複雜文本；微軟藉此也已能夠為客戶提升工作效率、改善流程。而另一位副總裁 Rani Borkar 也分享，為了急遽成長的新需求，資料中心也必須轉型為新設計方案（data center co-design）。

Eric 指出，如 GPT-4 的生成式 AI 模型，不僅在運算效率和數據處理能力有顯著進步，同時也在規模上有所擴展。這些進步使得 AI 在理解和生成自然語言方面的能力大幅提升。

舉例而言，原本需要使用程式語言API介面的 3D 建模 JavaScript 網站，使用極簡易的程式設計加工、連結上 GPT-4 之後，只要透過 GPT-4 的自然語言介面，使用者就可以用簡單的自然語言來進行創造模型並修改，降低了操作的複雜度。

如 GPT-4 這樣強大的 AI 工具，可以幫助新手工程師快速掌握 coding 技巧，甚至完成一些複雜的 coding 任務，這不僅對軟體開發者有所幫助，也為非專業人士提供了易於接近的寫程式工具。

另外，Eric 透過包含沃達豐（Vodafone Group，英國電信公司，經營大規模 call center）、台灣師範大學的英語教學法、和聯發科的聊天機器人應用案例指出，除了提升效率和生產力，AI 同時也開創了解決問題的新思路。

沃達豐選擇 Azure API 服務、GPT-4，將日誌摘要化到關鍵點，以加速客服人員理解問題是什麼、以及如何集中精力迅速解決問題。Call Center 關注是時間耗費的問題。他們最終在處理一通電話所需的時間上，看到顯著的改進。而聯發科的聊天機器人則是在語義搜索情境，幫助員工更快地找到答案，找出知道那個答案的那個人、以及透過 AI 技術協助在組織中導航到所有的文件。

Eric Boyd：隨著技術進步，討論已從 AI 技術聚焦至大型語言模型

繼續開發大型多模態 AI 模型對提升 AI 的理解和推理能力是關鍵點，並強調需要眾多專家的共同努力和創新思維，才能實現這些目標。Eric 提到，隨著技術進步，討論已從 AI 技術聚焦至大型語言模型（LLM）及其在客戶管理工具中的運用。微軟協助客戶管理、運用模型，特別是在高效處理和檢索、以及應用程序開發等。

Eric 接受商益採訪時，也從業務角度分享微軟客戶在使用 AI 的商業影響。AI 對客戶的影響，不僅在建立新產品與服務面，也在提升內部流程效率、以及員工生產力等處有所提升。尤其是在客戶支援（Customer support）、以及與開發人員的協作帶來正面效果。

目前 AI 在不同產業的廣泛應用，已全面從包含零售到醫療保健、金融和法律服務等展開，Eric 也特別提到在高度規範的產業、如金融業，微軟已經與許多客戶和金融機構合作，成功地建構有關數據安全等問題的解決方案。

而在零售業，值得注意的是，客戶行為的變遷已經非常明顯，消費者不再僅僅使用關鍵詞搜索產品，而是更傾向於描述具體的活動和需求，從中獲得更豐富的交流、更個性化的購物體驗。

對於企業在運用大型語言模型時可能出現的「AI 幻覺」問題，微軟指導客戶如何設計提示詞、和使用數據來減少錯誤，重點在於提醒 AI 模型雖然功能強大，但也有其局限性。仍須以人為本位，思考「要讓強大的 AI 做什麼？」，才能提高協作效率。

微軟副總裁 Rani Borkar：AI 需求大，資料中心急待轉型

在 Keynote 演講中，另一位微軟副總裁 Rani Borkar 頗析當前 AI 與運算技術的挑戰。隨著 AI 模型和運算需求的日益增長，控制成本、及推動硬體技術創新變得更為重要。Rani 強調，面對 GPU 成本的持續上升，必須傾產業之力、共同改善效能與成本的結構。微軟也正與硬體、軟體和 AI 的多個領域合作，尋求訓練 AI 的標準化方法。

另外，Rani 對於資料中心要如何應對未來挑戰，強調現行的空氣冷卻技術、不足以滿足未來資料中心的需求，業界已逐漸轉向更高效的液態冷卻解決方案。為了迎接未來 AI 基礎設施對高密度和高能量的需求，未來的新資料中心，需要對電力、冷卻和可用性進行全面優化。

換言之，物理建築與資料中心的整體系統都需要整體設計與優化。要達成這些目標，除了微軟內部努力之外，同樣需要產業內外的廣泛合作。

《商益》主張「商業是最大的公益」，報導專注於讓讀者理解資本力量、商業本質以及財經語言。歡迎加入 Discord 社群，並免費註冊訂閱商益電子報。

Eric Boyd：隨著技術進步，討論已從 AI 技術聚焦至大型語言模型

微軟副總裁 Rani Borkar：AI 需求大，資料中心急待轉型

相關內容

最新報導