【SEMICON Taiwan 2023】智慧製造論壇，NVIDIA：出差時比起要太太顧家，問買香奈兒或Gucci？才是正確Prompt

湯皓茹

隨著科技的進步，NVIDIA 不僅在遊戲和圖形領域取得了領先地位，還在製造業中開創了新的可能性。NVIDIA 的資深資料科學家劉冠良應邀與談 SEMICON Taiwan 2023 「高科技智慧製造」論壇，演講中分享該公司技術概念，其中將對生成式 AI 下的 Prompt、妙喻為與太太的家常對話令人會心一笑。

NVIDIA 發展整合 CPU、GPU 以及軟體解決方案的平台。GPU 用於高度平行化的運算，專門用於處理大量的數據；而 CPU 則用於泛用型的運算，適合於處理複雜的邏輯運算。整合後的兩者在運算過程中必須分工協同、達到最佳的運算效果。NVIDIA 的平台確保了軟硬體之間的緊密整合，並且提供軟體工具庫，以支持各種應用程序的開發。對於 lay-out 設計師來說，使用 GPU 可以大大提高渲染的速度，提高工作效率。

演講中提及 NVIDIA 的 SDK （Software Development Kit，軟體開發套件）豐富性。目前 NVIDIA 擁有超過 400 個 SDK，涵蓋從遊戲開發到深度學習等各種領域。這些 SDK 為開發者提供了大量的工具和資源，以支持開發應用程序。劉冠良博士說明，這些 SDK 是來自於 NVIDIA 與客戶合作的成果，透過客戶需求與挑戰、提供解決方案，因此也能夠應用在其他行業的真實需求。

有關大型語言模型（LLM）／基礎模型（Foundation models），劉冠良解說其特點是它們非常大，因此可以作為其他 AI 應用的基礎。這些模型的優勢在於能夠處理大量數據，並且不需要太多的標籤（因為演算法會以人所抓出較極端的例子去預測）。

廣告

基於 Transformer 模型的生成能力，這些模型可以基於之前學習的數據、生成出自然的文字。這種方式讓模型自己生成內容，而不需要太多人工干預。隨著模型變得越來越大，部署這些模型成為挑戰。NVIDIA 提供的工具和方法，可確保模型的輸出是可預期的（較可確保安全性）。

劉冠良說明，這種根據過去的學習、並生成內容，很適合應用在量子工程上。這是一種新的技術方法，可以有效運用更少的數據，並應用於各種不同的領域。對於這個聽起來略帶抽象的概念，劉冠良用一個夫妻相處互動的比喻，來解釋這種方法如何用來解決特定的問題。

「我要到台北出差三天，我需要給我的太太一個 Prompt。此時，我太太相當於 LLM。我有一個 9 歲的孩子，我該給我太太什麼問題或假設，她才會准許我到台北出差？說『我出差期間不能做洗衣服、購物這些家務，我也不能接送小孩』？這是一個正確的問題嗎？可能不是！因為我的妻子會說『不』。我並沒有給她正確的訊息。」

「什麼是正確的問題（Prompt）？正確的問題是『接下來的三天，Chanel、Gucci 的百貨專櫃有打折，我在台北的這幾天要買什麼禮物給你？』」

如果能夠設計好的問題，就可以得到一個好的結果。但首先要有這個好問題。我們還需要提供正確的上下文，以便得到更好的反饋。可以在 OpenAI、Microsoft、Google 等平台商建立客製平台。

劉冠良表示，NVIDIA 與大型客戶、以及許多新創公司合作，擁抱技術市場、了解客戶的需求，並從客戶端學習。因此，一旦 NVIDIA 意識到應採取的步驟，就能覆蓋整個生態系統。這也是在與整個生態系統並行合作。

 

《商益》主張「商業是最大的公益」，報導專注於讓讀者理解資本力量、商業本質以及財經語言。歡迎加入 Discord 社群，並免費註冊訂閱商益電子報。

延伸閱讀：

【SEMICON Taiwan 2023】德商默克：如何調和「碳排・PFAS」↓、與 AI 晶片↑的兩種趨勢？靠材料！
【SEMICON Taiwan 2023】劉德音：AI浪潮下，半導體仍有巨大發展空間
【SEMICON Taiwan 2023】開跑！兆・億級講者齊聚，大師論壇受矚目
【SEMICON Taiwan 2023】半導體大會在台灣！950企業再創新高；吳田玉：未來創新不僅限於人與人的介面
【SEMICON Taiwan 2023】半導體即國安！環球晶徐秀蘭：買個小矽晶圓廠跟買NASA一樣

相關內容

  • 信義房屋女力來襲　房仲二寶媽入職首年年薪破百

    [FTNN新聞網]財經中心／綜合報導近年來企業除了落實ESG，為女性打造DEI（多元共融）職場環境，也成為吸引女性人才加入的重要政策。根據知名女性媒體今年發布...

    3

  • 今年繳稅335萬！工程師感謝「海產店」照顧 網驚：繳得比我薪水多

    時序進入五月，又到了申報綜合所得稅的季節！每位民眾因繳稅金額不同，也會有不同的感受，一名網友就在網路上分享自己在科技業上班十多年，從可以退稅的小工程師，到現在得繳將近一台進口車的金額，讓他直呼「繳稅好痛啊！」

    5

  • 遭外資殺到血流成河！八大官股砸2億搶救「這2檔」　網：八大挺面板

    [FTNN新聞網]記者高麗玲／台北報導台股今（2）日開低走低，集中市場下跌174.16點，收在今日最低點20222.44點。面板雙虎群創(3481)及友達(2409)今遭到外資大砍...

  • 億豐首季稅後純益14.3億元年增26.6% EPS 4.88元

    全球窗簾領導品牌億豐 (8464-TW) 今 (2) 日公布最新財報，2024 年首季在直營客製化窗簾電商平台的動能復甦，及匯兌收益挹注下，單季稅後純益 14.3 億元，季增 7.75%，年增 26.6%，每股純益達 4.88 元。

  • 〈美股早盤〉市場靜待Fed利率決策出爐 主要指數漲跌互現

    美股主要指數周三 (5/1) 漲跌互現，受晶片股財報表現不佳領跌影響，目前市場靜待稍晚聯準會 (Fed) 公布最新利率決策，以及觀察最新出爐的經濟數據。

  • 與勞工站在一起 賴清德：運用政策鼓勵企業加薪

    今天是五一勞動節，民進黨主席暨準總統賴清德今（1日）在中常會表示，民進黨一直與勞工朋友站在一起的政黨，包括推動《勞工保險條例》修正，逐年調升基本薪資，今年也編列1,200億元挹注勞保基金，民進黨承諾會持續打造更友善勞動環境，運用所有政策鼓勵企業加薪，讓所有勞工朋友都分享經濟成長的果實。

    24

  • 台灣之光 全世界唯一！勇奪國際設計首獎殊榮

    商傳媒｜記者金政美／綜合報導現代人對於生活品質的追求日益增加獨特性，空間設計已成為購屋、住宅裝修、商業設計規劃中不可或缺的關鍵元素。在這樣的趨勢下，擁有三十年設計經驗的「由里國際設計」顯得格外引人注目。由里的創辦人傅瓊慧總監(以下簡稱傅總監)，不僅在國內外榮獲多項設計大獎首獎，豐富的美學素養與經驗，更受邀擔任國際設計評審。她將設計與美學相結合，為人們打造了更加充滿想像力的生活空間。讓我們一起探索，如何透過設計實現生活的美好與想像力的無限可能。由里國際設計旗下包含由里室內裝修設計、由里國際軟裝藝術、禾里建築等事業體，傅總監專精室內設計，深諳融合使用者習慣與風格掌握，以貼近生活需求為本，同時注重設計的心靈共鳴，打造生活日常美學。傅總監曾榮獲多項國際設計類相關獎項，尤其在今年榮獲英國 IPA 國際房地產獎，打敗了 197 個國家，成為全球唯一的首獎得主，更受邀參與全球傑出設計師訪談，向世界展現來自台灣的卓越設計之美。 同時傅總監也是國際設計類別的評審–美國 iLuxury Award 國際評審，讓國際看見台灣的設計實力！英國IPA國際房地產獎獲獎作品-遊走日不落。圖/由里國際設計提供本身就讀

  • 〈台達電法說〉邀環球晶徐秀蘭出任獨董 海英俊：借重半導體、併購經驗

    邀環球晶董座徐秀蘭任獨董 海英俊：借重半導體、併購經驗

  • Rocket Software以22.75億美元完成收購OpenText的應用程式現代化和連接業務

    麻塞諸塞州沃爾瑟姆, May 01, 2024--(美國商業資訊)--現代化軟體領域的全球技術領導者Rocket Software是全球頂級規模企業現代化進程中的首選合作夥伴，而且地位不斷提升。 該公司完成了對OpenText（原Micro Focus旗下公司）應用程式現代化和連接（AMC）業務的收購，現在可為客戶提供涵蓋大型電腦和雲端的現代化軟體解決方案。 此交易的總收購價為22.75億美元（稅費及其他調整前），使公司收入增加60%以上，客戶群擴大到12,500多家企業，網路覆蓋全球750多個合作夥伴。此外，該公司還新增了770多位軟體工程師、市場進入專業人員及其他支援團隊成員，並且正在招募數百名Rocketeers來補充現有團隊。

  • 新竹40歲以下購屋占比居七都之冠

    【MyGoNews蕭又安/綜合報導】30至40歲的青壯年向來被視為購屋的主力年齡，但受到高房價現象的影響，購屋年齡出現遞延。永慶房產集團根據聯徵中心購置住宅貸款統計資訊，比較2013年和2023年購屋年齡占比的變化。數據顯示，雖然30-40歲仍是購屋主力，但是40-50歲、50歲以上年齡層的購屋占比幾乎全面上升，而台北市的購屋主力年齡更已移轉至40-50歲，顯見購屋年齡向後遞延的現象。

  • 【看圖說股市】八大公股行庫是哪些？跟國安基金有什麼關係？對股市的影響為何？

    在股市走跳的股民一定對「八大公股/官股」不陌生，但你數得出這「八大」是哪8家行庫嗎？除了八大行庫，四金二銀又是什麼？他們在台股中扮演怎麼樣的角色？透過本文就能一次搞清楚！

    2