AI 企業顧問來了！麥肯錫為員工開發生成式 AI 工具：Lilli 聊天機器人

百年諮詢權威機構麥肯錫（McKinsey & Company）日前宣布，公司內部正在採用一款新型的生成式 AI 工具，協助研究人員更快速地進行資料搜尋、數據洞察與編撰報告等，成為最早開始將 AI 技術納入商業諮詢服務的公司之一 。

麥肯錫曾在今年六月的《生成式 AI 的經濟潛力》報告中預言，未來有將近一半的人類工作會被 AI 所取代，很可能會發生在 2030 年至 2060 年的中間點（約為 2045 年），如今麥肯錫更是以身作則，率先開始在商業諮詢界採用 AI 工具，來取代分析師的工作，消息一出，迅速成為業界頭條新聞。

以麥肯錫第一位女性顧問命名的 Lilli

根據 VentureBeat 報導，這款被叫做 Lilli 的生成式 AI 工具是在麥肯錫技術長 Jacky Wright 所帶領的 ClienTech 團隊下，為員工所開發設計的聊天應用程式，Lilli 聊天機器人的名稱來自於 1945 年麥肯錫聘用的第一位職業女性顧問 Lillian Dombrowski。

Lilli 是基於麥肯錫公司內部超過 10 萬份文檔與訪談紀錄所訓練出來的大型語言模型（LLM），Lilli 還擁有超過 70 國的專家聯絡資訊，不僅可以為研究人員提供資訊、數據、見解、制訂計畫，甚至推薦最適合做商業諮詢的內部專家。

員工能夠透過 Lilli，將研究和規劃工作所需的時間從數週縮短到僅幾小時，甚至將需要數小時完成的任務壓縮至幾分鐘內完成。

麥肯錫資深合夥人 Erik Roth 強調，Lilli 讓麥肯錫首次將知識和能力集中在一個地方，這讓公司擁有更多時間與客戶一起探討這些分析與建議，並將公司能創造的價值最大化。

Erik Roth 向 Venture Beat 透露，他們從今年 6 月開始在麥肯錫內部進行 Lilli 的測試，目前公司內部已經有大約 7000 名員工使用過這款生成式 AI 工具，預計今年秋季會在麥肯錫全面推出。

Roth 表示：「在過去短短兩週內，Lilli 就回答了 5 萬個問題，每週約有 66% 的員工會反覆多次使用它。」

Lilli 的使用方式

Venture Beat 指出，Lilli 的介面對於用過 ChatGPT 或 Anthropic 的 Claude 2 的人來說相當熟悉，它的主界面底部同樣有一個文本輸入框，供用戶輸入指令、問題或進行資料搜尋，Lilli 會按照時間順序排列對話，用戶的提問和 Lilli 的回答會生成在對話框中。

就像 ChatGPT 一樣，Lilli 左側也有一個可擴展的邊欄，裡面收納了已儲存的歷史對話，用戶可以複製、貼上這些提問或指令，並依據自身喜好進行修改。

較特別的是，多數 LLM 工具不太會在回答中引用或連結到它所生成對話的來源，但 Lilli 會在每個回答底下備註一個完整獨立的「來源區」，包括了其所參考的特定頁面連結甚至頁碼。

目前 Lilli 的功能界面有兩個可切換的標籤頁面，其中一個是「GenAI Chat」，該頁面是基於 LLM 後端獲取數據；另一個「Client Capabilities」則是從麥肯錫公司內部超過 10 萬份的報告文件、採訪記錄和簡報文檔中提取回答內容。

Erik Roth 說道：「我們有意設計了這兩種體驗，以便了解並比較我們內部擁有的工具與公開可用的工具。」

被問到 Lilli 未來最適合進行的任務是什麼？Roth 表示，他設想麥肯錫的顧問團隊幾乎可以在與客戶合作的每個階段中都用到 Lilli，從收集關於客戶所在產業、競品或相似公司的初步研究，到起草客戶如何實施具體項目的計劃。

Lilli 聊天機器人背後技術

根據報導，Lilli 的 LLM 底層技術，是來自於麥肯錫合作夥伴 Cohere 開發的 LLM 以及微軟 Azure 平台上的 OpenAI，它們用來支持該工具的 GenAI Chat 和自然語言處理（NLP）能力。

然而，Lilli 的 AI 應用程式是由麥肯錫建構的，以充當用戶和底層數據之間的安全層。Erik Roth 強調，麥肯錫與「底層的 LLM」無關，並且公司不斷地探索最新的 LLM 和 AI 模型，看看哪一種能提供最大效用，包括仍在維護的舊版本。

儘管麥肯錫目前只希望能將 Lilli 的運用範圍擴展到所有員工，不過 Erik Roth 也坦承，公司並不排除將 Lilli 變成供麥肯錫客戶或其他公司所使用的外部產品。

Roth 僅表示：「一切都還在討論中，但我個人認為每間公司都需要其中一個版本的 Lilli。」

成立於 1926 年的麥肯錫是目前全球最大的管理諮詢公司，主要服務領域包括戰略規劃、數位轉型、營運優化、組織架構、市場行銷、數據分析、人力資源、風險管理等，麥肯錫以其專業知識與分析能力聞名，他們的顧問團隊多由各個領域的專家所組成，能幫助企業解決各種商業挑戰。

Lilli 的出現可以說是麥肯錫這家百年公司走向數位轉型的一個重要里程碑，隨著商管諮詢領域的競爭加劇，運用 AI 更智慧化、更有效的提高工作產能已成必然趨勢。

核稿編輯：湯皓茹

《商益》主張「商業是最大的公益」，報導專注於讓讀者理解資本力量、商業本質以及財經語言。歡迎加入 Discord 社群，並免費註冊訂閱商益電子報。

延伸閱讀：

想要企業專屬AI解決方案？麥肯錫結盟AI新創Cohere、提供客制生成式AI
相信AI，財富滿滿？進化中的AI 財務顧問
為什麼招募不到人？麥肯錫：先了解，人才分成五種類型！