《科技》創鑫智慧加速AI數位轉型 Viper加速卡挾3大優勢

【時報記者王逸芯台北報導】創鑫智慧(Neuchips)創辦人暨董事長林永隆博士今天(18日)指出,借助國家實驗研究院國家高速網路與計算中心(簡稱國研院國網中心)的「TAIWAN AI RAP平台」,創鑫智慧的第一代產品Viper加速卡為企業提供了三大優勢,包括「大幅提升開發效率」、「彈性的算力支援」和「生態系統整合」,加速了AI數位轉型的步伐,並助力打造更優化的地端解決方案。

林永隆博士今天在國研院國網中心舉辦的「TAIWAN AI RAP 用戶使用分享說明會」上發表了10分鐘的專題分享,展示了如何結合自主研發的AI加速晶片與國網中心的雲端平台,共同打造加速企業AI轉型的地端解決方案。

創鑫智慧是台灣少數擁有自主研發AI加速晶片技術的公司,這次的分享重點在於Viper加速卡如何與國研院國網中心的TAIWAN AI RAP平台整合。與其他軟體開發服務商和終端用戶不同,創鑫智慧從硬體層面為AI應用與產業帶來了轉型。林永隆指出,Viper生成式AI加速卡已成功整合至國研院國網中心的混合雲環境,為企業客戶提供了更多元的AI運算選擇。目前,這項技術已應用於公司官網的線上客服系統,展示了AI如何取代人力。對於像創鑫智慧這樣的硬體開發商來說,TAIWAN AI RAP平台是非常彈性的合作夥伴,其開放架構允許Viper加速卡發揮最大效能,並與不同的模型框架無縫對接。

創鑫智慧充分利用TAIWAN AI RAP平台的靈活性,不僅將自家Viper加速卡整合到平台基礎設施中,還透過平台統一的開發介面,大幅簡化了AI模型的部署流程。借助平台提供的容器管理與模型服務功能,創鑫智慧能夠輕鬆管理不同規模的AI工作負載,並根據需求彈性調整運算資源。

此外,創鑫智慧與夥伴廠商高登智慧合作,利用Viper加速卡的特性,在TAIWAN AI RAP平台上開發了NL2SQL(自然語言轉SQL)資料庫問答解決方案。高登智慧技術長林志哲博士表示,這個方案特別適合中小企業,能讓非技術人員透過自然語言查詢複雜的資料庫資訊,極大降低導入AI的門檻。

林永隆最後表示,借助國研院國網中心的混合雲環境,創鑫智慧的解決方案可以根據客戶需求靈活調整,不論是軟體開發商還是終端用戶,都能根據自身需求選擇適合的模型和硬體來進行搭配和開發。 此外,林永隆也強調,TAIWAN AI RAP平台能為企業帶來三大企業轉型的優勢:

1.大幅提升開發效率:透過平台提供的統一開發環境與工具鏈,減少了至少70%的環境配置時間,使開發團隊可以集中精力在核心技術研發上。

2.彈性的算力支援:平台支援多種硬體加速方案,包括創鑫智慧Viper加速卡,讓企業能根據不同AI任務的特性,選擇最佳的運算資源配置。

3.生態系統整合:RAP平台匯集了台灣AI產業的多元力量,創鑫智慧透過平台已與多家軟體廠商建立合作關係,共同打造完整的解決方案。