網站地圖
逢甲大學

導入AI 帶來變革追求算力、創新驅動科技 永續發展 - 技嘉科技 李宜泰總經理

deco

導入AI 帶來變革追求算力、創新驅動科技 永續發展 - 技嘉科技 李宜泰總經理

2025.01.01

文/陳書芸.攝影/陳書芸.技嘉科技
轉載自逢甲人月刊第387期
更多校友資訊,歡迎加入逢甲大學校友網FaceBook

 

技嘉科技 李宜泰總經理。

技嘉科技 李宜泰總經理。

學歷:

  • 逢甲大學電子工程學系78年畢
  • 美國加州州立大學奇科分校  電腦科學碩士

現職:

  • 技嘉科技(股)公司 集團總經理
  • 技鋼科技 副董事長

 

技嘉長期在HPC領域的投入,為公司進軍AI市場奠定堅實基礎。尤其是AI伺服器在散熱和能效方面的突破,包括浸沒式液冷與直接液體冷卻等創新技術,不僅提升性能,也展現對永續發展的承諾。李宜泰學長2000年進入技嘉剛成立的伺服器部門,帶領團隊拓展B2B市場。2023年成立技鋼科技,專注於伺服器業務。隨著AI市場的蓬勃發展帶動,技嘉與技鋼協力突破散熱和算力能效,也展現對永續發展的承諾。同時與全球頂尖夥伴合作,如輝達與Northern Data,共同建設全球領先的AI基礎設施,推動生成式AI及永續數據中心的應用。

逢甲學習 赴美攻讀 奠定職涯基礎

李宜泰學長(以下簡稱李學長)透過專科學校插班進入逢甲大學就讀,經歷從水利工程降轉電子工程,並在學業中展現卓越表現,曾獲得兩次系上獎學金。畢業後,他先在台灣德州儀器任職,專注於半導體領域,隨後赴美攻讀計算機科學碩士,並短暫任職於美國電信公司。

回到台灣後,他從事基地電信工作,參與政府扶植的光纖網絡建設;接著轉至Intel,負責國際業務。2000年,他進入技嘉科技剛成立的伺服器部門,帶領團隊拓展B2B市場,並成功與早期的Google合作。技嘉科技始終以品牌和產品設計為重心,將製造外包給代工廠,專注於創新與市場開發,與傳統製造導向企業走出一條屬於自己的獨特道路,創造企業的獨特價值。

伺服器領先業界 合作輝達AI超算蓄勢待發

AI伺服器與傳統伺服器的網路架構不同,現今的AI伺服器內部每一張運算卡都連接到網路,提供高達400G的網路頻寬,一台伺服器可達到8個400G的網路輸出。「這樣的算力需要巨大的耗電量與散熱挑戰,一台AI伺服器的耗電量達到15,000瓦,遠超過過去整個伺服器機櫃(Rack)的功耗。」

李學長強調,技嘉之所以能在AI伺服器領域取得領先,得益於公司在HPC領域的長期投入與準備,在2021年後AI伺服器開始大幅改變資料中心與網路雲端架構,將算力提升至新高度。他說:「從2010年開始導入HPC後,我們進入AI伺服器市場,速度非常快,這是因為我們前期的基礎已經打好。」技嘉在積極佈局全球市場與產能,在非代工領域中出貨量領先業界。

「我們2016年就開始慢慢與 NVIDIA的超級算力有合作,超級算力會產生大熱,所以我們很早就投資在解決散熱的方法。」技嘉科技自2016年進專攻伺服器散熱技術的突破,包括採用「浸沒式液冷散熱」(Emerging Cooling)、直接液體冷卻(Direct Liquid Cooling)以及極大化的風冷系統,成為近年來業界得技術突破亮點,更是輝達親點為數的台灣合作出貨廠商。

GIGABYTE伺服器產品家族。

GIGABYTE伺服器產品家族。

導入AI 帶來企業的變革(Revolution)

談到企業導入AI的挑戰與機會時,他分享:「現在很多企業想導入AI,但首先要搞清楚AI是什麼?該如何導入?」2023年技嘉科技領先業界發表AI戰略白皮書,提出「完整AI運作平台」、「產品設計AI化」,利用AI優化設計流程提供高品質及高效能的產品及與世界一流晶片供應商合作「共建AI生態圈」,支持客戶落實AI化。

「AI的關鍵在於資料(Data)。企業需要將歷史資料轉化為可用資源,這些資料就會變成黃金。」他以技嘉與好心肝基金會合作開發AI肝臟診測工具為例,通過超音波數據分析,顯著提升診斷準確率,減少誤判,優化醫療流程,也實現AI在提升效率方面的潛力。

各行各業都是導入AI的機會,從製造領域、教育、醫療診斷到物流管理等。「AI的應用不僅是技術進化(Evolution),更是一場徹底的變革(Revolution)。像生成式AI(Generative AI),是基於過去的資料來學習,進行創新。」例如,服裝設計可以透過data,生成數百種新款設計,建築師或室內設計師也能運用AI根據尺寸和空間規範,快速生成最佳方案。AI協助工作大幅提升效率,例如程式碼開發中,AI 已能自動生成和優化程式碼,幫助開發者省去大量重複性工作;IC 設計的良率可透過AI品檢與監控,降低製程風險。「導入AI是企業未來十年的重要課題,並非一蹴而就,但重要的是要持續投入。」

沉浸式冷卻突破散熱技術 實現低碳永續耗能

超級算力面對耗能的挑戰,李學長分享技嘉透過冷卻技術實現低碳永續的可能性,並分析不同冷卻方法在資料中心中的應用與效能。例如沉浸式冷卻(Immersion Cooling)是將伺服器浸泡在特殊的非導電冷卻液中,保持大約70°C的穩定溫度,效率極高,能將數據中心的能源效率比(PUE)降低到接近1.03,遠優於傳統的冷卻方式。雖然能大幅節省電力,但初期建設成本較高,較適合新的資料中心。

相比之下,直接液體冷卻技術(Direct Liquid Cooling)將冷卻管道直接連接至CPU和GPU等主要發熱元件,仍需使用風扇冷卻其他元件。此方法的PUE約為1.4,需要額外40%的能耗進行冷卻;而全靠風扇冷卻的效率更低,PUE大約在1.7至1.8之間。

採用先進技術雖然成本較高,但能有效提升數據中心的能源效率,長期下來節省的電費也更可觀。他補充說,未來一些數據中心可能會結合氫能或小型核能發電,這些解決方案雖然成本昂貴,但能支撐巨大的算力需求。

追求最大算力加速創新 驅動科技永續發展

2020年技嘉科技與歐洲最大算力公司Northern Data合作,雙方在挪威、芬蘭等地區建設高效AI算力中心,打造高效能運算(HPC)領域的全球基礎設施解決方案,提供機器學習、人工智慧、大數據分析、區塊鏈應用、遊戲串流和更多其他領域的解決方案。2024年11月Northern Data AI加速器摩天大會中,雙方共同提出奠定明日AI、歐洲AI工廠—塑造企業AI策略、生成式AI實踐—為企業創造價、AI普及—加速創新進程,以及AI硬體在支援綠色資料中心方面的關鍵作用,探索永續與技術創新結合的未來,如何使用輝達的HGX H100 和HGX H200 GPU 建置歐洲最大的生成式AI超級電腦平台,為全球最複雜的AI應用提供強大算力。

Northern Data AI加速器摩天大會,雙方願邁向永續未來。

Northern Data AI加速器摩天大會,雙方願邁向永續未來。

「截至目前我們已建置6個算力中心,中心的設計需因地制宜,並不是越冷越好,在北歐零下寒冷的氣候,也需調節溫度避免氣溫影響設備。我們有調節溫度的能力、也有算力的專長,對永續方面Northern Data也與我們有共識。」李學長強調「電力等於算力,算力等於國家經濟的力量」,高算力的國家能支撐國家更廣泛的發展,能有效平衡算力需求與永續發展,才能進一步推動數位經濟的長足發展。

布局全球靈活調整 共享成果創造產業新價值

「企業全球化的布局是一場平衡藝術,既要考量成本與效率,也要應對地緣政治的挑戰。」李學長分享技嘉持續條調整在美國、馬來西亞(東南亞地區)、中國大陸的產能配置。在洛杉磯購置的廠房計畫雖因電力增容程序延宕一年多,但是最具產地優勢的廠房,預計明年第一季度順利啟用,由台灣幹部主導運營;東南亞則選址馬來西亞柔佛州,擁有自由貿易協定(FTA)和穆斯林社會背景,且與新加坡的緊密連結及生活成本優勢,成為技嘉進入東協與中東市場樞紐;而中國大陸主要服務當地市場。同時台灣仍為核心生產基地,透過跨國人力配置,例如台灣幹部赴美、中國幹部駐馬,靈活調整以適應市場多變的需求。

「AI 的目的不是取代員工,而是提升工作效率,讓企業運作更加高效。」李學長分享2018年成立技鋼,獨立運營專注於伺服器業務,由於成長迅速,目前已占技嘉集團總營收的七成以上。「技鋼成長得太快,甚至已經超出當初的規劃。我們目前正在思考如何平衡其發展,並朝未來的上市計畫努力。」他深知技鋼的成功離不開技嘉「與員工共享成果」的理念,這種分享模式讓員工感受到企業願景的重要,進而全力投入。同時他也期望未來的新血在學校就已掌握AI技術與概念,具備即戰力,讓教育、企業與產業共創長遠的效益。

2024 COMPUTEX台北國際電腦展GIGABYTE參展現場。

2024 COMPUTEX台北國際電腦展GIGABYTE參展現場。

相關新聞