本聯盟與台灣服務科學學會於8/9下午，假台北松菸文創基地舉辦「生成式AI的技術與應用」論壇，現場共吸引了38位參加者，另外12位透過網路線下參加。這次論壇共安排了11場的短講，由學界專家和業界先進們精簡的分析最新的生成式AI的技術發展和其商業應用的構想和經驗。
首先由聯盟計畫主持人暨服務科學學會理事長黃三益教授，說明本論壇的緣起，全世界對於生成式AI，尤其是大型語言模型（LLM）的投資在2023年呈現10倍的成長，雖然大家都十分看好其發展，但目前來說對於一般人的生活和工作還看不到顯著的影響，因此業界都急於探討其未來的商業應用，這也是舉辦論壇的目的。緊接著由中山大學博士生蔡易航介紹最新的LLM技術發展，聚焦於RAG（Retrieval-Augmented Generation）、多模態模型（Multimodal LLM）和代理人LLM（Agentic Workflow）。
上半場是有關「生成式AI的技術」場次，第一個短講是由陽明交通大學吳毅成教授實驗室的博士生孟昶緻，介紹國科會TAIDE計畫所開發的Llama TAIDE台灣文化與繁體中文大型語言模型以及融合圖片辨識的多模態模型的微調概念；第二個短講是由台智雲的葉傑倫副總介紹台智雲所開發的福爾摩沙大模型LLM，以及其所提供的雲端和地端的LLM服務。第三個短講是源壹科技的陳政琦總經理介紹該公司所提供的LLM伺服器，從基礎搭配3090顯卡做LLM推論的小工作站，到可以做LLM訓練的搭配H100的大伺服器，包含了各種不同應用場景的電腦系統；第四個短講是由瑛聲科技的林群穎總經理介紹並展示該公司所開發的語音客服服務，結合了ASR（Automatic Speech Recognition）、TTS（Text to Speech）和LLM的技術，來完美處理國台英語的各種產業客服；第五個短講則是由頑碼資訊的張介騰執行長介紹該公司所開發的LLM多代理人服務建置系統，透過圖形化拖拉的方式即可實現代理人和工作流程的建置。
下半場是有關「生成式AI的應用」場次，首先由哈瑪星科技的韓怡真副總介紹生成式AI在供應鏈的應用，並具體展示LLM如何幫助供應商們填寫永續問卷對其供應商的稽核；第二個短講是由智泉國際（iGroup）的梁銘心北亞總監介紹生成式AI在教育上的多種應用，包括自動出題、自動評量和自動彙總研究論文等。第三個短講是由智合科技的李忠軒總經理介紹生成式AI在工業上的應用，展示了多模態LLM在半導體設計和珠寶行銷的應用，也強調商業模式的重要性。第四個短講是由數解人意科技（QSearch）的顧彞勛營運長介紹生成式AI在輿情分析上的應用，並具體說明LLM可以即時將網路上爬取的資料自動上標籤以方便後續的搜尋，並且可以更精確的瞭解顧客所閱讀過評論的語意以進行更準確的推薦；第五個短講是由孟華科技的陳威良總經理介紹生成式AI在專案管理上的應用，展示LLM如何從會議記錄裡擷取出代辦事項並結合專案管理系統做更確實的追蹤，利用LLM也可以用問答方式方便掌握專案執行進度。
透過11位講者的分享，與會者得以對於生成式AI的最新技術趨勢和應用有了進一步的瞭解，後續也請關注主辦單位文字探勘與數位轉型產學聯盟和台灣服務科學學會所辦理的相關活動。