跳到主要內容區塊

【服務】﹤AI資訊、智慧商務零售﹥基於檢索增強生成(RAG)之大型語言模型智慧問答系統

國立中山大學/張雲南副教授

 解決痛點 

隨著大型語言模型(LLM)的快速發展,其在自然語言理解與生成上的能力已可廣泛應用於客服、知識管理與決策支援。然而,通用模型在實務應用中常面臨「幻覺(Hallucination)」問題,即生成內容可能與事實不符,降低使用者信任度。
此外,企業內部知識多分散於文件、資料庫與各類系統中,缺乏有效整合與檢索機制,使得模型難以取得正確且即時的參考資料,進而影響回答的準確性與可用性。因此,如何建立高品質的資料檢索機制,並與生成模型有效整合,成為落地應用的關鍵挑戰。

 技術簡介 

本系統基於開放式大型語言模型,結合檢索增強生成(Retrieval-Augmented Generation, RAG)架構,打造高準確度且可落地的智慧問答解決方案。透過先進的文件解析與語意切分技術,系統可將企業內部各類非結構化與結構化資料轉換為可檢索的知識庫。
在檢索層面,本系統採用優化之索引與語意搜尋機制(如向量資料庫與語意嵌入技術),能根據使用者問題即時擷取最相關的知識片段,並作為生成模型的依據,大幅降低幻覺發生機率,提升回答的正確性與一致性。
在生成層面,系統可根據檢索結果進行上下文整合與回應生成,並支援引用來源標註、答案追溯與權限控管,確保資訊透明與資料安全。此外,系統亦可依不同應用場景進行客製化調整,例如多輪對話、專業領域知識強化及多語言支援。

 應用案例 

適用於企業內部知識管理系統、智慧客服、自助服務平台、政府機關問答系統及專業領域(如法規、醫療、製造)知識查詢,協助組織提升資訊取得效率、降低人工作業負擔,並強化決策支援能力。

 相關連結 


 技術產學合作或技轉單位 

產學合作:高雄長庚醫院

 獲獎紀錄 

 技術聯絡人 

國立中山大學 前瞻產業聯絡中心

連絡電話:07-5250165

聯絡信箱:gloria@mail.nsysu.edu.tw

瀏覽數: