NVIDIA 在日本與台灣推出全新 NIM 微服務,助力多家產業組織提升生成式 AI 效率與安全性
打造出符合當地價值觀的 AI 系統,保護和推動文化、語言多元性與知識
NVIDIA NIM 微服務能夠加速部署、提升整體效能,且為全球醫療保健、金融、製造業、教育與法律等各產業的組織提供必要的安全性。NVIDIA 已與台灣多家產業組織合作,導入全新 NVIDIA NIM 微服務。
台灣領先醫療體系之一的長庚紀念醫院目前使用該院專屬的 AI 推論服務(AIIS),以集中管理醫院體系內的所有 LLM 應用。長庚醫院使用 Llama 3-Taiwan 70B,提供患者能夠理解更細膩的醫療語言,提高第一線醫護人員的工作效率。
詳情請見:https://blogs.nvidia.com.tw/blog/nim-microservices-generative-ai-taiwan/?ncid=so-face-764719
四款全新微服務有助於加速部署提供先進文化與語言熟練度的主權 AI 應用
NVIDIA NIM 微服務支援最新開發出基於 Llama-3 架構在大型繁體中文和英文資料語料庫上進行微調的大型語言模型(LLM)Llama-3-Taiwan-70B,該模型在理解國語、處理本地法律任務、回答問題,以及語言翻譯和總結方面的表現相當優異,包含長庚紀念醫院、和碩聯合科技、長春集團、欣興電子、科技報橘、律果科技與 APMIC 等台灣在地企業正在利用該基礎模型加速 落地應用。
詳情請見:https://blogs.nvidia.com.tw/blog/nim-microservices-generative-ai/