聯發科推出生成式 AI 服務平台 MediaTek DaVinci 和繁中大模型 MediaTek Research BreeXe

聯發科推出生成式 AI 服務平台 MediaTek DaVinci 和繁中大模型 MediaTek Research BreeXe

聯發科舉辦生成式 AI 論壇,正式推出生成式 AI 服務平台「MediaTek DaVinci」,中文名稱為「聯發科技達哥」,同時聯發創新基地日前推出的繁體中文大型語言模型 MediaTek Research BreeXe 也在論壇中一併介紹。

聯發科推出生成式 AI 服務平台 MediaTek DaVinci 和繁中大模型 MediaTek Research BreeXe

聯發科生成式 AI 工具

MediaTek DaVinci 基於聯發科技生成式 AI 服務框架(GAI Service Framework, GAISF)開發,最初是為聯發科集團內部打造具資料安全性、提高生產力的生成式 AI 工具,在獲得各部門廣泛使用後,發展成可供外部企業導入的生成式 AI 服務平台與豐富的生態系。

目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業,以及教育機構、新創公司等加入 MediaTek Davinci 生態系。MediaTek Davinci 提供一個高整合度、高擴展性的開放平台,讓開發者可為各行業開發客製化生成式 AI 擴充外掛、助理等應用;對企業來說,能夠在資料安全的環境下,善用平台的豐富工具提高生產力與競爭力。

聯發科推出生成式 AI 服務平台 MediaTek DaVinci 和繁中大模型 MediaTek Research BreeXe

支援各類大語言模型

MediaTek Davinci 支援各類大語言模型,包含聯發創新基地最新釋出的繁體中文大語言模型「MR BreeXe」。MR BreeXe 以 Mixtral 8x7B 模型為基礎開發,繼承 Mixtral 多專家模型特有的節省運算資源、提升速度優勢,再加上聯發創新基地的預訓練(pre-training)之後,不但在繁體中文測試項目(TMMLU+、MT Bench TW)超越 GPT-3.5,並對台灣常見之地端應用特別進行優化,提升產業界使用生成式 AI 與檢索增強生成(RAG)的體驗。

MR BreeXe 於 NVIDIA 的 Taipei -1 GPU 超級電腦 DGX H100 上進行訓練,透過 MediaTek Davinci,支援全地端與部分地端的佈設場景,並可依需求進行多樣本學習(few-shot learning)甚至微調(fine-tuning)的客製化。

聯發科推出生成式 AI 服務平台 MediaTek DaVinci 和繁中大模型 MediaTek Research BreeXe

聯發科技人工智慧暨數據工程處協理葉家順表示:「MediaTek DaVinci 解決許多企業在採用生成式 AI 的痛點,讓各行各業在確保資訊安全的環境下,可善用已有強大基礎的平台開發專屬的生成式 AI 應用。隨著更多企業與開發者加入 MediaTek Davinci 生態系,我們相信 MediaTek DaVinci 的能力將會持續爆發性成長,成為企業的得力助手。」

聯發創新基地負責人許大山博士表示:「MediaTek Research BreeXe 繁體中文大型語言模型是聯發創新基地在大模型發展上最新的里程碑,提供優異語文理解能力和雲、地兩端的彈性,為現今繁體中文能力最強的語言模型, 加上與 MediaTek Davinci 的搭配,相信能更貼近在地需求,激發更多在地的生成式 AI 應用。」

洪詩詩
作者

PC home雜誌、T客邦產業編輯,長期報導手機、行動裝置、電信商以及行動支付、電商相關領域,負責手機平板器材、5G網路、無線耳機等產品評測,以及相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則