ky体育官网登录入口网页版(中国)有限公司官网

开yun体育网推理速率最高开首同精度模子300%-ky体育官网登录入口网页版(中国)有限公司官网

新闻

你的位置:ky体育官网登录入口网页版(中国)有限公司官网 > 新闻 > 开yun体育网推理速率最高开首同精度模子300%-ky体育官网登录入口网页版(中国)有限公司官网


开yun体育网推理速率最高开首同精度模子300%-ky体育官网登录入口网页版(中国)有限公司官网

发布日期:2026-01-24 09:53    点击次数:54

开yun体育网推理速率最高开首同精度模子300%-ky体育官网登录入口网页版(中国)有限公司官网

  新浪科技讯 12月16日下昼音问开yun体育网,无问芯穹晓示开源端上智能一体化经管决策中的小模子——端侧全模态分解模子Megrez-3B-Omni,并同步开源了纯言语版块模子Megrez-3B-Instruct。

  据先容,Megrez-3B-Omni摄取了最适持机、平板等端侧迷惑的30亿参数黄金尺寸,结构规整,推理速率最高开首同精度模子300%。此外,还同期具备图片、音频、文本三种模态数据处理才能,且在三个模态的多种测评基准中得回最优性能。

  在图像分解方面,Megrez-3B-Omni诚然体积仅为3B,但概述性能不错高出34B的LLaVA-NeXT-Yi-34B模子,是当今OpenCompass、MME、MMMU、OCRBench等多个主流测试集上精度最高的图像分解模子之一。

  在语音分解方面,Megrez-3B-Omni 不仅接济中、英文语音输入,还能处理复杂的多轮对话场景,接济对输入图片或翰墨的语音发问,达成不同模态间的目田切换。

  在文门径略方面,Megrez-3B-Omni在莫得清除模子文本处理才能情况下,将上一代14B大模子的才能压缩至3B边界,显贵缩短了贪图老本、莳植了贪图着力。在C-EVAL、MMLU/MMLU Pro、AlignBench等多个泰斗测试集上,得回端上模子最优精度。

  据悉,当今Megrez-3B-Omni处于才能预览阶段,接下来无问芯穹将不息迭代Megrez系列,莳植自动化水平至“edge device use”着力,让用户只需要给出浅易的语音提醒,就可完成端侧迷惑缔造或欺骗操作。(文猛)

海量资讯、精确解读,尽在新浪财经APP

职守裁剪:王若云 开yun体育网