10个小模型并联跑赢GPT4.1开源模型集体作战术上海人工智能实验室联合高校打造

量子位看科技 2025-05-30 16:19:44

10个小模型并联跑赢GPT4.1开源模型集体作战术

上海人工智能实验室联合高校打造的Avengers框架，展现了小模型“小而强”的力量。

这个框架主打“集体智慧”，通过四步操作——Embedding（理解问题）、Clustering（问题聚类）、Scoring（模型能力打分）、Routing & Voting（动态路由+投票输出）——巧妙组合多个7B小模型，无需额外训练就实现了优异性能。

实验测试了15个涵盖数学、代码、逻辑、知识、情感的公开数据集。结果显示，Avengers在9个数据集上表现优于GPT-4.1，尤其在数学任务中领先18.21%，代码任务领先7.46%。

相比其他需要训练的路由方法，Avengers凭借结构轻量、泛化能力强的优势，在Out-of-Distribution任务中表现更稳。同时，它也超过了主流混合模型策略（如MoA），平均高出17.16%。

0 阅读：1

猜你喜欢

量子位看科技

量子位看科技

感谢大家的关注

作者最新文章

1
不用RL也能搞定大模型微调只需一条样本做无监督训练强化学习太烧钱？试试只用一条样
2
大模型遗忘只是表演吗港理工团队揭示伪遗忘真相你以为大模型“忘了”，其实只是装的。
3
Mamba核心作者新作新注意力机制速度超越DeepSeek推理提速2倍还省内存？
4
AI有了记忆会怎样大模型的记忆系统来了AI不再只是个临时聊天工具，它开始拥有“记
5
AI水印新SOTA南洋理工AI水印新方法图像加水印终于不再“整图一锅炖”了。南洋
6
阿里新方法教AI用好搜索通义团队开源新框架MaskSearch阿里通义实验室发布
7
陶哲轩转发AI数学习题集DeepMind开源数学标准题库DeepMind最近开源
8
AI无意间干翻人类专家AI意外生成超强CUDA内核好家伙，AI意外生成的内核（k
9
10个小模型并联跑赢GPT4.1开源模型集体作战术上海人工智能实验室联合高校打造
10
神经网络编译成C语言快1744倍把AI模型变逻辑电路速度起飞有开发者搞了个非常硬

热门分类

推荐 热榜 军事 NBA 体育 社会 明星八卦 娱乐 财经 科技 汽车 历史 国际 游戏 动漫 公益 搞笑 商业 互联网 数码 国际足球 房产 家居 时尚 科学探索 职场 育儿 股票 教育 影视 情感 热点 中国军情 武器 中国南海 中国足球 亚洲杯 科比 综合体育 CBA 投资 楼市 大咖秀 外汇 创业 风口 SUV 豪车 概念车 优惠 新能源 美国 欧洲 朝日韩 俄罗斯 孕期 街拍 恋爱攻略 婚姻 正能量

科技TOP

1
目前接近完美的6部手机，有你在用的嘛？​​​
2
这也太瘦了，门禁直接成了摆设
3
华为自研鸿蒙电脑，没有键盘！是一整块可折叠的超大屏幕，然后内置大面积线性马达，通
4
这中控屏幕看起来有点丑
5
一图解读：十款手机配置，各显神通，你更喜欢哪款？
6
姐那锤子是干啥使的，快说！
7
以前这样挂着一部手机那是相当时髦的​​​​
8
一个人躺在沙发上玩手机。
9
昨天，华为终端发布华为nova全球代言人易烊千玺手持华为nova14系列的海报
10
国外拆解Mate30，零部件国产率仅为30%，国外拆解Mate30 5G，零部

科技最新文章

1
【雷军晒童年照】特殊的日子总是有一些回忆，三条杠很明显童年很快乐。​​​
2
雷军晒童年照儿童节被雷总的童年照可爱到，原来大佬早有领导风范，这波回忆杀直接拉满
3
一图解读：十款手机配置，各显神通，你更喜欢哪款？
4
最新手机处理器档次划分！小米玄戒入局，华为麒麟9020位次明确。​​​
5
有个事不知道你们有没有发现，樊振东这次代言美团，是不是因为他平时
6
这哪是手机发布会，完全就是绝望，我敢打赌，友商要连夜修改PPT了！荣耀完全不给友
7
🐰印度哭完美国哭，中国官宣的新技术让外网再次炸锅，连国外CEO都忍不住感慨
8
美国：禁止销售华为。英国：禁止销售华为。澳大利亚：禁止销售华为。
9
和她关在一个屋里一个月，条件是没有手机玩你愿意吗？
10
这就是华为Pura80系列的镜头模组，据说会有1英寸的大底，华为出品，必是精品，一出手就是遥遥领先。