模型自己决定要不要思考一招让大模型推理长度减少90%AI模型一直以来都按部就班地

量子位看科技 2025-05-30 15:29:19

模型自己决定要不要思考一招让大模型推理长度减少90%

AI模型一直以来都按部就班地“先推理再回答”，但人类其实并不是这样工作的：遇到简单问题会直接回答，只有面对复杂问题才会认真思考。

香港中文大学和新加坡国立大学提出了一个新方法，叫TON（Think Or Not），让视觉语言模型也学会“要不要思考”。实验发现，这招竟然能在不影响准确率的前提下，大大减少冗余推理步骤，让模型变得又快又准。

在多个任务上（比如图形推理CLEVR、几何问答GeoQA等），TON把推理长度最多砍掉90%，准确率还提高了。比如GeoQA的准确率比老方法高出17个点。

这种“按需思考”的机制不仅让AI推理更高效，也更像人了：能偷懒的时候就偷懒，真正需要动脑的时候再发力。

TON框架的核心是什么？请看文章：

0 阅读：0

猜你喜欢

量子位看科技

量子位看科技

感谢大家的关注

作者最新文章

1
不用RL也能搞定大模型微调只需一条样本做无监督训练强化学习太烧钱？试试只用一条样
2
大模型遗忘只是表演吗港理工团队揭示伪遗忘真相你以为大模型“忘了”，其实只是装的。
3
Mamba核心作者新作新注意力机制速度超越DeepSeek推理提速2倍还省内存？
4
AI有了记忆会怎样大模型的记忆系统来了AI不再只是个临时聊天工具，它开始拥有“记
5
AI水印新SOTA南洋理工AI水印新方法图像加水印终于不再“整图一锅炖”了。南洋
6
阿里新方法教AI用好搜索通义团队开源新框架MaskSearch阿里通义实验室发布
7
陶哲轩转发AI数学习题集DeepMind开源数学标准题库DeepMind最近开源
8
AI无意间干翻人类专家AI意外生成超强CUDA内核好家伙，AI意外生成的内核（k
9
10个小模型并联跑赢GPT4.1开源模型集体作战术上海人工智能实验室联合高校打造
10
神经网络编译成C语言快1744倍把AI模型变逻辑电路速度起飞有开发者搞了个非常硬

热门分类

推荐 热榜 军事 NBA 体育 社会 明星八卦 娱乐 财经 科技 汽车 历史 国际 游戏 动漫 公益 搞笑 商业 互联网 数码 国际足球 房产 家居 时尚 科学探索 职场 育儿 股票 教育 影视 情感 热点 中国军情 武器 中国南海 中国足球 亚洲杯 科比 综合体育 CBA 投资 楼市 大咖秀 外汇 创业 风口 SUV 豪车 概念车 优惠 新能源 美国 欧洲 朝日韩 俄罗斯 孕期 街拍 恋爱攻略 婚姻 正能量

科技TOP

1
目前接近完美的6部手机，有你在用的嘛？​​​
2
这也太瘦了，门禁直接成了摆设
3
华为自研鸿蒙电脑，没有键盘！是一整块可折叠的超大屏幕，然后内置大面积线性马达，通
4
这中控屏幕看起来有点丑
5
一图解读：十款手机配置，各显神通，你更喜欢哪款？
6
姐那锤子是干啥使的，快说！
7
以前这样挂着一部手机那是相当时髦的​​​​
8
一个人躺在沙发上玩手机。
9
昨天，华为终端发布华为nova全球代言人易烊千玺手持华为nova14系列的海报
10
国外拆解Mate30，零部件国产率仅为30%，国外拆解Mate30 5G，零部

科技最新文章

1
【雷军晒童年照】特殊的日子总是有一些回忆，三条杠很明显童年很快乐。​​​
2
雷军晒童年照儿童节被雷总的童年照可爱到，原来大佬早有领导风范，这波回忆杀直接拉满
3
一图解读：十款手机配置，各显神通，你更喜欢哪款？
4
最新手机处理器档次划分！小米玄戒入局，华为麒麟9020位次明确。​​​
5
有个事不知道你们有没有发现，樊振东这次代言美团，是不是因为他平时
6
这哪是手机发布会，完全就是绝望，我敢打赌，友商要连夜修改PPT了！荣耀完全不给友
7
🐰印度哭完美国哭，中国官宣的新技术让外网再次炸锅，连国外CEO都忍不住感慨
8
美国：禁止销售华为。英国：禁止销售华为。澳大利亚：禁止销售华为。
9
和她关在一个屋里一个月，条件是没有手机玩你愿意吗？
10
这就是华为Pura80系列的镜头模组，据说会有1英寸的大底，华为出品，必是精品，一出手就是遥遥领先。