MIT

405B大模型也能线性化！斯坦福MIT最新研究，0.2%训练量让线性注意力提分20+

405B大模型也能线性化！斯坦福MIT最新研究，0.2%训练量让线性注意力提分20+

生产级大模型应用线性注意力的方法，来了。线性Attention（包括RNN系列），再也不用困在几B参数的范围内娱乐了。一套方法，即可线性化现有各种量级的Transformer模型，上至Llama 3.1 405B，也只需要十来张显卡在两天内搞定！

1

资讯热榜

罗永浩 Jarvis 初创项目“J1 Assistant AI 助理”上线，利用语音与大模型互动类 Mac Mini 大小的个人 AI 超算：英伟达 Project Digits 发布，起价 3000 美元 3 到 5 秒即可同声传译 40 余种语言，时空壶推出 W4 Pro 实时翻译耳机 GPT-4o最自私，Claude更慷慨！DeepMind发布全新「AI道德测试」 Just keep scaling！思维链作者Jason Wei 40分钟讲座剖析LLM扩展范式 OpenAI最大秘密，竟被中国研究者破解？复旦等惊人揭秘o1路线图全网都在扒的DeepSeek团队，是清北应届生撑起一片天奥特曼回应一切：宫斗、马斯克、ChatGPT两周年

标签云