文章列表
OpenAI 向杜克大学资助“人工智能道德”研究
OpenAI 资助的项目旨在创建算法，预测医学、法律和商业等领域的人类道德判断。这个研究的难点源于 AI 的运作方式：机器学习模型基于训练数据预测结果，因此通常反映了主流文化的意见，可能会存在偏见。
消息称 OpenAI 正与三星洽谈合作，有望在 Galaxy 手机中搭载多项 AI 功能
报道援引知情人士的话说，这些讨论反映了 OpenAI 和苹果最近达成的一项协议，OpenAI 的技术为 Apple Intelligence 功能提供了支持。
OpenAI 在训练数据诉讼案中意外删除《纽约时报》等收集的关键证据
据The Verge报道，当地时间周三提交的法庭文件披露，OpenAI 工程师在一次“令人震惊的”失误中，意外删除了《纽约时报》和其他主要报纸在AI训练数据诉讼中收集的关键证据。
OpenAI 首席产品官：ChatGPT 网页端本周引入高级语音模式
北京时间本周三凌晨，OpenAI 首席产品官凯文·威尔（ Kevin Weil ）通过 X 平台确认，高级语音模式（Advanced Voice Mode）在本周全面上线ChatGPT网页版，面向付费用户开启。
腾讯混元大模型核心论文曝光：Scaling law、MoE、合成数据以及更多
随着 ChatGPT 的横空出世，大语言模型能力开始在各项领域（传统 NLP、数学、代码等）得到广泛验证，目前已经深刻影响到腾讯混元团队日常生活的方方面面。 腾讯混元团队长期致力于大语言模型的探索之路，大模型生产的各个环节开展研究创新以提升其基础能力，并将混元大模型的能力跟业务做深度结合，让生成式 AI 成为业务增长的放大器。 大语言模型的设计、训练和优化是一项复杂的系统工程，涉及到模型结构创新、训练范式优化、数据获取和评测设计、关键能力提升和挑战性问题的解决等方方面面。
首个可保留情感的音频 LLM：Meta 重磅开源 7B-Spirit LM，一网打尽“音频 + 文本”多模态任务
Meta 开源了一个基础多模态语言模型 Spirit LM，基于一个 70 亿参数的预训练文本语言模型，交错使用文本和语音数据进行训练，使模型能够自由地混合文本和语音，在任一模态中生成语言内容。
谷歌 Gemini 突发试验版模型：重回竞技榜第一，新版 GPT-4o 只领先了 1 天
在新版 GPT-4o 刚登顶竞技榜后 1 天，立马发布最新试验版模型 Gemini-Exp-1121 夺回冠军宝座。要知道，一周前上一版模型 Gemini-Exp-1114 才发布。这怕不是拿准了 OpenAI 会来争擂台，故意留了一手。
写给小白的大模型入门科普
什么是大模型？ 大模型，英文名叫Large Model，大型模型。 早期的时候，也叫Foundation Model，基础模型。
没有思考过 Embedding，谈何 RAG，更不足以谈 AI大模型
今天，我们来聊聊 AI 大模型，有一个非常重要概念 "Embedding"。 你可能听说过它，也可能对它一知半解。 如果你没有深入了解过 Embedding，那你就无法真正掌握 RAG 技术，更不能掌握 AI 大模型精髓所在。
OpenAI薪酬大曝光！奥特曼身价145亿，年薪只有55万
刚刚，一份新发布的税务申报文件显示，奥特曼去年仅领取了76001美元（约55万人民币）的薪酬。 相比起2022年的73546美元，略有增加。 2022年数据身为OpenAI的CEO，年薪仅为55万。
史上最严“中文真实性评估”：OpenAI o1第1豆包第2，其它全部不及格
新的大语言模型（LLM）评估基准对于跟上大语言模型的快速发展至关重要。 近日，淘宝天猫集团的研究者们提出了中文简短问答（Chinese SimpleQA），这是首个全面的中文基准，具有“中文、多样性、高质量、静态、易于评估”五个特性，用于评估语言模型回答简短问题的真实性能力。 研究人员表示，中文简短问答能够指导开发者更好地理解其模型的中文真实性能力，并促进基础模型的发展。
收敛速度最高8倍，准确率提升超30%！华科发布MoE Jetpack框架 | NeurIPS 2024
混合专家模型（MoE, Mixture of Experts）是一种通过动态激活网络的部分结构来提升计算效率的架构，可以在保持相对稳定的计算成本的前提下大幅增加参数量，从而有效提升模型性能。 这一特性使得MoE能够兼顾模型的规模与效率，已广泛应用于各种大规模任务。 然而，MoE模型通常需要在大型数据集上预训练以获得理想性能，导致其对时间和计算资源的需求极高，这也限制了其在深度学习社区中的普及性。
405B大模型也能线性化！斯坦福MIT最新研究，0.2%训练量让线性注意力提分20+
生产级大模型应用线性注意力的方法，来了。 线性Attention（包括RNN系列），再也不用困在几B参数的范围内娱乐了。 一套方法，即可线性化现有各种量级的Transformer模型，上至Llama 3.1 405B，也只需要十来张显卡在两天内搞定！
微调大型语言模型（LLM）的五个技巧
译者 | 李睿审校 | 重楼数据质量、模型架构以及偏见缓解方面的专家建议开发人员可以掌握LLM微调来提高人工智能开发的性能和效率。 为什么微调至关重要大型语言模型（LLM）配备了处理广泛任务的通用能力，包括文本生成、翻译、提取摘要和回答问题。 尽管LLM的性能表现非常强大，但它们在特定的任务导向型问题或特定领域（例如医学和法律等）上仍然效果不佳。
OpenAI 推出免费 AI 培训课程，教老师如何将 ChatGPT 用于教育
OpenAI 与非营利组织 Common Sense Media 共同宣布推出免费的教师培训课程，旨在帮助教师更好地理解人工智能和提示工程（prompt engineering，是指设计和优化提示词以引导大语言模型生成更准确、有用的输出的工程）。
昆仑万维推出“天工大模型 4.0”4o 版及实时语音助手 Skyo，号称可克服大模型幻觉
今天上午，昆仑万维宣布推出“天工大模型4.0”4o版（Skywork 4o）以及新产品“实时语音对话助手Skyo”。
谷歌 Gemini 引入“记忆”功能：AI 记住用户偏好、习惯，提供更贴心服务
科技媒体 TechCrunch 昨日（11 月 19 日）发布博文，报道称谷歌开始向 Gemini Advanced 用户，推出“记忆”（memory）功能，可以记住用户的生活细节、工作习惯以及个人偏好。
年度世界互联网科技大奖公布，腾讯Angel机器学习平台获领先科技奖
11月19日，2024年世界互联网大会领先科技奖在乌镇发布，腾讯Angel机器学习平台凭借其卓越的技术积累、创新的关键技术和广泛的应用场景，荣获本年度领先科技奖。 腾讯Angel 机器学习平台，突破了万亿级模型分布式训练和推理以及大规模应用部署等难题，率先实现大模型技术从底层硬件到关键软件技术的自主研发，在业务场景广泛应用，显著推动实体产业和数字经济发展，提升社会效率。 世界互联网大会领先科技奖由世界互联网大会主办，旨在奖励全球年度最具领先性的互联网科技成果，倡导互联网技术国际交流合作。