文章列表
OpenAI 语音转写工具 Whisper 被曝存在重大缺陷：会凭空生成大段虚假内容
当地时间 27 日，据美联社报道，超过十位软件工程师、开发人员和学术研究人员称，OpenAI 的语音转写工具 Whisper 存在一个重大缺陷：有时会凭空生成大段甚至整句虚假内容。 这些专家指出，这些生成的文本（AI在线注：业内通常称为“AI 幻觉”）可能涉及种族言论、暴力措辞，甚至杜撰的医疗建议。 专家们认为，这一问题尤其令人担忧，因为 Whisper 已被广泛应用于全球多个行业，包括用于翻译和转录访谈内容、生成常见消费科技文本及制作视频字幕。
10/28/2024 8:47:58 AM
清源
Meta 推出 Llama 3.2 1B / 3B 模型量化版：功耗更低、可适用更多轻量移动设备
继今年 9 月开源 Llama 3.2 的 1B 与 3B 模型之后，Meta 于 10 月 24 日发布了这两个模型的量化版本，量化后的模型大小平均减少了 56%，RAM 使用量平均减少了 41%，模型速度提高了 2 至 4 倍，同时降低了功耗，使这些模型能够部署到更多移动设备上。 AI在线注：模型量化（Model Quantization）就是通过各种训练方式将浮点模型转为定点模型，可以压缩模型参数，降低模型的复杂性，以便于在更轻量的平台运行。 Meta 表示，他们采用了量化感知训练（Quantization-Aware Training，QAT）和后训练量化（SpinQuant）两种方法对模型进行量化，其中“量化感知训练”更重视模型的准确性，而“后训练量化”更强调模型的可移植性。
10/27/2024 1:53:56 PM
漾仔
可令 AI 助理同时进行快 / 慢速思考，谷歌 DeepMind 公布具备两种思维模式的 Talker-Reasoner 框架
谷歌 DeepMind 上周公布了一个号称“具备两种思维模式”的 Talker-Reasoner 框架，旨在让 AI 助理能够同时进行快速和慢速思考，目前相关论文已发布于 ArXiv 上（点此访问）。 据介绍，这款框架采用“双系统”设计，能够在与用户进行对话的同时并行多步骤推理任务（一边快速回答用户问题，一边高速思考），其中系统 1 Talker LLM 主要负责快速、直觉和合成的语言回应，用于与用户交谈。 而系统 2 Reasoner LLM 则负责解决复杂问题，涉及从外界获取信息以增强知识，例如调用工具或从外部数据库检索信息，从而提升系统 1 回应内容的准确度及逻辑性。
10/27/2024 10:20:36 AM
漾仔
Claude 接管人类电脑编程：程序员沸腾、OpenAI 反击，智能体大战一触即发
AI 接管人类电脑，未来已来！ Claude 自主操控电脑，从编程到科研无所不能，代表着万能 API。 另一边，OpenAI 内部加急研发多智能体 AI，已经有了雏形。
10/25/2024 9:47:36 PM
问舟
阿尔特曼回应 OpenAI 计划推出下一代模型 Orion：假消息失控了
今天午间，OpenAI 首席执行官山姆・阿尔特曼在 X 平台回应了近期有关“下一代模型 Orion”的报道：fake news out of control（假消息失控了）。 AI在线附前情提要：今天早些时候有外媒报道称，OpenAI 计划今年 12 月推出代号为“Orion”的新款前沿模型。 “Orion”采用有别于 GPT-4o 和 o1 的发布模式，不会通过 ChatGPT 广泛发布，而是先授权与其密切合作的公司，帮其构建自己的产品和功能。
10/25/2024 5:58:22 PM
清源
AI 驱动化学空间探索，大语言模型精准导航，直达目标分子
作者 | 「深度原理」陆婕妤编辑 | ScienceAI现代科学研究中，化学空间的探索是化学发现和材料科学的核心挑战之一。 过渡金属配合物（TMCs）的设计中，由金属和配体组成的庞大化学空间为多目标优化的搜索带来了难度。 为了解决这一问题，来自「深度原理」 (Deep Principle) 和康奈尔大学的研究者们开发了一种名为 LLM-EO（Large Language Model for Evolutionary Optimization）的新型工作流程算法，释放大型语言模型（LLM）的生成和预测潜能，显著提高了化学空间探索的效率。
10/25/2024 11:54:00 AM
ScienceAI
全球最强模型：OpenAI 被曝 12 月推出 Orion，AI 性能百倍级跃升
科技媒体 The Verge 今天（10 月 25 日）发布博文，报道称 OpenAI 计划今年 12 月推出代号为“Orion”的新款前沿模型。 AI在线援引该媒体报道，“Orion”采用有别于 GPT-4o 和 o1 的发布模式，不会通过 ChatGPT 广泛发布，而是先授权与其密切合作的公司，帮其构建自己的产品和功能。 此外消息源还表示微软内部工程师正在准备最早于 11 月在 Azure 上托管“Orion”。
10/25/2024 9:53:14 AM
故渊
论文发表难，OpenAI又有高管走了，还发了篇长文
OpenAI 的离职潮仍未止息。 这一次离开的是 Miles Brundage，他是 OpenAI 一位资深研究者和管理者，于 2018 年加入 OpenAI，离职前担任 AGI Readiness 团队的高级顾问，之前还曾领导过 Policy Research 团队。 更早之前，他曾在牛津大学人类未来研究所从事研究工作。
10/24/2024 6:08:00 PM
机器之心
OpenAI 未来 AI 战略新变数，高级顾问 Miles Brundage 本周将离职
科技媒体 maginative 昨日（10 月 23 日）发布博文，报道称迈尔斯・布伦达奇（Miles Brundage）宣布将于本周从 OpenAI 公司离职，去追求独立的 AI 政策研究。 布伦达奇是 OpenAI 公司的 AGI Readiness 高级顾问，已在 OpenAI 公司工作 6 年时间，期间他塑造了许多 OpenAI 关键的部署和安全实践。 布伦达奇在声明中表示，他希望能跳出行业内，从行业外影响和推动人工智能的发展。
10/24/2024 1:28:42 PM
故渊
OpenAI 遭前研究员炮轰：违反版权法、ChatGPT 破坏互联网
北京时间 10 月 24 日，OpenAI 前研究员苏奇尔・巴拉吉 (Suchir Balaji) 在接受《纽约时报》采访时称，OpenAI 违法了版权法，该公司推出的 ChatGPT 正在破坏互联网。 巴拉吉认为 OpenAI 违反版权法巴拉吉在 OpenAI 担任了近四年的人工智能研究员，协助收集和整理公司用于开发聊天机器人 ChatGPT 的大量互联网数据。 当时，他并没有仔细考虑 OpenAI 是否有合法权利以这种方式开发产品，以为公司可以自由使用任何互联网数据，无论这些数据是否受版权保护。
10/24/2024 12:11:39 PM
箫雨
科大讯飞星火 4.0 Turbo 大模型发布：七大能力全面超越 GPT-4 Turbo
在今日上午的 2024 科大讯飞全球 1024 开发者节上，科大讯飞正式发布“讯飞星火 4.0 Turbo”。 讯飞星火 4.0 Turbo 号称迎来全新升级，七大能力全面超越 GPT-4 Turbo，数学能力、代码能力超过 GPT-4o。 在数学能力方面，讯飞星火 4.0 Turbo 已完成超长思维链、树搜索和自我反思评价等算法验证，预计今年底可实现类 o1 的高难度数学能力。
10/24/2024 10:17:56 AM
汪淼
西湖大学发布 “AI 科学家” Nova，效果相比SOTA提升2.5倍
还记得今年夏天让众多科研工作者“瑟瑟发抖”的 AI scientist 吗？ 彼时的它，作为一个由谷歌Transformer 论文作者 Llion Jones 和前谷歌研究人员 David Ha 共同创立的全自动科学研究平台，从提出研究设想、检查创新程度，再到设计实验、编写程序、再GPU上执行实验并收集结果，到最后完成论文的撰写，一气呵成，让不少科研工作者早早就有了“事业危机感”。 此外，该项目还获得了New Enterprise Associates、Khosla Ventures、Lux Capital等多家全球知名投资机构以及NVIDIA等产业投资人的投资，进一步推动了其技术突破和市场化落地。
10/23/2024 3:44:00 PM
郑佳美
成功率提升15%，浙大、碳硅智慧用LLM进行多属性分子优化，登Nature子刊
编辑 | 萝卜皮优化候选分子的物理化学和功能特性一直是药物和材料设计中的一项关键任务。 虽然人工智能很适合处理平衡多个（可能相互冲突的）优化目标的任务，但是例如多属性标记训练数据的稀疏性等技术挑战，长期以来阻碍了解决方案的开发。 在最新的研究中，浙江大学侯廷军团队、中南大学曹东升团队以及碳硅智慧团队联合开发了一种分子优化工具 Prompt-MolOpt。
10/23/2024 2:06:00 PM
ScienceAI
微软和 OpenAI 将向媒体提供 1000 万美元资助，推动其使用 AI 工具
微软和 OpenAI 宣布，他们将向部分媒体机构提供高达 1000 万美元（AI在线备注：当前约 7129.5 万元人民币）的资助，以鼓励他们尝试在新闻编辑室中使用 AI 工具。这笔资助包括 250 万美元现金以及价值 250 万美元的微软和 OpenAI 软件和企业信用额度。图源 Pixabay这一消息发布之际，两家公司仍面临着一系列版权诉讼，包括来自《纽约时报》、The Intercept、Raw Story、AlterNet、《调查报告中心》和 Alden Global Capital 的诉讼。
10/23/2024 10:51:26 AM
远洋
Midjourney 下周上线新图像编辑器：让“二创”AI 图片变得更简单
首席执行官 David Holz 昨日在 Discord 平台宣布，将于下周为 Midjourney 推出全新的 AI 图像编辑器工具。用户上传图像后可展开包括放大、缩小、调整角度等多种操作，这些操作不再需要 Discord，只需简单命令即可完成；用户可以使用数字画笔进行修补，进行更精细的修改。此外该 AI 图像编辑器还可以基于上传图像的深度信息生成新图片，保留原始构图和内容不变的情况下，彻底改变纹理、颜色和细节。
10/22/2024 11:51:31 AM
故渊
英伟达新 nGPT 架构撬动 AI 未来：超球面学习提效，训练模型时间可缩短至 1/20
科技媒体 dataconomy 昨日（10 月 21 日）发布博文，报道称英伟达在训练 AI 模型方面取得重大突破，发布了最新的 Normalized Transformer（nGPT）新架构，保持模型的稳定性和准确性的前提下，可以将训练 AI 时间缩短至 1/4 或者 1/20。nGPT 架构提升效率的秘诀在于“超球面学习”（Hyperspherical learning）这个概念。传统的变换器模型通常缺乏一致的几何框架，而 nGPT 通过将嵌入、注意力矩阵和隐藏状态等关键组件映射到超球面表面，确保模型各层在训练过程中保持平衡。
10/22/2024 9:46:42 AM
故渊
霍尼韦尔与谷歌云合作，将生成式 AI Gemini 引入工业领域
霍尼韦尔（Honeywell）今日宣布与谷歌云（Google Cloud）进行合作，将生成式人工智能 Gemini 引入工业领域。霍尼韦尔是一家多元化高科技和制造企业，其业务涉及：航空产品和服务、楼宇、家庭和工业控制技术、汽车产品、涡轮增压器以及特殊材料等。霍尼韦尔首席执行官表示，人工智能可以帮助该公司解决劳动力短缺问题。
10/21/2024 9:19:03 PM
沛霖（实习）
把 AI 放进《我的世界》服务器：GPT-4o 杀牛宰羊，Claude3.5 把家拆了
把《我的世界》交给大模型，会怎么样？GPT-4o 鲨牛宰羊，Claude3.5 不停在人类身旁放炸药包和敌人，还把家拆了。GPT-4o mini 玩《我的世界》belike： 来到游戏里面，GPT-4o mini（玩家 karolina）一开始还蛮礼貌的：你好世界！
10/21/2024 1:11:17 PM
清源