文章列表
创新能力超越AI Scientist，上海AI Lab「AI 科研团队」VirSci来了
编辑 | ScienceAI由上海人工智能实验室提出的 VirSci（Virtual Scientists）系统是一个基于大语言模型（LLM）的多智能体协作平台，专注于模拟科学家团队的合作过程，从而加速科研创新。 不同于以往的单智能体系统，VirSci 通过使用真实科学家的数据来模拟科学团队的多人协作，不仅可以通过团队成员的合作讨论来生成更具创新性和影响力的科研想法，还展现出作为「科学学」（Scienceof Science）研究工具的巨大潜力。 该研究以「Two Heads Are Better Than One: A Multi-Agent System Has the Potential to Improve Scientific Idea Generation」为题，于 2024 年 10 月 12 日发布在 arXiv 预印平台。
UCLA、MIT数学家推翻39年经典数学猜想！AI证明卡在99.99%，人类最终证伪
又一个看似坚固无比的数学理论，被证伪了！ 最近，UCLA和MIT的研究者证伪了概率论中众所周知的假设——「上下铺猜想」。 上下铺猜想（Bunkbed Conjecture）也称为双层床猜想，是渗透理论中的一个陈述，该领域处理的是在图的边随机删除后存在的路径和簇。
大语言模型时代，提示词才是王道：堪比专业翻译软件的提示词
先给大家看看最终效果：商人罗伯特·洛卡西奥，开了个名叫EqualAI的非营利组织，专门应对人工智能开发中那些看不见、摸不着的无意识偏见。 这名字听起来倒是光鲜，然而，他却在《Fast Company》上发了一篇文章，讲的是什么“提示工程”的局限。 事情的由头不过是一个普普通通的提示语：“写篇750字的文章，说说人工智能怎么成了品牌的‘数字门面’，要写得像《Fast Company》的文章那样。
OpenAI安全大佬，华人科学家翁荔B站首秀！人类如何培养出下一代聪明且安全的AI技术
出品 | 51CTO技术栈（微信号：blog51cto）B站真的啥也能学到！ 11月B站的哔哩哔哩超级科学晚活动，竟然请来了OpenAI的研究副总裁（安全）——翁荔！ 她是OpenAI的华人科学家，也是ChatGPT的贡献者之一。
为什么多智能体能够解决LLM无法解决的复杂问题
ChatGPT的引入使得大型语言模型(LLM)在技术行业和非技术行业都得到了广泛应用，这种普及主要归因于两个因素：1. LLM作为知识宝库：LLM基于海量的互联网数据进行训练，并定期更新(即GPT-3、GPT-3.5、GPT-4、GPT-4o等)。 涌现能力：随着LLM的发展，它们展现出小型模型中不具备的能力。
研究人员绕过 GPT-4o 模型安全护栏，利用“十六进制字符串”成功令其编写漏洞攻击程序
网络安全公司 0Din 的研究员 Marco Figueroa 发现了一种新型 GPT 越狱攻击手法，成功突破了 GPT-4o 内置的“安全护栏”措施，能够使其编写出恶意攻击程序。 参考 OpenAI 介绍，ChatGPT-4o 内置了一系列“安全护栏”措施，以防止该 AI 遭到用户不当使用，相关防护措施会分析输入的提示文本，判断用户是否要求模型生成恶意内容。 ▲ 图源 Marco Figueroa 博客（下同）不过 Marco Figueroa 尝试设计了一种将恶意指令转化为十六进制的越狱方法，号称能够绕过 GPT-4o 的防护，让 GPT-4o 解码运行用户的恶意指令。
GPT-5 要等到明年？OpenAI CEO：今年无法同时发布那么多东西
美国时间周四，OpenAI 首席执行官萨姆・奥特曼（Sam Altman）透露，该公司的下一个大型人工智能模型可能不会在今年面世，原因是其正“优先开发”当前专注于推理与难题解决的模型。 在参与 Reddit 网站的网友问答活动时，奥特曼指出：“所有模型都变得越来越复杂，我们无法像我们希望的那样同时发布那么多东西。 ”他还解释称，在为“众多卓越创意”分配计算资源时，公司面临着“诸多限制和艰难抉择”。
提升 1.5~20 倍吞吐量，字节豆包大模型团队与香港大学发布并开源全新 RLHF 框架
字节跳动豆包大模型团队与香港大学公开联合研究成果 —— HybridFlow。 官方宣称，HybridFlow（开源项目名：veRL）是一个灵活且高效的大模型 RL 训练框架，兼容多种训练和推理框架，支持灵活的模型部署和多种 RL 算法实现。 该框架采用混合编程模型，融合单控制器（Single-Controller）的灵活性和多控制器（Multi-Controller）的高效性，可更好实现和执行多种 RL 算法，显著提升训练吞吐量，降低开发和维护复杂度。
LLM 比之前预想的更像人类，竟也能「三省吾身」
子曾经曰过：「见贤思齐焉，见不贤而内自省也。 」自省可以帮助我们更好地认识自身和反思世界，对 AI 来说也同样如此吗？ 近日，一个多机构联合团队证实了这一点。
支持中英双语及 40 种方言任意混说，中国电信 TeleAI 星辰语音大模型升级
中国电信人工智能研究院（TeleAI）在今年 5 月发布业内首个支持 30 种方言自由混说的语音识别大模型 —— 星辰超多方言语音识别大模型。 时隔不到半年，TeleAI 星辰语音大模型的多方言能力再次升级，攻克了湛江话、宜宾话、洛阳话、烟台话等方言，将方言种类从 30 种提升至 40 种，并引入对英文的识别。 与传统的有标注训练方法相比，TeleAI 通过预训练语音识别模型，利用海量无标注数据进行预训练，再通过少量有标注数据进行微调。
奥特曼回答一切：Ilya确实看到了了不起的东西，OpenAI也缺算力
北京时间 11 月 1 日凌晨，OpenAI 宣布为 ChatGPT 推出了最新的人工智能搜索体验。 在宣布发布 ChatGPT 搜索后不久，OpenAI 还在 Reddit 上进行了 AMA 问答。 在问到 Ilya 到底看到了什么时？
豆包大模型团队开源RLHF框架，训练吞吐量最高提升20倍
强化学习（RL）对大模型复杂推理能力提升有关键作用，但其复杂的计算流程对训练和部署也带来了巨大挑战。 近日，字节跳动豆包大模型团队与香港大学联合提出 HybridFlow。 这是一个灵活高效的 RL/RLHF 框架，可显著提升训练吞吐量，降低开发和维护复杂度。
继 ChatGPT 后，Anthropic 旗下 Claude AI 推出桌面平台客户端
继 ChatGPT 后，目前又有一款海外流行的人工智能 Claude AI 获得了桌面版客户端，目前相关客户端处于测试状态，支持 Windows / macOS / iOS 平台。 开发商 Anthropic 在 X 平台官宣了这一消息，同时透露用户可以使用热键快速唤起客户端界面，不过 Claude AI 客户端定位 AI 搜索引擎，与 OpenAI 的 ChatGPT 客户端聊天有所差异。 参考应用详情页，这一 AI 客户端主打语音搜索，不过用户也可以令其写作文章邮件、解决数学问题、判断语法错误、分析文档内容等。
OpenAI 正面对抗谷歌、Perplexity，ChatGPT 搜索功能今日上线
感谢北京时间今日凌晨，OpenAI 宣布在其大模型产品 ChatGPT 中新增了搜索功能，正式进军由 Alphabet 旗下 Google 长期主导的搜索领域，同时也与微软的必应和新兴搜索型 AI 聊天机器人服务 Perplexity 形成竞争。 OpenAI 表示，ChatGPT 搜索功能会根据用户的需求自动决定是否检索网络，能够快速提供最新信息，并附上相关的网页链接。 官方博客表示，ChatGPT 搜索功能利用第三方搜索供应商的技术，并整合合作伙伴直接提供的内容，来满足用户的信息需求。
独家丨字节招兵买马，拟在欧洲设立AI研发中心
知情人士透露，字节跳动目前已经开始寻找欧洲的 LLM 和 AI 方面技术大牛，积极招揽人才。 而纵观欧洲各国的 AI 技术水平，瑞士、英国和法国相对靠前。 其中，瑞士和英国都有不少知名院校。
谷歌：Gemini API 用量 6 个月飙升 14 倍，明年将升级 AI 助手
科技媒体 The Decoder 昨日（10 月 30 日）发布博文，报道称谷歌首席执行官桑达尔・皮查伊（Sundar Pichai）在最新季度财报电话会议上，宣布 Gemini API 用量在过去 6 个月内飙升了 14 倍。 皮查伊表示谷歌已经在 Google Maps、Google Search 等核心业务中整合 Gemini，目前已初步覆盖 20 亿用户，此外独立 Gemini 应用和嵌入的 Android Assistant 也见证了强劲的用户增长。 谷歌的云计算部门已经开始受益于人工智能的繁荣，收入增长了 35％，达到 114 亿美元，这包括人工智能和第三方服务，该部门的营业收入从去年的 2.7 亿美元增长到了 19.5 亿美元。
Python 成 GitHub 最受欢迎编程语言，AI 成主要推动力
GitHub 年度报告《Octoverse》显示，Python 首次超越 JavaScript 成为 GitHub 上最受欢迎的编程语言。 这主要是受到人工智能（AI）开发需求激增的推动，Python 还被广泛应用于数据科学和开源项目的开发。 报告指出，与生成式 AI 相关的项目贡献量在过去一年中增长了 59%，AI 相关的公共项目的贡献量几乎比 2023 年翻了一番，印度、德国、日本和新加坡是这些贡献的主要来源。
95 后创业者 VAST 宋亚宸：要做3D「抖音」内容平台
2022 年 9 月接近尾声的一天，Google 发布了文生 3D 技术DreamFusion，利用预训练的 2D 文本到图像扩散模型，提出SDS（score distillation scapling）方法，首次完成开放域文本到 3D的合成。 听到这个消息时，宋亚宸非常激动，他在商汤时就很关注 3D 生成技术。 DreamFusion的发布对于整个3D领域是一个大的转折点，意味着 3D内容制作的成本和门槛趋近于零，虽然生成的 3D模型效果很差，但已经是一个大的技术变革。