OpenAI - AIGC宇宙

OpenAI超级对齐团队遗作：两个大模型博弈一番，输出更好懂了

如果 AI 模型给的答案一点也看不懂，你敢用吗？随着机器学习系统在更重要的领域得到应用，证明为什么我们可以信任它们的输出，并明确何时不应信任它们，变得越来越重要。获得对复杂系统输出结果信任的一个可行方法是，要求系统对其输出产生一种解释，这种解释对人类或另一个受信任的系统来说是可读的，即可以完全理解以至于任何可能的错误都可以被发现。例如，为了建立对司法系统的信任，我们要求法院提供清晰易读的书面意见，解释并支持其决策。对于大型语言模型来说，我们也可以采用类似的方法。不过，在采用这种方法时，确保语言模型生成的是易于理解

7/18/2024 2:36:00 PM

机器之心

微软 CTO 坚信大型语言模型的“规模定律”依然奏效，未来可期

微软首席技术官（CTO）凯文・斯科特（Kevin Scott）上周在接受红杉资本旗下播客采访时，重申了他坚信大型语言模型 (LLM) 的“规模定律”将继续推动人工智能进步的观点，尽管该领域一些人怀疑进步已经停滞。斯科特在推动微软与 OpenAI 达成 130 亿美元的技术共享协议方面发挥了关键作用。斯科特表示：“其他人可能持不同观点，但我认为规模化并未达到边际收益递减的临界点。我想让人们理解这里存在着一个指数级提升的过程，遗憾的是，你只能每隔几年才能看到一次，因为建造超级计算机然后用它们训练模型都需要时间。”202

7/16/2024 5:25:59 PM

远洋

传 4050 亿参数版 Llama3 将在 23 日发布；机械臂公司获 6300 万美元融资丨AI情报局

今日融资快报机械臂公司 Standard Bots 获 6300 万美元融资，亚马逊、三星等参投Standard Bots Inc. 是一家为制造业和物流业开发机械臂的初创公司，该公司已获得 6300 万美元的 B 轮新资金。本轮融资由 General Catalyst 领投，亚马逊工业创新基金、Samsung Next 和几家老投资者也参与了该公司的投资。

7/15/2024 6:09:00 PM

我在思考中

非法阻止员工披露AI安全风险，OpenAI严厉「封口协议」再遭举报

OpenAI 在人工智能领域的领头羊地位家喻户晓。其产品聊天机器人 ChatGPT 系列、文生图 DALL・E 系列、文生视频 Sora 等都被誉为生产力提升的超强助手据透露，OpenAI 内部正在一个代号为「草莓（Strawberry）」的项目中开发一种新的人工智能模型。该项目的细节此前从未被报道过，而 OpenAI 正努力证明其提供的各类模型能够提供高级推理能力。不过 OpenAI 现在似乎正陷在另一场风波当中。据《华盛顿邮报》报道，一位举报人向美国证券交易委员会（SCE，Securities and Exch

7/15/2024 11:52:00 AM

机器之心

OpenAI Lilian Weng万字长文解读LLM幻觉：从理解到克服

Lilian Weng 出品，必是精品。人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。Lilian Weng，中文名翁丽莲，是 OpenAI 安全系统团队负责人。她 2018 年加入 OpenAI，参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作。她的博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料（其他博客见文末扩展阅读）。大型语言模型的幻觉

7/15/2024 11:34:00 AM

机器之心

代号“草莓”，OpenAI 被曝研发新项目：将 AI 推理能力提至新高度

感谢路透社今天发布报道，称 OpenAI 公司正在研发代号为“草莓”的全新项目，进一步延伸去年 11 月宣布的 Q* 项目，不断提高 AI 推理能力，让其更接近人类的智力。AI在线援引该媒体报道，“草莓”项目会自主、高效地扫描互联网，并可靠地执行 OpenAI 所描述的“深度研究”，让其能够大规模解决更复杂的现实世界问题。一位内部知情人士透露：“我们希望我们的人工智能模型能够像我们一样看待和理解这个世界。不断研究新的人工智能能力也成为业界共识，我们都相信，这些系统的推理能力会随着时间的推移而不断提高”。“草莓”项目

7/13/2024 12:49:34 PM

故渊

五年后的今天，训练GPT-2只需不到700刀、24小时，Karpathy又整新活

论老黄卖铲子的技术含量。2019 年 2 月，OpenAI 发布了 GPT-2，因为在文本生成上的优异表现，以及对于预训练 Transformer 架构的充分运用，被认为是如今大预言模型的「始祖」。五年后的今天，训练 GPT-2 这样 15 亿参数的大模型，只需要花费 672 美元，在一个 8XH100 的 GPU 节点上跑 24 个小时就可以搞定了。本周四，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy 在他纯 C 语言复现 GPT-2 大模型的项目「llm.c」的最新

7/12/2024 3:32:00 PM

机器之心

OpenAI 提出通用人工智能五级标准，自认为接近但未达到第二级

彭博社报道称，OpenAI 提出通用人工智能五级标准，用来确认人工智能的进展。OpenAI 高管告诉员工，公司自认为目前还处于第一级，但即将达到第二级。通用人工智能（AGI、Artificial General Intelligence），是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体，具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。AI在线附 OpenAI 提出的等级标准：第一级：聊天机器人，具有会话语言的人工智能第二级：推理者，

7/12/2024 10:35:33 AM

沛霖（实习）

调查显示，中国生成式人工智能普及率领跑全球

一项最新调查显示，中国在生成式人工智能的普及率方面处于世界领先地位，这表明中国在这项技术领域取得了长足进步。生成式人工智能因美国 OpenAI 公司于 2022 年底推出 ChatGPT 而获得全球关注。图源 Pixabay这项由美国人工智能和数据分析软件公司 SAS 和 Coleman Parkes Research 联合进行的调查，采访了来自全球 16 个国家和地区的 1600 名行业决策者。调查结果显示，83% 的中国受访者表示他们使用了生成式人工智能，这一比例高于美国的 65% 以及所有参与调查的国家和地区

7/9/2024 9:33:59 PM

远洋

OpenAI 公司被指不重视安全，未披露和报告 2023 年入侵事件

《纽约时报》两天前发布博文，表示 OpenAI 公司于 2023 年年初发生安全事件，攻击者成功入侵 OpenAI 的内部邮件系统，窃取了有关该公司人工智能技术和研究材料的敏感讨论，但黑客并未进入托管人工智能源代码的服务器。本次安全事件由于没有泄露客户数据，OpenAI 公司并没有披露本次安全事件，也没有向 FBI 或者其它执法部门报告，只是通知了董事会以及内部员工。IT之家援引该媒体报道，本次安全事件导致员工质疑 OpenAI 对安全的重视程度，且成为新的导火索，导致了内部员工出现分裂。其中一个例子是莱奥波德・阿

7/6/2024 3:17:13 PM

故渊

macOS 版 ChatGPT 被指以纯文本存储 AI 对话，OpenAI 紧急更新修复

IT之家 7 月 4 日消息，开发者 Pedro Vieito 于 2 天前在 Thread 平台发布动态，表示 macOS 版 ChatGPT 应用会以纯文本方式存储用户对话，OpenAI 公司今天回应称已更新其应用，对存储在 Mac 设备上的聊天记录进行了加密处理。IT之家 6 月 26 日报道，OpenAI 公司发布了适用于苹果 macOS 系统的 ChatGPT 聊天机器人应用程序。OpenAI 称，macOS 版 ChatGPT 将无缝集成用户日常操作，原生支持 Mac 系统，并提供方便的快捷键 (Opt

7/4/2024 7:29:10 AM

故渊

macOS 版 ChatGPT 被指以纯文本存储 AI 对话，OpenAI 紧急更新修复

IT之家 7 月 4 日消息，开发者 Pedro Vieito 于 2 天前在 Thread 平台发布动态，表示 macOS 版 ChatGPT 应用会以纯文本方式存储用户对话，OpenAI 公司今天回应称已更新其应用，对存储在 Mac 设备上的聊天记录进行了加密处理。IT之家 6 月 26 日报道，OpenAI 公司发布了适用于苹果 macOS 系统的 ChatGPT 聊天机器人应用程序。OpenAI 称，macOS 版 ChatGPT 将无缝集成用户日常操作，原生支持 Mac 系统，并提供方便的快捷键 (Opt

7/4/2024 7:29:10 AM

故渊

世界知识产权组织：过去十年中国生成式 AI 专利申请量居全球第一，远超美韩日

世界知识产权组织（WIPO）今日发布了最新的《生成式人工智能专利态势报告》。数据显示，2014 年至 2023 年，中国发明人申请的生成式人工智能专利数量最多，远超美国、韩国、日本和印度等国。2014 年至 2023 年，全球生成式人工智能相关的发明申请量达 54000 件，仅仅 2023 年一年就出现了超总数 1/4 的申请量。在此期间，中国的生成式人工智能发明超过 3.8 万件，是排名第二的美国的 6 倍。▲ 图源 WIPO中国公司和机构在生成式 AI 领域占据主导地位，在专利注册量前十名的单位中占据了 6 席

7/3/2024 4:53:21 PM

清源

OpenAI CEO 阿尔特曼：GPT-5 将带来“巨大飞跃”

OpenAI 公司的 GPT-5 模型一直备受关注，许多用户期待该公司会在春季更新活动中发布这款人工智能模型。然而，OpenAI 推出了新款旗舰产品 GPT-4o，该公司首席执行官山姆・阿尔特曼（Sam Altman）将其描述为“神奇”。根据 Aspen Ideas Festival 上的一次访谈，阿尔特曼提到，开发“GPT-5”还需要一些时间。“我们目前持乐观态度，但还有很多工作要做。”阿尔特曼表示。目前尚不清楚 GPT-5 的发布日期，但阿尔特曼表示它将是“巨大飞跃（significant leap forwa

7/1/2024 9:26:01 PM

远洋

人刚毕业，颠覆整个AI界：扒一扒Sora两带头人博士论文

看看这个时代最伟大 AI 学者的研究脉络。2024 年是生成式 AI 元年，才到 2 月，OpenAI 就用 Sora 把竞争推向了视频生成的新高度。我们都还记得初见 Sora 作品时受到的震撼，感叹其他竞争对手想要赶上 OpenAI，至少也得需要个半年到一年的时间。Sora 发布后，其开发团队自然也成为关注焦点，人们都想知道具有跨时代意义的 AI 技术是如何被开发出来的。DiT 模型作者谢赛宁曾表示：「他们每天基本不睡觉高强度工作了一年」。随着时间推移，答案正被慢慢揭晓。以下是 OpenAI 技术报告中，Sora

7/1/2024 3:29:00 PM

机器之心

微软 AI 部门 CEO：网上几乎所有内容都可免费用于 AI 训练，但也有灰色地带

随着生成式 AI 逐渐受到各界关注，部分争议问题也开始浮出水面。这其中最大的争议之一就是 AI 公司训练模型是否使用了受版权保护的内容，而也有部分作家、出版商或媒体公司等针对包括微软在内的生成式 AI 公司提起了一系列诉讼。微软 AI 部门新任命的首席执行官穆斯塔法・苏莱曼（Mustafa Suleyman）当地时间周四接受 CNBC 采访时，谈到了生成式 AI 从网络获取数据的问题。他的回复是：对于已经在网上公开的内容，自 90 年代以来，这些内容的社会契约就是“合理使用”，任何人都可以复制、重新创作、再现这些内

6/29/2024 7:22:14 AM

清源

OpenAI 与《时代》达成合作协议：可用其杂志内容训练 ChatGPT

感谢当地时间周四，《时代》杂志与 OpenAI 宣布，两家公司达成了一项多年内容授权协议和战略合作伙伴关系。OpenAI 可将《时代》的内容引入包括 ChatGPT 在内的产品。通过此次合作，OpenAI 将能够访问《时代》杂志过去 101 年来的海量档案中的当前、历史内容，以增强其产品并响应用户查询 —— 在 Time.com 上提供引文和原始来源的链接。作为协议的一部分，《时代》杂志将可以使用 OpenAI 的技术，为其受众开发新产品。据IT之家此前报道，去年 12 月，OpenAI 首席执行官阿尔特曼被《时代

6/28/2024 8:13:42 AM

清源

专给 ChatGPT“找茬”，OpenAI 训练 CriticGPT 模型以检索输出内容错误

感谢当地时间 27 日，OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型，用于查找 ChatGPT 聊天机器人输出内容中的错误。它可以撰写评论，强调 ChatGPT 生成答案中不准确的地方。据介绍，CriticGPT 旨在协助人类 AI 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习（IT之家注：Reinforcement Learning from Human Feedback，RLHF）”的技术来训练、改进 GPT-4 的回答。然而随着 ChatGPT 的准确性日益提升，

6/28/2024 7:10:36 AM

清源