openai-jin-nian-qi-dong-gpt-next-ji-hua-ai-xing-neng-bai-bei-ji-yue-sheng-orion-you-wang-jie-bang-gpt-4 的搜索结果
OpenAI超级对齐团队遗作：两个大模型博弈一番，输出更好懂了
如果 AI 模型给的答案一点也看不懂，你敢用吗？随着机器学习系统在更重要的领域得到应用，证明为什么我们可以信任它们的输出，并明确何时不应信任它们，变得越来越重要。获得对复杂系统输出结果信任的一个可行方法是，要求系统对其输出产生一种解释，这种解释对人类或另一个受信任的系统来说是可读的，即可以完全理解以至于任何可能的错误都可以被发现。例如，为了建立对司法系统的信任，我们要求法院提供清晰易读的书面意见，解释并支持其决策。对于大型语言模型来说，我们也可以采用类似的方法。 不过，在采用这种方法时，确保语言模型生成的是易于理解
非法阻止员工披露AI安全风险，OpenAI严厉「封口协议」再遭举报
OpenAI 在人工智能领域的领头羊地位家喻户晓。其产品聊天机器人 ChatGPT 系列、文生图 DALL・E 系列、文生视频 Sora 等都被誉为生产力提升的超强助手据透露，OpenAI 内部正在一个代号为「草莓（Strawberry）」的项目中开发一种新的人工智能模型。该项目的细节此前从未被报道过，而 OpenAI 正努力证明其提供的各类模型能够提供高级推理能力。不过 OpenAI 现在似乎正陷在另一场风波当中。据《华盛顿邮报》报道，一位举报人向美国证券交易委员会（SCE，Securities and Exch
OpenAI Lilian Weng万字长文解读LLM幻觉：从理解到克服
Lilian Weng 出品，必是精品。人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。Lilian Weng，中文名翁丽莲，是 OpenAI 安全系统团队负责人。她 2018 年加入 OpenAI，参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作。她的博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料（其他博客见文末扩展阅读）。大型语言模型的幻觉
五年后的今天，训练GPT-2只需不到700刀、24小时，Karpathy又整新活
论老黄卖铲子的技术含量。2019 年 2 月，OpenAI 发布了 GPT-2，因为在文本生成上的优异表现，以及对于预训练 Transformer 架构的充分运用，被认为是如今大预言模型的「始祖」。五年后的今天，训练 GPT-2 这样 15 亿参数的大模型，只需要花费 672 美元，在一个 8XH100 的 GPU 节点上跑 24 个小时就可以搞定了。本周四，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy 在他纯 C 语言复现 GPT-2 大模型的项目「llm.c」的最新
OpenAI 提出通用人工智能五级标准，自认为接近但未达到第二级
彭博社报道称，OpenAI 提出通用人工智能五级标准，用来确认人工智能的进展。OpenAI 高管告诉员工，公司自认为目前还处于第一级，但即将达到第二级。通用人工智能（AGI、Artificial General Intelligence），是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体，具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。AI在线附 OpenAI 提出的等级标准：第一级：聊天机器人，具有会话语言的人工智能第二级：推理者，
调查显示，中国生成式人工智能普及率领跑全球
一项最新调查显示，中国在生成式人工智能的普及率方面处于世界领先地位，这表明中国在这项技术领域取得了长足进步。生成式人工智能因美国 OpenAI 公司于 2022 年底推出 ChatGPT 而获得全球关注。图源 Pixabay这项由美国人工智能和数据分析软件公司 SAS 和 Coleman Parkes Research 联合进行的调查，采访了来自全球 16 个国家和地区的 1600 名行业决策者。调查结果显示，83% 的中国受访者表示他们使用了生成式人工智能，这一比例高于美国的 65% 以及所有参与调查的国家和地区
OpenAI 公司被指不重视安全，未披露和报告 2023 年入侵事件
《纽约时报》两天前发布博文，表示 OpenAI 公司于 2023 年年初发生安全事件，攻击者成功入侵 OpenAI 的内部邮件系统，窃取了有关该公司人工智能技术和研究材料的敏感讨论，但黑客并未进入托管人工智能源代码的服务器。本次安全事件由于没有泄露客户数据，OpenAI 公司并没有披露本次安全事件，也没有向 FBI 或者其它执法部门报告，只是通知了董事会以及内部员工。IT之家援引该媒体报道，本次安全事件导致员工质疑 OpenAI 对安全的重视程度，且成为新的导火索，导致了内部员工出现分裂。其中一个例子是莱奥波德・阿
macOS 版 ChatGPT 被指以纯文本存储 AI 对话，OpenAI 紧急更新修复
IT之家 7 月 4 日消息，开发者 Pedro Vieito 于 2 天前在 Thread 平台发布动态，表示 macOS 版 ChatGPT 应用会以纯文本方式存储用户对话，OpenAI 公司今天回应称已更新其应用，对存储在 Mac 设备上的聊天记录进行了加密处理。IT之家 6 月 26 日报道，OpenAI 公司发布了适用于苹果 macOS 系统的 ChatGPT 聊天机器人应用程序。OpenAI 称，macOS 版 ChatGPT 将无缝集成用户日常操作，原生支持 Mac 系统，并提供方便的快捷键 (Opt
macOS 版 ChatGPT 被指以纯文本存储 AI 对话，OpenAI 紧急更新修复
IT之家 7 月 4 日消息，开发者 Pedro Vieito 于 2 天前在 Thread 平台发布动态，表示 macOS 版 ChatGPT 应用会以纯文本方式存储用户对话，OpenAI 公司今天回应称已更新其应用，对存储在 Mac 设备上的聊天记录进行了加密处理。IT之家 6 月 26 日报道，OpenAI 公司发布了适用于苹果 macOS 系统的 ChatGPT 聊天机器人应用程序。OpenAI 称，macOS 版 ChatGPT 将无缝集成用户日常操作，原生支持 Mac 系统，并提供方便的快捷键 (Opt
世界知识产权组织：过去十年中国生成式 AI 专利申请量居全球第一，远超美韩日
世界知识产权组织（WIPO）今日发布了最新的《生成式人工智能专利态势报告》。数据显示，2014 年至 2023 年，中国发明人申请的生成式人工智能专利数量最多，远超美国、韩国、日本和印度等国。2014 年至 2023 年，全球生成式人工智能相关的发明申请量达 54000 件，仅仅 2023 年一年就出现了超总数 1/4 的申请量。在此期间，中国的生成式人工智能发明超过 3.8 万件，是排名第二的美国的 6 倍。▲ 图源 WIPO中国公司和机构在生成式 AI 领域占据主导地位，在专利注册量前十名的单位中占据了 6 席
人刚毕业，颠覆整个AI界：扒一扒Sora两带头人博士论文
看看这个时代最伟大 AI 学者的研究脉络。2024 年是生成式 AI 元年，才到 2 月，OpenAI 就用 Sora 把竞争推向了视频生成的新高度。我们都还记得初见 Sora 作品时受到的震撼，感叹其他竞争对手想要赶上 OpenAI，至少也得需要个半年到一年的时间。Sora 发布后，其开发团队自然也成为关注焦点，人们都想知道具有跨时代意义的 AI 技术是如何被开发出来的。DiT 模型作者谢赛宁曾表示：「他们每天基本不睡觉高强度工作了一年」。随着时间推移，答案正被慢慢揭晓。以下是 OpenAI 技术报告中，Sora
专给 ChatGPT“找茬”，OpenAI 训练 CriticGPT 模型以检索输出内容错误
感谢当地时间 27 日，OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型，用于查找 ChatGPT 聊天机器人输出内容中的错误。它可以撰写评论，强调 ChatGPT 生成答案中不准确的地方。据介绍，CriticGPT 旨在协助人类 AI 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习（IT之家注：Reinforcement Learning from Human Feedback，RLHF）”的技术来训练、改进 GPT-4 的回答。然而随着 ChatGPT 的准确性日益提升，
人工智能冲击创意岗位，OpenAI 首席技术官：一些岗位本来就不该存在
人工智能就像一把达摩克利斯之剑，正威胁着越来越多的创意工作岗位。OpenAI 的首席技术官米拉・穆拉蒂 (Mira Murati) 上个月在达特茅斯大学 Thayer 工程学院的采访中表示：“一些创意岗位可能会消失。但也许它们本来就不应该存在 —— 如果产出内容质量不是很高的话。”OpenAI 的首席技术官表示：“我不是经济学家，但我确实预计许多工作将会发生变化。一些工作会消失，一些新的工作将会产生。”这位 OpenAI 高管预见到人工智能将自动化重复性的工作和任务，创意岗位也岌岌可危。使用人工智能创作歌曲、撰写文
OpenAI 突然断供中国！商汤推出0成本“搬家服务”，还送大礼包
6月25日，商汤科技宣布推出大模型0元购计划，即日起成为商汤“日日新SenseNova”新注册企业用户，将获得涉及调用、迁徙、训练等多项免费服务大礼包，0元GO！“日日新SenseNova”平台覆盖商量大语言模型、商量图文多模态大模型、秒画文生图大模型、语音大模型、向量模型等多类模型API接口，满足企业用户不同需求。商汤始终坚持AI原创，技术安全且自主可控，并自有商汤大装置SenseCore这类高效率、低成本、规模化的新一代AI基础设施，算力有保障。商汤将为“日日新SenseNova”新注册企业用户赠送5000万T
今天起，全球所有Mac用户可免费安装桌面版ChatGPT
Mac 用户比 Windows 用户先行一步。刚刚，OpenAI 宣布推出适用于 macOS 的应用程序。虽然 Mac 应用程序尚未在 Mac App Store 中提供，但用户可以直接从 OpenAI 网站下载。（下载地址：）本月早些时候，苹果在 WWDC 2024 上宣布正在将 ChatGPT 集成到 iOS 18、iPadOS 18 和 macOS Sequoia 内的体验中，使用户无需在工具之间跳转即可访问 ChatGPT，包括图像和文档理解功能。在 macOS 上，用户在安装新的 ChatGPT 应用程序
OpenAI 断供中国大陆市场，零一万物 Yi API 二折平替 GPT-4o
6月25日，有多名开发者收到了来自 OpenAI 的公告，公告中显示，OpenAI 将于7月9日开始封锁来自非支持国家和地区的 API 流量。 在 OpenAI 给出的“支持访问国家和地区”名单上（），中国大陆、中国香港等地均未在列。 在审视 OpenAI 与中国大陆市场互动的历史脉络时，可以观察到其一贯持有的审慎姿态。
曝阶跃星辰正在进行估值20亿美元融资；OpenAI放宽股票限制；Suno和Udio遭三大唱片公司起诉丨AI情报局
融资快报曝阶跃星辰正进行新一轮融资:阶跃星辰由微软前全球副总裁姜大昕创办，在自研大模型、应用产品先后亮相后，垒起更大的雪球。 据悉，阶跃星辰正在进行一轮估值20亿美元的新融资，阿里巴巴再次出现在布局传闻中。 OpenAI 收购谷歌华人工程师创办的远程协作公司 Multi：Multi 提供的功能包括满足最多 10 人通过屏幕共享进行协作、自定义快捷方式以及代码、设计以及文档的自动链接。
阿里云、智谱多家国产大模型公司宣布提供 OpenAI API 服务替代方案
感谢昨天陆续有 API 开发者在社交媒体上表示，他们收到了来自 OpenAI 的“警告信”，信中表示将采取额外措施停止其不支持的地区的 API 使用，IT之家此前已进行详细报道。此后，多家国产大模型公司宣布为开发者提供 OpenAI API 服务的替代方案，包括智谱、阿里云、百度智能云等。智谱：推出 OpenAI API 用户“特别搬家计划”，帮助用户切换至国产大模型。其 GLM 大模型号称全面对标 OpenAI 产品体系，且全链路技术自研、安全可控。为开发者提供：1.5 亿 Token（5000 万 GLM-4