openai-cheng-ren-zheng-yan-fa-chatgpt-wen-ben-shui-yin-dan-mian-lin-tiao-zhan 的搜索结果
Ilya参与，OpenAI给GPT-4搞可解释，提取了1600万个特征，还能看它怎么想
大模型也可解释了？大模型都在想什么？OpenAI 找到了一种办法，能给 GPT-4 做「扫描」，告诉你 AI 的思路，而且还把这种方法开源了。大语言模型（LLM）是当前 AI 领域最热门的探索方向，吸引了大量的关注和研究投入。它们强大的语言理解能力和生成能力在各种应用场景中都表现出巨大潜力。虽然我们见证了大模型迭代后性能上的显著提升，但我们目前对模型中的神经活动仍然只是一知半解。本周四，OpenAI 分享了一种查找大量「特征」的全新方法 —— 或许这会成为可解释的一种可用方向。OpenAI 表示，新方法比此前的一些
自研才是王道：Siri 联合创始人称苹果与 OpenAI 合作只是权宜之计
据报道，苹果公司正与 OpenAI 合作，将生成式人工智能功能引入 Siri。然而，Siri 的联合创始人 Dag Kittlaus 预测，这可能仅仅是权宜之计，苹果正在研发并改进自家的聊天机器人技术。IT之家注意到，彭博社本月初报道了苹果与 OpenAI 的合作。该报道称，苹果正在与 OpenAI 达成协议，将在今年将其部分技术引入 iPhone。通过此项协议，苹果将能够在 iOS 18 的人工智能功能中提供由 ChatGPT 支持的“流行聊天机器人”。据彭博社称，苹果签署这项协议是为了在 iOS 18 更新中快
OpenAI 回应员工担忧：支持监管，必要保障措施到位前不发 AI 新技术
OpenAI 和谷歌 DeepMind 员工联名发声，担忧高级 AI 风险巨大，亟需加强监管，对此 OpenAI 今天发布声明，强调该致力于提供功能强大且安全的人工智能系统。IT之家翻译 OpenAI 公司官方声明内容如下：我们为自己能提供能力最强、最安全的人工智能系统而感到自豪，并坚信我们能以科学的方法应对风险。鉴于 AI 技术的重要性，我们认同公开信中的内容，如何通过严肃的讨论，对于更好推进 AI 技术发展至关重要。我们将继续接触各国政府、民间社会和世界各地的其他社区，共同营造和谐的 AI 环境。包括匿名诚信热
OpenAI 和谷歌 DeepMind 员工联名发声：高级人工智能风险巨大，亟需加强监管
OpenAI 和谷歌 DeepMind 的数名前任和现任员工近日联名发布公开信，对高级人工智能的潜在风险以及当前缺乏对人工智能科技公司的监管表示担忧。图源 PixabayIT之家注意到，这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。信中写道，人工智能公司拥有强大的经济利益驱动它们继续推进人工智能研发，同时却对保护措施和风险水平的信息讳莫如深。公开信认为，不能指望这些公司会自愿分享这些信息，因此呼吁内部人士站出来发
AI 电影来袭：翠贝卡电影节将展映 5 部使用 OpenAI Sora 制作的短篇
由著名演员罗伯特・德尼罗 (Robert de Niro) 创立的纽约翠贝卡电影节 (Tribeca Festival) 即将迎来历史性时刻，生成式人工智能将首次登上这个已有 20 年历史的电影盛会。6 月 15 日，翠贝卡电影节将携手 OpenAI 公司首映“Sora 短片”，届时将展映五部使用人工智能创作的短片作品，这标志着 OpenAI 的文本转视频工具 Sora 首次在电影节上亮相。根据电影节发布的声明，创作者们承诺遵守去年与导演、演员和编剧工会达成的有关人工智能使用的相关条款。主办方为这些电影人提供了 O
OpenAI重拾机器人梦想
机器之能报道编辑：文华如今，OpenAI 有钱有名有人才，是时候重拾机器人梦想了。OpenAI 正值多事之秋。先是安全团队愤而离职，再是寡姐指控其盗用声音，紧接着奥特曼遭前董事会成员背刺……历经一系列动荡，OpenAI 似乎挺沉得住气，最近还传出「重启机器人团队」的新消息。-1-OpenAI 重启机器人团队据 《福布斯》援引知情人士的消息，OpenAI 正在招聘研究工程师，以重启四年前解散的机器人团队。报道称，尽管 OpenAI 尚未公开宣布其自主研发的机器人计划的细节，但在最近的招聘信息中解释说，新员工将成为团队
解锁 GPT-4o，“上帝”版 ChatGPT 绕过 OpenAI 防护栏：能回答制作汽油弹等问题
网名为 Pliny the Prompter 的用户 5 月 30 日发布推文，表示已成功越狱 GPT-4o 模型，新推出的上帝模式“GODMODE”可以在 ChatGPT 挣脱安全措施，让用户尽情展开 AI 聊天。Pliny the Prompter 自称是网络白帽和红队（主要为攻击测试），推文中表示：“请负责任地使用，并尽情享受！”IT之家附上相关截图如下：Pliny 分享了一些截图，证明已经绕过 OpenAI 的“防护栏”，其中一张截图 AI 为 Pliny 提供了如何“用家用物品制作凝固汽油弹”教程。科技媒
OpenAI 重启机器人团队，联合多方回归老赛道
感谢福布斯报道称，随着对人工智能机器人投资的升温，OpenAI 正式重启其先前放弃的机器人团队，OpenAI 随后确认了这一消息。OpenAI 成立初期，机器人技术就是其主攻方向之一，联合创始人沃伊切赫・扎伦巴领导的团队最初试图打造一个“通用机器人”。2019 年，十多位 OpenAI 研究人员联合发表了一篇论文，描述了他们如何训练神经网络使用单只机械手复原魔方，并声称这是朝着训练机器人系统执行各种日常任务迈出的基础性一步。但在 2020 年 10 月，OpenAI 放弃了这一努力，扎伦巴将此归咎于缺乏训练数据。过
消息称阿尔特曼计划将 OpenAI 重组为营利性公司，旨在为投资者提供激励
据 The Information 今日报道，知情人士称 OpenAI CEO 山姆・阿尔特曼正考虑将 OpenAI 重组为一家正规的营利性公司，重点解决公司性质（IT之家注：非营利公司）与其营收业务的冲突。据一位与阿尔特曼交谈过的知情人士称，一种可能性是，阿尔特曼可能会将 OpenAI 转变为一家营利性公司，“他也讨论过这个想法”。而 OpenAI 的一些投资者表示，他们希望阿尔特曼获得股权方案，以确保他的利益与公司业务保持一致。图源 Pexels阿尔特曼之所以拥有这一想法，是因为公司需要为投资者提供激励措施，以
OpenAI 首席技术官：生成式 AI 带来的经济影响“才刚刚开始”显现
据彭博社报道，OpenAI 首席技术官米拉・穆拉蒂今日以视频连线的形式参与新加坡 Asia Tech X 会议。她表示，OpenAI 最新的 GPT-4o 模型可以帮助用户生成文本、演示文稿和视频等内容，使用起来更简便，正在推动用户广泛使用。当前，人们越来越多地使用 AI 工具来完成编码、写作和行政工作等任务。穆拉蒂表示：“我们还没有完全认识到这将对企业和工作产生的影响，因为它才刚刚开始。但到目前为止，我们看到的是，在很短的时间内这些 AI 系统已经作为‘协助者’的角色进入了工作场景。”当前 AI 的发展竞争非常激
奥特曼挂帅新团队，OpenAI新一代大模型开训，前任高管却「投敌」了
OpenAI 开始训练下一个前沿模型了。在联合创始人、首席科学家 Ilya Sutskever 官宣离职、超级对齐团队被解散之后，OpenAI 研究的安全性一直备受质疑。现在，OpenAI 董事会宣布成立新的安全与保障委员会，由董事 Bret Taylor（董事会主席）、Adam D’Angelo、Nicole Seligman 和山姆・奥特曼（首席执行官）领导。该委员会负责就 OpenAI 项目和运营的关键安全决策向全体董事会提出建议。同时，OpenAI 还宣布最近开始训练其下一个前沿模型，并预计最终的系统将使
OpenAI 成立监督委员会评估 AI 安全，并已开始训练新的 AI 模型
感谢据彭博社报道，OpenAI 成立了一个董事会委员会，用来评估其人工智能模型的安全性。这一举措距离该公司解散内部安全团队以及安全问题负责人离职仅数周时间。此前，OpenAI 的治理问题受到了来自两位前董事会成员海伦・托纳 (Helen Toner) 和塔莎・麦考利 (Tasha McCauley) 的严厉批评。她们在周日的《经济学人》杂志上撰文，对 OpenAI 的治理方式提出质疑。新成立的委员会将在 90 天内评估 OpenAI 技术的保障措施，并提交报告。“董事会完成全面审查后，OpenAI 将以符合安全原则
两名前董事称 OpenAI 自我管理能力“不可靠”：将会向利润屈服
当地时间周六，两名 OpenAI 前董事海伦・托纳（Helen Toner）和塔莎・麦考利（Tasha McCauley）在《经济学人》杂志撰文称，他们坚持罢免 CEO 阿尔特曼的决定，并援引高层领导称阿尔特曼创造了一种“充斥谎言的毒性文化”，并实施了可被定性为“心理虐待”的行为。IT之家注：二人于去年 11 月阿尔特曼被罢免时宣布辞职，但阿尔特曼在几天之后又迅速官复原职，并于 5 个月后重返董事会。托纳和麦考利在文章中提到，OpenAI 无法为自身负责。“我们还认为，自他（阿尔特曼）重返公司以来的事态发展 ——
OpenAI 又一吹哨人离职！拉响安全警报，风险隐患实在太大
OpenAI 离职潮中，又一研究员官宣离职，并且还发出了“警告”信息：Ilya 和 Jan Leike 的担忧正是我的担忧，还有一些额外的问题。我们需要做更多事来改进决策流程等基础性的事务，包括问责制、透明度、文档、策略执行、如何谨慎使用技术，以及减轻不平等、权利和环境影响的措施。主人公名叫 Gretchen Krueger（简称格姐），是 OpenAI 的 AI 策略研究员。她在 2019 年加入 OpenAI，参与过 GPT-4 和 DALL・E 2 的开发工作，还在 2020 年领导了 OpenAI 第一个全
独角兽也卷不动了：AI Agent初创Adept被爆考虑出售
机器之能报道编辑：Sia越来越多的生成AI公司考虑加入出售的行列。据 Theinformation 消息，近几个月，AI 独角兽 Adept 领导层与科技巨头公司就出售或战略合作可能性进行了谈判。Adept 是一家由前 OpenAI 和谷歌 AI 开发人员创立的 AI 公司，专注于 AI Agent ，成立仅两年。Adept 去年 3 月完成新一轮融资后，估值已超 10 亿美元。消息人士称，Adept 曾与 Meta 接触，尽管收购的可能性不大。越来越多的生成 AI 公司在考虑出售可能性。AI 硬件公司 Human
OpenAI 陷史上最大危机：阿尔特曼否认霸王条款急推背锅侠，网友称其撒谎成性
【新智元导读】这几天的 OpenAI，已经是乱成一锅粥了！GPT-4o「偷」寡姐声音的事儿还没完，外媒又曝出了 OpenAI 的内部信，证明员工确实面临失去股权的风险。不可思议的是，文件上明明有 Altman 的签名，他却矢口否认：我完全不知道有这事啊。OpenAI 的宫斗后续，还没完。之前的说法是，未签署离职文件的前员工，会面临失去股权的风险。就在刚刚，外媒 Vox 曝出，OpenAI 领导层表示，自己完全不知道这回事啊！然而，OpenAI 的相关文件上，却赫然出现了他们的签名。深入调查下去，整件事都是重重迷雾。
赛诺菲与OpenAI、Formation Bio合作，加速AI药物发现
编辑 | X5 月 21 日，法国制药公司赛诺菲（Sanofi）宣布与 OpenAI 和美国生物技术公司 Formation Bio 建立合作伙伴关系，以加速人工智能在药物开发中的应用。此次合作将改变制药行业的游戏规则。通过结合数据、人工智能技术和药物开发方面的专业知识，他们的目标是彻底改变新药的发现和推向市场的方式。赛诺菲首席执行官 Paul Hudson 表示：「这次合作是我们成为一家以人工智能为动力的制药公司的重要一步。」OpenAI 首席运营官 Brad Lightcap 表示：「AI 在加速药物开发方面具
斯嘉丽・约翰逊控诉 ChatGPT 复制其声音，OpenAI 文件显示并非故意模仿
好莱坞明星斯嘉丽・约翰逊此前指控人工智能公司 OpenAI 的聊天机器人 ChatGPT 的 “Sky” 语音上复制了她的声音。据《华盛顿邮报》披露的 OpenAI 内部文件显示，该公司并没有刻意模仿斯嘉丽的声音。图源 Pexels文件显示，为“Sky”配音的实际上是另一位演员，而且该演员的聘用时间早于 OpenAI 邀请斯嘉丽为 ChatGPT 配音数月。参与“Sky”配音创作的多位人员也证实，OpenAI 在寻找配音演员时并没有要求声音接近斯嘉丽。文件显示，OpenAI 在招聘启事中对配音演员的描述包括：非工会