openai-diao-gang-ai-an-quan-gao-guan-aleksander-madry-xin-zhi-wei-zhuan-zhu-yu-ai-tui-li 的搜索结果
突发！Ilya Sutskever成立新公司SSI，安全超级智能是唯一目标与产品
自 5 月 15 日从 OpenAI 离职后，OpenAI 前首席科学家 Ilya Sutskever 官宣了自己的新动向。今日凌晨，Ilya 在社媒 X 上表示自己创立了一家新公司——「安全超级智能」（Safe SuperIntelligence，SSI）。该公司的目标和产品非常明确、单一：追求安全的超级智能，希望通过一支精干顶尖的小团队取得革命性的成果，进而实现这一目标。以下是 SSI 公司的公告：超级智能已经触手可及。构建安全超级智能（SSI）是我们这个时代最重要的技术难题。我们已经启动了世界上第一个专注于S
欲成为营利性公司？OpenAI 回应：非营利组织是公司核心使命
感谢据 The Information 上周五援引知情人士消息称，OpenAI 首席执行官阿尔特曼告诉一些股东，公司正在考虑改变其治理结构，非盈利董事会将不控制营利性业务。阿尔特曼表示，董事会正在考虑的一种方案是成立一家营利性公司。报道提到，这一转变可能为 OpenAI 最终进行首次公开募股打开大门，目前 OpenAI 公司估值为 860 亿美元（IT之家备注：当前约 6257.22 亿元人民币）。阿尔特曼也有可能借此机会入股该公司，投资者正一直推动该举措。当地时间上周六，OpenAI 在回复路透社有关该报道的询问
谷歌工程师批评 OpenAI，称其延缓 AGI 研究进展
TradingView 报道称，谷歌软件工程师弗朗索瓦・肖莱（François Chollet）在播客与主持人 Dwarkesh Patel 对话时，表达了他对 AGI（通用人工智能，Artificial General Intelligence）研究现状的担忧。肖莱表示，几年前所有最先进的研究成果都是公开分享和发表的，但现在情况已经不再如此。他将这一变化归因于 OpenAI 的影响，指责他们导致了“前沿研究出版的完全关闭”（complete closing down of frontier research pu
消息称 OpenAI 阿尔特曼和三星李在镕首次单独会面，讨论合作 AI 芯片
感谢据《韩国时报》援引知情人士消息，OpenAI CEO 山姆・阿尔特曼近日会见了正在美国出差的三星集团会长李在镕。与此同时，OpenAI 刚刚与苹果签署了合作伙伴关系。报道称，阿尔特曼和李在镕于上周末在硅谷进行了会面，这是双方第一次单独见面。阿尔特曼曾在今年 1 月访问了韩国，并参观了三星电子的半导体工厂。报道提到，双方讨论了人工智能（AI）芯片的合作问题。阿尔特曼正在推动开发自己的 AI 芯片，以减少对英伟达的依赖。三星电子则是具有制造能力的第一大存储半导体公司，被认为是一个强大的关键合作伙伴。如果消息属实，此
OpenAI 官宣新任首席财务官、首席产品官，并与苹果达成合作
感谢OpenAI 今日官宣聘请了两名高管，并与苹果建立合作伙伴关系。该公司在博客文章中宣布，Nextdoor 前首席执行官兼 Square 财务总监 Sarah Friar 将加入公司，担任首席财务官（CFO）。Friar 还是斯坦福大学数字经济实验室的联合主席。此外，Kevin Weil 加入 OpenAI 担任首席产品官（CPO）。他将领导一个产品团队，专注于将研究应用于消费者、开发者和企业的产品和服务。他曾经担任 Planet Labs 前总裁、Twitter 产品高级副总裁、Facebook 和 Insta
语音克隆技术引发担忧，OpenAI 再次解释其文本转语音工具
OpenAI 在几个月内第二次就其文本转语音工具进行解释，并再次强调该工具目前并未大范围开放，且未来也可能不会。图源 Pexels“无论我们最终是否会大规模部署这项技术，让世界各地的人们理解这项技术的发展方向都非常重要，”OpenAI 公司周五在其网站上发布的一份声明中表示，“这就是为什么我们想要解释模型的运作方式、我们如何将其用于研究和教育，以及我们如何围绕该技术实施安全措施的原因。”据IT之家了解，去年年底，OpenAI 与一小部分外部用户分享了其“语音引擎”。该引擎利用文本输入和 15 秒的人声音频剪辑，即可
OpenAI 旧金山办公室被指神秘兮兮，便衣保安引周边商户不安
位于旧金山的 OpenAI 人工智能公司因其办公室的安保措施引起周边商户的不安。据《旧金山标准报》报道，该公司办公室里到处都是便衣保安，他们对来自邻居的询问守口如瓶，这种神秘兮兮的气氛让周边商户感到不安。《旧金山标准报》的摄影记者最近注意到，OpenAI 办公楼外有可疑人员站岗，身着黑色棒球帽、太阳镜，并隐蔽地佩戴着耳机，看起来像是便衣保安。附近 In-Symmetry Spa 美容院的老板坎达斯・科姆斯 (Candace Combs) 称，她曾询问过这些可疑人员的工作单位和所在的公司，但他们都拒绝透露任何信息。据
Ilya参与，OpenAI给GPT-4搞可解释，提取了1600万个特征，还能看它怎么想
大模型也可解释了？大模型都在想什么？OpenAI 找到了一种办法，能给 GPT-4 做「扫描」，告诉你 AI 的思路，而且还把这种方法开源了。大语言模型（LLM）是当前 AI 领域最热门的探索方向，吸引了大量的关注和研究投入。它们强大的语言理解能力和生成能力在各种应用场景中都表现出巨大潜力。虽然我们见证了大模型迭代后性能上的显著提升，但我们目前对模型中的神经活动仍然只是一知半解。本周四，OpenAI 分享了一种查找大量「特征」的全新方法 —— 或许这会成为可解释的一种可用方向。OpenAI 表示，新方法比此前的一些
自研才是王道：Siri 联合创始人称苹果与 OpenAI 合作只是权宜之计
据报道，苹果公司正与 OpenAI 合作，将生成式人工智能功能引入 Siri。然而，Siri 的联合创始人 Dag Kittlaus 预测，这可能仅仅是权宜之计，苹果正在研发并改进自家的聊天机器人技术。IT之家注意到，彭博社本月初报道了苹果与 OpenAI 的合作。该报道称，苹果正在与 OpenAI 达成协议，将在今年将其部分技术引入 iPhone。通过此项协议，苹果将能够在 iOS 18 的人工智能功能中提供由 ChatGPT 支持的“流行聊天机器人”。据彭博社称，苹果签署这项协议是为了在 iOS 18 更新中快
OpenAI 和谷歌 DeepMind 员工联名发声：高级人工智能风险巨大，亟需加强监管
OpenAI 和谷歌 DeepMind 的数名前任和现任员工近日联名发布公开信，对高级人工智能的潜在风险以及当前缺乏对人工智能科技公司的监管表示担忧。图源 PixabayIT之家注意到，这封公开信指出，人工智能的发展可能会带来一系列的风险，例如加剧现有社会的不平等、助长操控和虚假信息传播，以及失控的自主人工智能系统可能导致人类灭绝等。信中写道，人工智能公司拥有强大的经济利益驱动它们继续推进人工智能研发，同时却对保护措施和风险水平的信息讳莫如深。公开信认为，不能指望这些公司会自愿分享这些信息，因此呼吁内部人士站出来发
AI 电影来袭：翠贝卡电影节将展映 5 部使用 OpenAI Sora 制作的短篇
由著名演员罗伯特・德尼罗 (Robert de Niro) 创立的纽约翠贝卡电影节 (Tribeca Festival) 即将迎来历史性时刻，生成式人工智能将首次登上这个已有 20 年历史的电影盛会。6 月 15 日，翠贝卡电影节将携手 OpenAI 公司首映“Sora 短片”，届时将展映五部使用人工智能创作的短片作品，这标志着 OpenAI 的文本转视频工具 Sora 首次在电影节上亮相。根据电影节发布的声明，创作者们承诺遵守去年与导演、演员和编剧工会达成的有关人工智能使用的相关条款。主办方为这些电影人提供了 O
OpenAI重拾机器人梦想
机器之能报道编辑：文华如今，OpenAI 有钱有名有人才，是时候重拾机器人梦想了。OpenAI 正值多事之秋。先是安全团队愤而离职，再是寡姐指控其盗用声音，紧接着奥特曼遭前董事会成员背刺……历经一系列动荡，OpenAI 似乎挺沉得住气，最近还传出「重启机器人团队」的新消息。-1-OpenAI 重启机器人团队据 《福布斯》援引知情人士的消息，OpenAI 正在招聘研究工程师，以重启四年前解散的机器人团队。报道称，尽管 OpenAI 尚未公开宣布其自主研发的机器人计划的细节，但在最近的招聘信息中解释说，新员工将成为团队
解锁 GPT-4o，“上帝”版 ChatGPT 绕过 OpenAI 防护栏：能回答制作汽油弹等问题
网名为 Pliny the Prompter 的用户 5 月 30 日发布推文，表示已成功越狱 GPT-4o 模型，新推出的上帝模式“GODMODE”可以在 ChatGPT 挣脱安全措施，让用户尽情展开 AI 聊天。Pliny the Prompter 自称是网络白帽和红队（主要为攻击测试），推文中表示：“请负责任地使用，并尽情享受！”IT之家附上相关截图如下：Pliny 分享了一些截图，证明已经绕过 OpenAI 的“防护栏”，其中一张截图 AI 为 Pliny 提供了如何“用家用物品制作凝固汽油弹”教程。科技媒
OpenAI 推出为大学开发的 ChatGPT Edu 教育版，对话和数据不用于训练模型
感谢OpenAI 在 5 月 30 日宣布推出 ChatGPT Edu，该版本专为大学设计，面向学生、教职员工、研究人员和校园运营部署 AI，同时该版本的对话和数据不会用于训练 OpenAI 模型。ChatGPT Edu 由 GPT-4o 驱动，能够在文本和视觉之间进行推理，并使用数据分析等高级工具。这个新产品包括企业级的安全性和管理，OpenAI 称价格对教育机构来说比较实惠。OpenAI 表示，ChatGPT 可以帮助完成校园内的各种任务，例如为学生提供个性化辅导和审阅简历，帮助研究人员撰写资助申请，并协助教师
消息称阿尔特曼计划将 OpenAI 重组为营利性公司，旨在为投资者提供激励
据 The Information 今日报道，知情人士称 OpenAI CEO 山姆・阿尔特曼正考虑将 OpenAI 重组为一家正规的营利性公司，重点解决公司性质（IT之家注：非营利公司）与其营收业务的冲突。据一位与阿尔特曼交谈过的知情人士称，一种可能性是，阿尔特曼可能会将 OpenAI 转变为一家营利性公司，“他也讨论过这个想法”。而 OpenAI 的一些投资者表示，他们希望阿尔特曼获得股权方案，以确保他的利益与公司业务保持一致。图源 Pexels阿尔特曼之所以拥有这一想法，是因为公司需要为投资者提供激励措施，以
奥特曼挂帅新团队，OpenAI新一代大模型开训，前任高管却「投敌」了
OpenAI 开始训练下一个前沿模型了。在联合创始人、首席科学家 Ilya Sutskever 官宣离职、超级对齐团队被解散之后，OpenAI 研究的安全性一直备受质疑。现在，OpenAI 董事会宣布成立新的安全与保障委员会，由董事 Bret Taylor（董事会主席）、Adam D’Angelo、Nicole Seligman 和山姆・奥特曼（首席执行官）领导。该委员会负责就 OpenAI 项目和运营的关键安全决策向全体董事会提出建议。同时，OpenAI 还宣布最近开始训练其下一个前沿模型，并预计最终的系统将使
OpenAI 成立监督委员会评估 AI 安全，并已开始训练新的 AI 模型
感谢据彭博社报道，OpenAI 成立了一个董事会委员会，用来评估其人工智能模型的安全性。这一举措距离该公司解散内部安全团队以及安全问题负责人离职仅数周时间。此前，OpenAI 的治理问题受到了来自两位前董事会成员海伦・托纳 (Helen Toner) 和塔莎・麦考利 (Tasha McCauley) 的严厉批评。她们在周日的《经济学人》杂志上撰文，对 OpenAI 的治理方式提出质疑。新成立的委员会将在 90 天内评估 OpenAI 技术的保障措施，并提交报告。“董事会完成全面审查后，OpenAI 将以符合安全原则
两名前董事称 OpenAI 自我管理能力“不可靠”：将会向利润屈服
当地时间周六，两名 OpenAI 前董事海伦・托纳（Helen Toner）和塔莎・麦考利（Tasha McCauley）在《经济学人》杂志撰文称，他们坚持罢免 CEO 阿尔特曼的决定，并援引高层领导称阿尔特曼创造了一种“充斥谎言的毒性文化”，并实施了可被定性为“心理虐待”的行为。IT之家注：二人于去年 11 月阿尔特曼被罢免时宣布辞职，但阿尔特曼在几天之后又迅速官复原职，并于 5 个月后重返董事会。托纳和麦考利在文章中提到，OpenAI 无法为自身负责。“我们还认为，自他（阿尔特曼）重返公司以来的事态发展 ——