应用
手机跑大模型提速 4-5 倍：微软亚研院开源新技术 T-MAC，有 CPU 就行
有 CPU 就能跑大模型，性能甚至超过 NPU / GPU！没错，为了优化模型端侧部署，微软亚洲研究院提出了一种新技术 —— T-MAC。这项技术主打性价比，不仅能让端侧模型跑得更快，而且资源消耗量更少。咋做到的？？在 CPU 上高效部署低比特大语言模型一般来说，要想在手机、PC、树莓派等端侧设备上使用大语言模型，我们需要解决存储和计算问题。常见的方法是模型量化，即将模型的参数量化到较低的比特数，比如 4 比特、3 比特甚至更低，这样模型所需的存储空间和计算资源就会减少。不过这也意味着，在执行推理时，需要进行混合精
OpenAI 任命卡内基梅隆大学教授 Zico Kolter 为新董事，加强 AI 安全管理
OpenAI 公司昨日（8 月 8 日）发布博文，宣布任命济科・科尔特（Zico Kolter）为 OpenAI 董事会成员。Zico Kolter 简介AI在线从报道中获悉，科尔特此前担任卡内基梅隆大学（Carnegie Mellon University）机器学习系的教授和主任，工作主要集中在人工智能的安全性、对齐和机器学习分类器的鲁棒性（robustness）方面。科尔特是卡内基梅隆大学计算机科学教授和机器学习系主任，他在该校担任要职已有 12 年之久。科尔特于 2010 年在斯坦福大学获得计算机科学博士学位
消息称马斯克 X 平台同意不使用部分欧盟用户数据来训练 AI
感谢路透社今天（8 月 9 日）报道，马斯克旗下的 X 平台同意不使用部分欧盟用户数据，来训练其 AI 聊天机器人。爱尔兰一家法院周四表示，社交媒体平台 X 同意在欧盟用户选择撤销同意之前，暂时不使用从他们那里收集的个人数据来训练其 AI 系统。爱尔兰数据保护委员会本周寻求一项命令，要求暂停或限制 X 公司，不得处理用户数据来开发、训练或改进其人工智能系统。AI在线曾于 7 月报道，X 用户发现他们已“自动选择”将其帖子以及与 xAI 旗下 Grok 聊天机器人的互动用于“训练和微调”xAI 系统，此举是在未事先获
OpenAI 6000 万美元领投网络摄像头公司 Opal；秘塔科技获超 1 亿元人民币融资，蚂蚁集团领投丨AI情报局
今日融资快报主打AI搜索，秘塔科技完成超 1 亿元人民币的新一轮融资，蚂蚁集团领投秘塔科技完成了超 1 亿元人民币的新一轮融资，由蚂蚁集团领投、光速光合跟投，本轮投后估值达 1.5 亿美元。 秘塔之前的老股东有明势资本、猎豹移动和丰元资本等。 据了解，百度、腾讯等大型科技公司也曾在这轮融资期间与秘塔接触，最终蚂蚁与秘塔达成交易。
OpenAI 宣布 DALL-E 3 模型向 ChatGPT 免费用户开放，但每天只能生成两张图片
北京时间今天凌晨，OpenAI 宣布 ChatGPT 免费用户可以每天使用其 DALL-E 3 模型生成图片。AI在线注：DALL-E 3 于去年 9 月推出，起初只面向 ChatGPT Plus 付费订阅用户提供。用户可以直接在 ChatGPT 的输入框中键入生成图片相关指令，但经过实测，这项功能每天只能免费生成两张图片，否则 ChatGPT 会提示“您已达到图片创建上限，升级至 ChatGPT Plus 或于明天 XX:XX 后重试”。▲ AI在线实测生成的图片，下同今年 4 月，OpenAI 宣布 DALL-
ComfyUI 插件教程：帮你完全掌握 ComfyUI Impact 节点（二）
前言：
学习 ComfyUI 是一场持久战，而 ComfyUI Impact 是一个庞大的模块节点库，内置许多非常实用且强大的功能节点 ，例如检测器、细节强化器、预览桥、通配符、Hook、图片发送器、图片接收器等等。通过这些节点的组合运用，我们可以实现的工作有很多，例如自动人脸检测和优化修复、区域增强、局部重绘、控制人群、发型设计、更换模特服饰等。在 ComfyUI 的进阶之路上，ComfyUI Impact 是每个人不可绕过的一条大河，所以本篇文章将带领大家理解并学会使用这些节点。祝大家学习顺利，早日成为 Com
AI 搜索向左，搜索 OG 向右
作为 AI 世界的领头羊，OpenAI 发布的 SearchGPT 再次给 AI 搜索加了一把火。 这把火原本由 Perplexity 引燃，在美国烧及 Google 和微软，在中国引发了百度、360 的追随，又带动一批创业者跟上，已然成为当下最时髦的热词。 如果大模型之争能够被称为百模大战的话，那么 AI 搜索之争，就可以步其后尘，称之为“百搜大战”了。
OpenAI 阿尔特曼秀 5 颗草莓疯狂暗示 GPT-5？匿名新模型神秘现身，数学超强
阿尔特曼又来搞事情了！一张 5 颗草莓照片，让全网掀起热议狂澜。这不是明摆着暗示，神秘 Strawberry 项目真实存在。难道 GPT-5 真的要来了吗？或许，GPT-5 真的不远了。今天，Sam Altman 突然发文「我爱花园里的夏天」，并配图 5 颗草莓，瞬间在全网炸了锅。而就在刚刚，OpenAI 研究员 Trevor Creech 发文 —— 今晚在 OpenAI 吃晚餐。而盘子中间，恰好放着一颗草莓。这一切，究竟是在疯狂暗示什么？一张图，引发全网大猜想网友表示，阿尔特曼的草莓不仅成熟了，而且已经准备好了
马斯克 X 平台因抓取用户数据训练 AI 在爱尔兰被起诉
感谢爱尔兰数据保护委员会（DPC）向高等法院提起诉讼，指控马斯克旗下的 X 平台擅用用户数据，用于训练 Grok AI 模型等增强型搜索工具。DPC 已委托 Remy Farrell SC 律师事务所提交诉讼，指控 Twitter International Unlimited Company 公司没有遵守 GDPR 规定的义务，使用用户数据训练 Grok。DPC 表示 X 平台虽然已提供了退出等缓解措施，但该公司仍收集大量欧盟用户数据，在诉讼中，DPC 寻求法院下令禁止或限制 X 使用用户个人数据来开发、训练或改
GPT新版本猜想：奥特曼草莓图引发推理热潮
昨晚深夜，OpenAI首席执行官奥特曼（Sam Altman）在推特上发布了一张草莓的图片，并配文“我喜欢花园里的夏天”。 该条推特发布几个小时就斩获百万查看和近千条评论。 人们除了在评论区分享奥特曼花园里的这张的草莓图片，更多地讨论的是草莓图背后的隐藏故事。
传零一万物完成数亿美元融资，某国际战投、东南亚财团加盟；开发者福音！OpenAI API 引入结构化输出功能丨AI情报局
今日融资快报零一万物完成数亿美元融资，某国际战投、东南亚财团加盟李开复创办的AI大模型独角兽公司零一万物已经完成新一轮融资，金额达数亿美元。 知情人士表示，此轮融资参与方包括某国际战投、东南亚财团等多家机构。 零一万物成立于2023年5月，由创新工场董事长、前微软全球副总裁李开复创立。
OpenAI 移动版 ChatGPT 七月报告：净收入 2800 万美元，新增 200 万付费用户
根据移动应用情报机构 Appfigures 公布的最新报告，仅计算谷歌的 Play Store 和苹果的 App Store 两个应用商城，移动版 ChatGPT 应用今年 7 月净收入达到 2800 万美元（当前约 2.01 亿元人民币）。AI在线注：这里的净收入是指在撇除苹果和谷歌应用商店的佣金之后，OpenAI 公司实际可以拿到手的收入。该机构表示，7 月移动版 ChatGPT 净收入占比中，苹果 App Store 占比达到 83%，相比较 6 月份净收入环比增长 20%。在未扣除应用商店费用的情况下，Ch
清华“太极-Ⅱ”光芯片面世：成果登 Nature，首创全前向智能光计算训练架构
据清华大学官方消息，清华大学电子工程系方璐教授课题组、自动化系戴琼海院士课题组另辟蹊径，首创了全前向智能光计算训练架构，研制了“太极-II”光训练芯片，实现了光计算系统大规模神经网络的高效精准训练。该研究成果以“光神经网络全前向训练”为题，于北京时间 8 月 7 日晚在线发表于《自然》期刊。AI在线查询获悉，清华大学电子系为论文第一单位，方璐教授、戴琼海教授为论文的通讯作者，清华大学电子系博士生薛智威、博士后周天贶为共同一作，电子系博士生徐智昊、之江实验室虞绍良博士参与了该项工作。该课题受到国家科技部、国家自然科学
ComfyUI 插件教程：帮你完全掌握ComfyUI Impact 节点（一）
前言：
学习 ComfyUI 是一场持久战，而 ComfyUI Impact 是一个庞大的模块节点库，内置许多非常实用且强大的功能节点 ，例如检测器、细节强化器、预览桥、通配符、Hook、图片发送器、图片接收器等等。通过这些节点的组合运用，我们可以实现的工作有很多，例如自动人脸检测和优化修复、区域增强、局部重绘、控制人群、发型设计、更换模特服饰等。在 ComfyUI 的进阶之路上，ComfyUI Impact 是每个人不可绕过的一条大河，所以本篇文章将带领大家理解并学会使用这些节点。祝大家学习顺利，早日成为 Com
Meta 推出“自学评估器”：无需人工注释改善评估，性能超 GPT-4 等常用 AI 大语言模型评审
Meta 公司为了缓解自然语言处理（NLP）技术依赖人类注释评估 AI 模型的问题，最新推出了“自学评估器”（Self-Taught Evaluator），利用合成数据训练 AI。NPU 技术挑战NPU 技术的发展，推动大型语言模型（LLMs）高精度地执行复杂的语言相关任务，实现更自然的人机交互。不过当前 NPU 技术面临的一个重要挑战，就是评估模型严重依赖人工注释。人工生成的数据对于训练和验证模型至关重要，但收集这些数据既费钱又费时。而且随着模型的改进，以前收集的注释可能需要更新，从而降低了它们在评估新模型时的效
OpenAI GPT-4o 新版本突然上线：丝滑解决 9.11 和 9.9 谁大，更强也更便宜了
GPT-4o 新版本突然上线，更强更便宜。能力全方位提升，ZeroEval 基准测试直接跃居第一。输入和输出分别节省 50%、33%。四舍五入就是 API 降价啊。token 输出扩展到 16k，此前支持 4k。9.11 和 9.9 谁大这个问题，也能丝滑解决。这是因为 OpenAI 给 API 中引入了结构化输出。通过 JSON 模式确保模型输出符合开发者定义的结构，能让模型变得更可靠安全。最新版模型“GPT-4o-2024-08-06”在 JSON 模式评估中，得分 100%。相比之下，去年 6 月的版本得分还
面壁智能开源 MiniCPM-V 2.6 模型：号称端侧 AI 多模态能力对标 GPT-4V，6G 内存可用
面壁智能昨日开源了 MiniCPM-V 2.6 模型，官方表示将端侧 AI 多模态能力拉升至全面对标 GPT-4V 水平。官方称 MiniCPM-V 2.6 模型仅 8B 参数，取得 20B 以下单图、多图、视频理解 3 SOTA 成绩，有以下特点：“三合一最强”端侧多模态：首次在端侧实现单图、多图、视频理解等多模态核心能力全面超越 GPT-4V，单图理解越级比肩多模态王者 Gemini 1.5 Pro 和新晋顶流 GPT-4o mini多项功能首次上端：实时视频理解、多图联合理解、多图 ICL 视觉类比学习、多图
传月之暗面完成 3 亿美元融资，最新估值 33 亿美元；OpenAI 加持，最强人形机器人 Figure 02 登场丨AI情报局
今日融资快报月之暗面完成3亿美元新一轮融资，投后估值33亿美元，月之暗面回应：不予置评据彭博社报道，月之暗面刚刚完成了新一轮 3 亿多美元融资，此次融资将月之暗面的估值推高至 33 亿美元，并吸引了包括腾讯、高榕资本和老股东阿里巴巴在内的其他投资者。 对此，有接近公司的知情人士表示，此次腾讯参投消息属实。 而月之暗面则回应称，对该融资消息不予置评。