杨植麟
独家 | 月之暗面正在进行两亿美元融资，投前估值高达 15 亿美元
作者丨郭 思编辑丨陈彩娴AI 科技评论独家获悉，月之暗面近日正在进行 2 亿美元融资，本轮投资由蚂蚁和阿里集团共同投资，投前估值预计 15 亿美元。 据了解，月之暗面团队成员人数在100人至200人之间。 团队创始人杨植麟是一个90后，本科毕业于清华大学计算机科学与技术系，博士就读于全美自然语言处理排名第一的卡内基梅隆大学语言技术研究所（LTI)，师从苹果AI研究负责人Ruslan Salakhutdinov、谷歌首席科学家William Cohen。
Creator 面对面 | 大规模预训练模型的新思考：效率和泛化
自 2018 年谷歌推出 BERT（3.4 亿参数）以来，语言模型开始朝着「大」演进。国内外先后出现了参数量高达千亿甚至万亿的语言模型，比如谷歌的 T5（110 亿）、OpnAI 的 GPT-3（1,750 亿）、华为联合鹏城实验室的盘古（Pangu）（2000 亿），智源研究院的 WuDao2.0（1.75 万亿）……
对于这样的大模型，其背后支撑的是巨额的算力要求。那么对于 AI 民主化，降低模型训练门槛和壁垒，同时兼顾性能和表现，在未来模型的训练上又会有怎样的思考呢？
- 1