​英国将 “AI安全研究所” 更名为 “AI安全研究院”,加速AI产业发展

英国政府近期宣布,将原本名为 “AI 安全研究所” 的机构更名为 “AI 安全研究院”,此举标志着政府在 AI 领域战略的重大转变。 新的名称不仅反映了机构的职能变化,也表明了英国政府在推动 AI 产业发展方面的坚定决心。 图源备注:图片由AI生成,图片授权服务商Midjourney这一变化由科学、工业与技术部公布,新的 AI 安全研究院将重点关注网络安全,旨在 “加强对 AI 对国家安全及犯罪风险的保护”。

英国政府近期宣布,将原本名为 “AI 安全研究所” 的机构更名为 “AI 安全研究院”,此举标志着政府在 AI 领域战略的重大转变。新的名称不仅反映了机构的职能变化,也表明了英国政府在推动 AI 产业发展方面的坚定决心。

AI写作机器人写作

图源备注:图片由AI生成,图片授权服务商Midjourney

这一变化由科学、工业与技术部公布,新的 AI 安全研究院将重点关注网络安全,旨在 “加强对 AI 对国家安全及犯罪风险的保护”。原本侧重于探讨大语言模型的生存风险和偏见问题,如今将更多的精力转向如何利用 AI 技术来防范安全隐患。

同时,英国政府还宣布与人工智能公司 Anthropic 签署了一项谅解备忘录。虽然并没有透露具体的服务内容,但备忘录显示双方将 “探索” 使用 Anthropic 的 AI 助手 Claude 来改进公共服务。Anthropic 公司将参与科学研究和经济建模的工作,并为 AI 安全研究院提供评估 AI 能力的工具,以帮助识别安全风险。

Anthropic 联合创始人兼 CEO 达里奥・阿莫迪在声明中表示:“AI 有潜力改变政府服务民众的方式。我们期待探索如何利用 Anthropic 的 AI 助手 Claude,帮助英国政府提升公共服务的效率,使关键信息和服务更加便利和可及。”

值得注意的是,AI 安全研究院的这一转变并不令人意外。新上任的英国工党政府在1月份发布的 AI 发展计划中,并未提及 “安全”、“危害”、“生存” 以及 “威胁” 等字眼,这表明政府将更关注投资和技术发展,尤其是与大型科技公司的合作。

在未来,政府希望通过 AI 助理 “Humphrey” 来提升公务员的工作效率,同时推出数字钱包和聊天机器人等新工具,以便民众能够更加便捷地获取政府服务。尽管安全问题仍然存在,但政府似乎认为,快速发展的步伐不能因安全考量而受到影响。

AI 安全研究院的主席伊恩・霍加斯表示,尽管更名为 “AI 安全研究院”,但机构的使命依旧,仍将致力于评估公众面临的严重风险,并深化与国家安全社区的合作,致力于维护公民的安全。

划重点:  

🌐 英国政府将 “AI 安全研究所” 更名为 “AI 安全研究院”,重点关注网络安全。  

🤝 与人工智能公司 Anthropic 签署谅解备忘录,探索 AI 在公共服务中的应用。  

📈 政府将 AI 发展置于优先地位,安全问题不再是首要考虑。

相关资讯

360无偿为DeepSeek提供安全服务 纳米AI搜索开通“DeepSeek高速专线”

近日,国产大模型DeepSeek在全球AI领域崭露头角,其展现出的技术实力令人瞩目,但同时也遭遇了外部网络攻击的威胁。 在此背景下,360集团创始人周鸿祎宣布,360将无偿为DeepSeek提供全方位的网络安全防护,以实际行动支持国产AI技术的发展。 作为中国最大的网络安全企业,360集团率先发布倡议书,宣布为DeepSeek提供无偿的网络安全防护。

​谷歌利用ai拦截 236 万款恶意应用在Google Play上架

随着 Android 用户数量突破30亿,谷歌在保护用户安全方面的压力与日俱增。 为了应对日益猖獗的网络攻击,谷歌宣布加大对人工智能(AI)的投入,以提升恶意软件检测能力、加强隐私保护措施,并为开发者提供更完善的工具。 通过这些努力,谷歌在过去一年中成功阻止了236万款违反政策的应用程序发布在 Google Play 商店。

国家网络安全通报中心通报:大模型工具Ollama存在安全风险

今日,国家网络安全通报中心发布关于大模型工具 Ollama 存在安全风险的情况通报,据清华大学网络空间测绘联合研究中心分析,开源跨平台大模型工具 Ollama 默认配置存在未授权访问与模型窃取等安全隐患。鉴于目前 DeepSeek 等大模型的研究部署和应用非常广泛,多数用户使用 Ollama 私有化部署且未修改默认配置,存在数据泄露、算力盗取、服务中断等安全风险,极易引发网络和数据安全事件。