AIGC宇宙 AIGC宇宙

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

作者:故渊
2024-05-09 08:58
OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)未来的响应方式。OpenAI 提出了三个普适原则:AI 模型应遵循相关规范,协助开发者和终端用户并提供有用响应考虑潜在利益和危害的情况下造福人类响应应符合社会道德或者相关法律OpenAI 还提出了其它几条原则:遵循指挥系统遵守适用法律不提供信息危害尊重创作者及其权利保护人们的隐私不回复 NSFW(工作场所不宜)内容OpenAI 表示之所以倡导并推行该框架,其目的是让企业和用户切换 AI 模型的“辛

OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿,希望能够规范 AI 模型和工具(例如 GPT-4)未来的响应方式。

OpenAI 提出了三个普适原则:

AI 模型应遵循相关规范,协助开发者和终端用户并提供有用响应

考虑潜在利益和危害的情况下造福人类

响应应符合社会道德或者相关法律

OpenAI 还提出了其它几条原则:

遵循指挥系统

遵守适用法律

不提供信息危害

尊重创作者及其权利

保护人们的隐私

不回复 NSFW(工作场所不宜)内容

OpenAI 表示之所以倡导并推行该框架,其目的是让企业和用户切换 AI 模型的“辛辣”(spicy)程度。以 NSFW 内容为例,OpenAI 表示在负责任的前提下,正在 API 和 ChatGPT 中探索生成适合某些语境下的 NSFW 内容。

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

OpenAI 推出 Model Spec 拟议框架,探索生成 NSFW 内容等 AI 响应规范

IT之家附上参考地址

Model Spec

相关标签:

相关资讯

GPT4规模大模型落地,Meta提ExFM框架:万亿参数基础大模型的工业级落地成为可能

如何让万亿级基础大模型能够高效、低成本地服务于大规模工业级应用,并且让能够随着模型规模的提升(Scaling)而得到持续的性能增长? 这一直是众多企业困扰良久的难题。 在线广告推荐系统是互联网平台的核心服务之一,其模型性能直接影响用户体验与商业价值。
3/12/2025 2:24:00 PM
机器之心

图模型也要大?清华朱文武团队有这样一些观点

在大模型时代,图机器学习面临什么样的机遇和挑战?是否存在,并该如何发展图的大模型?针对这一问题,清华大学朱文武教授团队首次提出图大模型(Large Graph Model)概念,系统总结并梳理了图大模型相关的概念、挑战和应用;进一步围绕动态性和可解释性,在动态图大模型和解耦图大模型方面取得了研究进展。论文地址:、相关概念(一)图大模型图大模型是指具有大量参数的图机器学习模型,具有比小模型更强大的学习能力,能更好地对图数据进行理解、分析和应用。为实现上述目标,图大模型应该具有以下四方面的核心能力:1. 图学习模型的规
10/31/2023 2:41:00 PM
机器之心

让天下没有难做的开发和运维,DevOps终于有了专属大模型,蚂蚁和北大联合发布

大语言模型在各类 NLP 下游任务上都取得了显著进展,各种垂直领域大模型更是如雨后春笋般层出不穷。然而在 DevOps 领域,却迟迟没有相关大模型问世。为填补这方面的空白,蚂蚁集团联合北京大学发布了面向中文 DevOps 领域的首个开源大语言模型,即 DevOps-Model 。该大模型旨在帮助开发人员在软件开发和运维的整个生命周期中提高效率,最终目标是实现在 DevOps 流程中面临任何问题时,都可以通过向 DevOps-Model 提问来获取解决方案!当前已经开源了 7B 和 14B 两种规格的 Base 和
11/16/2023 3:00:00 PM
机器之心