但这个征服世界的大型语言模型聊天机器人被描述为一个“隐私黑洞”，人们担心它处理用户数据的方式，这甚至导致它在意大利被短暂封禁。
它的创造者OpenAI毫不掩饰这样一个事实：任何输入的数据都可能不安全。这些数据不仅可能被用于进一步训练其模型，从而可能暴露给其他用户，而且还可能被人工审核，以检查其是否符合使用规则。当然，任何发送到云服务的数据都只能和云服务提供商的安全保障水平一样安全。
这意味着输入到ChatGPT中的任何数据都应被视为公开信息。考虑到这一点，有几件事是绝对不应该告诉它——或任何其他基于公有云的聊天机器人的。让我们来看看其中的一些：
违法或不道德的要求
大多数AI聊天机器人都设有保障措施，以防止它们被用于不道德的目的。如果你的问题或请求涉及可能违法的活动，那么你可能会陷入麻烦。向公共聊天机器人询问如何犯罪、进行欺诈活动或操纵他人采取可能有害的行动，绝对是坏主意。
许多使用政策都明确规定，提出非法要求或试图利用AI进行非法活动可能会导致用户被报告给相关部门。这些法律可能因地区而异。例如，中国的AI法律禁止利用AI破坏国家权威或社会稳定，而欧盟的AI法案规定，看似真人但实际上是AI生成的“深度伪造”图像或视频必须明确标注。在英国，《网络安全法案》规定，未经同意分享AI生成的色情图像属于刑事犯罪。
输入非法材料或可能对他人造成伤害的信息请求，不仅是道德上的错误;还可能导致严重的法律后果和声誉损害。
登录名和密码
随着代理型AI的兴起，我们中有越来越多的人将使用能够连接和使用第三方服务的AI。为了做到这一点，它们可能需要我们的登录凭据，然而，将登录信息提供给它们可能是一个坏主意。一旦数据进入公共聊天机器人，我们对它将如何处理这些数据就几乎失去了控制，并且已经有用户输入的个人数据在回应其他用户时被泄露的案例。显然，这可能会成为隐私噩梦，因此，除非你确定你正在使用一个非常安全的系统，否则最好避免任何涉及向AI提供用户名和账户访问权限的交互。
财务信息
出于同样的原因，最好不要将银行账户或信用卡号码等数据输入到GenAI聊天机器人中。这些数据只应输入到用于电子商务或网上银行的安全系统中，这些系统具有内置的安全保障，如加密和数据处理后自动删除。聊天机器人没有这些安全保障。事实上，一旦数据输入，就无法知道它会被如何处理，并且输入这些高度敏感的信息可能会使你暴露于欺诈、身份盗窃、网络钓鱼和勒索软件攻击的风险之中。
机密信息
每个人都有责任保护其负责的敏感信息的安全。其中许多责任是自动产生的，例如专业人士(如医生、律师和会计师及其客户)之间的保密责任。但许多员工也对其雇主负有默示的保密责任。分享业务文件，如会议笔记和纪要或交易记录，可能构成分享商业秘密和违反保密义务，就像2023年三星员工涉及的事件那样。因此，无论将所有这些信息一股脑地输入到ChatGPT中以获取其能挖掘出的何种见解有多么诱人，除非你确定这些信息可以安全共享，否则这不是一个好主意。
医疗信息
我们都知道，向ChatGPT询问并让它充当医生来诊断医疗问题可能很诱人，但一定要极其谨慎，特别是考虑到最近的更新使其能够“记住”甚至从不同的聊天中整合信息以更好地了解用户。这些功能都没有任何隐私保障，所以要清楚，我们实际上对输入的信息会发生什么知之甚少。当然，这对于处理患者信息的医疗相关行业来说更是如此，它们可能面临巨额罚款和声誉损害的风险。
总结
与我们上传到互联网上的任何东西一样，最好假设它永远不会保持私密性。因此，最好不要透露任何你不希望全世界都知道的事情。随着聊天机器人和智能体在我们的生活中扮演越来越重要的角色，这将成为一个更加紧迫的问题，而教育用户了解相关风险将是提供此类服务的任何人的重要责任，然而，我们也应该记住，我们有责任保护自己的数据并了解如何确保其安全。
