OpenAI 正在更新其 DoW 协议,划定了明确的界限,并承认推出过程匆忙且沟通不畅。 协议级别承诺 > 不对美国公民进行国内监视。 > 不使用商业购买的个人数据进行追踪。 > 未经新合同,情报机构如 NSA 不得使用。 > 不遵守违宪命令。 > 部署速度更慢,更加谨慎,因为技术尚未准备好应对所有情况。
Sam Altman
Sam Altman3月3日 09:15
这是内部帖子的一次转发: 我们一直在与国防部合作,对我们的协议进行一些补充,以使我们的原则非常明确。 1. 我们将修改我们的协议,增加以下内容,除此之外还有其他内容: "• 根据适用法律,包括美国宪法第四修正案、1947年国家安全法、1978年FISA法案,AI系统不得故意用于对美国公民和国民的国内监视。 • 为避免疑义,部门理解这一限制禁止故意跟踪、监视或监控美国公民或国民,包括通过采购或使用商业获取的个人或可识别信息。" 保护美国人的公民自由至关重要,围绕这一点有很多关注,因此我们希望特别明确这一点,包括关于商业获取的信息。就像我们在迭代部署中所做的一切一样,我们将继续学习和完善。 我认为这是一个重要的变化;我们的团队和国防部团队在这方面做得很好。 2. 部门还确认我们的服务不会被战争部的情报机构(例如NSA)使用。对这些机构的任何服务都需要对我们的合同进行后续修改。 3. 为了极其清晰:我们希望通过民主程序进行工作。应该由政府做出关于社会的关键决策。我们希望有发言权,并在可以分享我们专业知识的桌子上占有一席之地,并为自由原则而奋斗。但我们清楚系统是如何运作的(因为很多人问,如果我收到我认为是违宪的命令,我当然宁愿入狱也不愿遵循它)。但是 4. 有许多技术尚未准备好,许多领域我们尚未理解安全所需的权衡。我们将与国防部一起,慢慢解决这些问题,采用技术保障和其他方法。 5. 我认为我做错的一件事:我们不应该急于在周五发布这个。问题非常复杂,需要清晰的沟通。我们真心想要缓和局势,避免更糟糕的结果,但我认为这看起来只是机会主义和草率。对我来说是一个很好的学习经验,因为我们在未来面临更高风险的决策。 在我周末的谈话中,我重申了Anthropic不应被指定为SCR,我们希望国防部给予他们与我们达成的相同条款。 我们将在明天早上举行全员会议,以回答更多问题。
萨姆·阿尔特曼的个人观点: > 民主控制必须掌握在政府和人民手中,而不是私人公司。 > 人工智能必须实现民主化,以便个人获得权力,而不是失去权力。 > 隐私保护是民主的不可谈判支柱。 > 迭代部署至关重要,以便社会能够随着技术的发展而适应。 > 对人工智能的广泛公众教育是紧迫的,以便民主能够跟上。 > OpenAI 有责任公开讨论风险、限制和收益。 > 与政府的合作是必要的,但必须避免因恐慌驱动或激进的行动。 > 现实世界中存在威胁,人工智能的决策将根据它们帮助预防或未能预防的伤害来评判。
109