新播客 🔥 我们正在构建一个无人能够控制的AI - Connor Leahy 在这里观看这一集： 🎙️ 今天的播客中，我们与@NPCollapse交谈，他是EleutherAI的创始人，也是当前AI发展的最直言不讳的批评者之一，探讨我们是否在朝着一种我们不知道如何控制的超级智能形式过快前进。借助他构建开源模型的经验，Connor反思了AGI、对齐问题以及创造比人类更智能的系统的真实风险。对话深入探讨了代理自主性、神经网络的不透明性、开源代码的传播，以及像OpenAI和Meta这样的公司在一场往往优先考虑速度而非安全的竞赛中的角色。我们还讨论了治理、监管以及超级智能可能对文明产生的影响。