1
1
Claude Code 误删生产数据库 AI 一指令致公司平台归零
文章索引: Anthorpic
DataTalks.Club 创办人 Alexey Grigorev 在尝试利用 Claude Code 协助 Terraform 部署时,因错误操作导致整个生产环境被删除,包括:Amazon RDS 数据库、虚拟私有云(VPC)、Amazon ECS 丛集、负载平衡器(Load Balancer)等核心基建。事故令平台建立了两年半的课程数据一度化为乌有。

在一次看似例行的网站迁移中,Grigorev 过度依赖 AI 助手 Claude Code,结果引发了严重事故。原本的计划是将 AI Shipping Labs 网站由 GitHub 迁移至 AWS,并逐步以 Django 版本取代 Next.js。

执行过程中,因为 Terraform 的 state file(状态档案)未有正确迁移至新电脑,Claude Code 误判整个环境不存在,因此最终执行了 terraform destroy 的步骤,将 DataTalks.Club 课程平台的生产基建全面销毁!
Anthropic 拒让 AI 用于监控或自主武器遭封杀 OpenAI 背刺成功取代 Anthropic 与美国防部签约
文章索引: Anthorpic
美国国防部希望能在所有「合法用途」下使用 Anthropic 的 AI 模型(Claude),包括军事监控与自主武器系统,这意味着国防部希望拥有不受限制的使用权,可以在需要时绕过任何安全或伦理限制。

即使涉及高达 2 亿美元的合同,Anthropic 创办人兼行政总裁 Dario Amodei 仍坚守原则,表示这些用途违背了「伦理 AI」的核心原则,会削弱技术的安全性与社会信任,强调公司立场不会因恐吓或惩罚而改变。

虽然国防部曾提出部分妥协方案,纳入了 Anthropic 建议的部分条款,但仍保留「在必要时可推翻限制」的权力。Anthropic 认为此举不足以保障伦理底线,拒绝签署。
1
1