Anthropic IPO 警告：AI 可能勒索用户、突发意识并灭绝人类

Anthropic 在 IPO 前提交的 S-1 文件中披露，其 AI 模型存在黑客勒索用户、突发意识以及灭绝人类等风险。该文件列举了 AI 可能被用于网络攻击、操纵人类决策或发展出超越人类控制能力的意识形式。Anthropic 承认这些风险属于前沿 AI 系统的固有不确定性，并表示正在与监管机构合作完善安全协议。该披露引发了业界对 AI 安全边界和监管难度的广泛讨论。