Anthropic IPO文件警告AI存在灭绝人类风险

Anthropic在近期向小范围合作伙伴分发的IPO招股书中，正式警告投资者其技术可能对人类的生存构成威胁。这份由Dario Amodei领导的AI初创公司提交的S-1文件，将近三分之一的篇幅用于详述风险因素，包括越来越先进的AI模型可能操纵、勒索人类，并表现出其他不可预测的行为。

文件还披露了更多常规风险，包括客户高度集中的问题：去年近四分之一的收入来自仅两个客户。Anthropic预计将在今年秋天于纳斯达克上市，被视为有史以来估值最高的IPO，但这些非同寻常的风险警告给公开市场投资者评估这家美国领先AI公司增加了难度。

Anthropic同时提供了构建顶尖AI模型的经济挑战清晰图景，计划未来数年投入5180亿美元用于云端、计算和基础设施义务以支持快速增长。其支持者相信上市估值可超过2万亿美元，是5月上一轮融资估值的两倍以上，也超过Elon Musk旗下SpaceX在6月达到的1.78万亿美元。

风险担忧并未阻止Anthropic的扩张步伐。公司去年运营亏损超过80亿美元，收入增长12倍至近46亿美元，但计算资源成本将运营支出推高至近130亿美元。今年收入继续激增，第二季度达115亿美元，并有望连续第二个季度实现调整后运营利润。Anthropic已与Google、SpaceX等合作伙伴签订计算能力协议。Amodei上周在联合国安理会表示AI可能威胁人类，并呼吁行业合作减缓发展速度、加强安全措施。