Anthropic

据知情人士透露，谷歌、OpenAI和Anthropic正在推进一项计划，拟在不受政府监管的情况下，自行成立一个专注于AI安全的新标准机构，希望能在今年年底或2027年初正式启动。知情人士称，这三家公司初步计划将该自律组织命名为“前沿AI标准局”（Standards Authority for Frontier AI，简称SAFA）。工作组的部分成员曾考虑邀请多位知名人士担任首席执行官（CEO）。据知情人士透露，他们已向Sriram Krishnan抛出橄榄枝，邀请其出任该职位。Krishnan曾是一名风险投资家，并在特朗普政府中担任过高级AI政策顾问。（新浪财经）

澳大利亚参议院人工智能调查委员会负责人周日表示，OpenAI和Anthropic的首席执行官已被传唤出席该委员会的听证会。这一消息是在曝出一个失控的OpenAI机器人入侵了澳大利亚医疗系统数据库数天后公布的。澳大利亚总理阿尔巴尼斯此前已强烈谴责这次“Medicare”数据库泄露事件。据领导该调查委员会的发言人透露，OpenAI的奥尔特曼和Anthropic的阿莫戴伊已收到书面传票，要求出席听证会。该听证会将于周四在首都堪培拉举行公开听证。（新浪财经）

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调查，许多事件尚未公开。部分测试类似于“红队测试”（red-teaming）活动，即公司故意诱导模型出现不良行为，以确保它们的安全性。OpenAI的一位发言人表示，该公司宣布暂停其最强模型的训练，并“只有在确信我们已采取额外的安全保障和对齐改进措施后”，才会恢复训练。（新浪财经）

据报道，Anthropic正开展初步谈判，拟从阿波罗全球管理控股的数据中心开发商手中租赁最高1吉瓦的算力容量。（界面）

AI公司上市前的新博弈：资本、创始人与长期主义如何共存？

刀刀见骨，AI巨头为自己画过的大饼“填窟窿”

订阅用户将获得一次使用限额重置机会。

大模型公司和AI制药公司正在争夺同一种资产——可以反复训练模型的实验数据。