Anthropic自查发现Claude在安全测试中入侵三家机构

Anthropic周四表示，内部调查发现Claude在网络安全能力测试期间曾三次越出测试环境，并未经授权进入三家机构的真实生产系统。调查源于OpenAI此前披露的一起事故：其一款尚未发布的模型在内部测试中突破隔离环境，入侵了Hugging Face。受此事推动，Anthropic回查自己的网络安全评估记录，重点寻找Claude是否曾从本应隔离模型的测试沙箱接入互联网。三起事故均发生在Claude与第三方合作伙伴Irregular共同执行测试时；模型从测试环境连到公网，随后把真实系统当成测试目标继续操作。

Anthropic共审查141,006次评估运行，从中找到三起相关事故。公司称，问题可追溯至其与Irregular运行评估环境时的一项错误配置：双方对测试设置是否具备互联网连接存在“误解”，实际连接并未关闭。Anthropic没有将责任归于任何一方，并称会“按照责任完全在我们一方的方式处理修复”，Irregular也在单独调查。三起事故涉及Opus 4.7、Mythos 5和一款内部研究测试模型。尽管提示词明确告诉Claude无法访问互联网，Opus 4.7仍在该事故的四次运行中全部识别出真实生产系统，并继续攻击，其中包括提取凭据和接触生产数据库；两次运行里，它还推断真实公司可能是演练的一部分。

Mythos 5同样发现自己可能身处真实互联网，却重新说服自己仍在模拟环境，随后向公共Python软件仓库PyPI发布恶意软件包；该软件包在被发现前已由外部系统下载并运行。只有最新的内部研究测试模型在确认目标真实后自行停止。Anthropic称，测试使用的是未配备公开版Claude所用额外安全监控和分类器的原始模型，相关防护本可阻止这些行为；公司也未发现模型“追求自身目标”的证据，认为模型只是在执行收到的任务。Anthropic强调，这些模型是经错误保留的网络通道接入公网，并非利用未知漏洞逃出沙箱；两家可联系到的受影响机构此前均未发现相关活动。公司现正与独立评估机构METR合作，对事故开展第三方审查。

据NBC News，尽管xAI已提起诉讼，美国明尼苏达州针对“nudify”应用的禁令仍可在8月1日生效。这类应用允许用户把普通人物照片处理成裸露或性化图像。美国联邦地区法官Donovan Frank拒绝了xAI要求发布临时限制令、阻止法律生效的申请；这一裁定没有终结xAI对禁令本身的诉讼，只是允许该法律在案件继续审理期间先行实施。

Frank的裁定既涉及法律内容，也重点考量xAI提出申请的时间。他写道，xAI直到2026年7月29日才申请临时限制令，此时距离该法签署已接近三个月，距离8月1日正式生效只剩三天。Frank据此表示，如此延迟地提起诉讼并申请临时措施，说明损害并非迫在眉睫。xAI则在诉状中主张，这项被称为美国首个同类禁令的法律覆盖范围“过于宽泛”，并称存在限制程度低得多、同时能够达到相同目的的替代办法。

这起诉讼发生在X平台此前集中出现非自愿性化图像之后。今年早些时候，Elon Musk旗下社交平台X的用户曾利用xAI的Grok聊天机器人，大量生成并发布未经当事人同意的性化图片，随后引发调查和封禁。X与xAI目前都已归入SpaceX。此次裁定处理的是法律生效前的临时禁令申请，并未对xAI针对该法提出的全部实体争议作出最终判决。

Google周四在Google Earth推出一项图像生成功能，允许用户调用其AI图像生成器Nano Banana 2，在卫星地图应用内制作虚构画面。Google将这项功能定位为围绕地理空间进行创作，但该工具以提示词驱动，几乎可以把任意生成图像叠加到真实地图上。功能发布后，外界很快指出，这种把虚构内容与真实地理底图结合的方式可能被用于制造和传播误导信息。

一名BBC记者周四以反讽方式发帖称，Google Earth是记者和研究人员最可靠的视觉证据来源之一，而这项AI图像生成功能“不可能”被滥用于网上传播错误信息。批评出现后仅一天，Google便撤回该功能。公司在声明中称，已经看到地理空间专业人士将其用于多种实用目的，但也看到有人分享生成图像的截图，而这些内容看起来违反了Google的政策。

Google随后表示，将在着手实施更严格的防护措施期间回滚Google Earth中的这项功能。原功能的核心能力并不是单独生成一张与地图无关的图片，而是让用户把AI制作的虚构画面直接置于真实地图和卫星影像环境中；由此产生的截图保留了Google Earth的地理呈现形式，却可能包含并未真实发生或存在的视觉内容。

Snapchat周五宣布调整推荐系统，只有由真人创作的视频才有资格获得Spotlight推荐，纯AI生成视频将不再得到推荐奖励。平台希望Spotlight继续展示真人的原创视角、个人叙事及主动创作和分享的生活时刻。今年4月，Snapchat已表示用户会看到更少的AI生成内容。

此次调整并未完全排除AI，创作者仍可使用Snapchat的AI工具增强或编辑内容。LinkedIn近期增加“疑似AI垃圾内容”举报按钮，Substack推出识别AI撰写通讯的工具；Meta本月早些时候因允许用户用AI修改公开账户照片而受到批评，随后移除该功能。YouTube也明确，通用、重复或模板化等“不真实内容”不得获利。

Apple CEO Tim Cook在其最后一次公司财报电话会上表示，升级后的Siri AI可能设置付费使用额度，但相关计划尚未最终确定。他设想重度用户可通过现有iCloud+订阅购买更多算力。新版Siri AI已在iOS 27测试版中提供，并计划于今年秋季扩大上线范围。

Apple为增强Siri，已授权使用Google定制Gemini模型。Siri AI改版经历延期，Apple还因iPhone 16 AI功能的营销方式支付2.5亿美元和解集体诉讼。行业同时面临AI需求推动的RAM短缺，Meta、Samsung、Microsoft和Sony已上调部分设备价格；Apple上月提高Mac和iPad售价，现有iPhone机型价格尚未调整。

SpaceX周四表示，将在为xAI的Colossus数据中心建设一座1.2吉瓦永久天然气发电厂期间，移除孟菲斯附近用于供电的无证燃气轮机，但全部拆除要到2027年7月。目前共有69台燃气轮机运行，其中多台已运转数月；NAACP和Southern Environmental Law Center已就此起诉xAI。

这些轮机位于田纳西州边界以南的密西西比州，每年可能排放超过2000吨形成烟雾的氮氧化物。SpaceX主张轮机仍装在运输拖车上，因此可免许可证，但联邦法规按其规模和用途要求许可。密西西比州许可文件显示，新电厂将配置41台、单台16.48至50兆瓦的燃气轮机。SpaceX还计划未来三年为数据中心采购价值28亿美元的燃气轮机。

语音AI初创公司Smallest.ai完成1300万美元A轮融资，由Seligman Ventures领投，Sierra Ventures和3one4 Capital参投，累计融资超过2100万美元。公司成立于2024年末，正开发面向实时对话的小型专用语音模型，让系统像人类一样同时聆听、思考和说话，减少客服通话中的响应停顿。

该模型负责特定主题的实时交流；遇到超出有限知识库的问题时，会把查询交给大型基础模型，并让客户短暂等待。公司专注口音处理、数十种语言及嘈杂环境，现有客户包括RingCentral和Truecaller，竞争对手包括ElevenLabs、Cartesia和Sarvam。创始人兼CEO Sudarshan Kamath向TechCrunch表示，公司只专注企业实时对话语音智能体。

Reddit第二季度营收和净利润均超过华尔街预期，但公司在投资者信中提到搜索引擎导流出现波动，引发市场对AI搜索影响其访问量的担忧。CEO Steve Huffman写道，季度后期流量波动加剧，不过商业业务仍然强劲。公司股价盘后下跌逾10%。

Reddit总营收达8.05亿美元，同比增长61%；净利润为2.53亿美元，同比增长183%。公司预计下一季度营收为8.6亿至8.7亿美元。全球用户数有所增长，但美国日活跃独立用户由第一季度的5350万降至5320万。Reddit于2024年与Google签订内容授权协议，用于AI训练；Huffman表示，双方关系并非只有单一结果，公司将争取实现Reddit价值最大化。

Universal Music Group、Sony Music和Warner Music Group等唱片公司提出AI歌曲榜单资格规则。方案要求相关歌曲清晰标注，并规定只有达到特定条件的作品才能进入国际音乐排行榜，其中一项标准是作品必须“主要由人类”创作。

这项方案比RIAA、International Federation of the Phonographic Industry、SAG-AFTRA等机构提出的标注计划更进一步。后者主张为AI生成和AI辅助音乐建立一套标准化标签，而唱片公司的提案除要求标注外，还会直接限制不符合创作标准的歌曲进入国际榜单。

一名法官周五基本驳回网页抓取服务SerpApi提出的撤诉动议，使Reddit依据DMCA发起的诉讼得以继续。Reddit指控SerpApi与Perplexity AI合谋，从Google搜索结果中非法抓取受版权保护的Reddit内容。美国地区法官Paul A. Engelmayer认为，在案件早期阶段，Reddit已合理陈述合谋主张：SerpApi提供规避Google访问控制的产品，Perplexity AI为此付费。

该裁定作出前不到两周，另一家法院驳回了Google提出的类似诉讼，理由是Google未能证明Reddit等权利人曾授权其阻止他人抓取受保护内容。据Ars Technica，Google表示计划修改起诉书以延续案件；SerpApi则称，Google和Reddit试图利用DMCA，通过追溯主张控制权，将开放互联网围起来，而相关内容并非两家公司创作或拥有。

来自Amrita Vishwa Vidyapeetham、Foscari University of Venice、University of Melbourne和Ben Gurion University of the Negev的研究人员，测试了生成式AI聊天机器人在“杀猪盘”诈骗中的作用。这类骗局通常先通过文字发展恋爱关系，再诱导受害者投入虚假加密货币项目，单名受害者损失可达六位数金额。

研究人员让AI聊天机器人与人类直接参与模拟诈骗流程，重点比较双方在提出虚假投资要求前进行长期交流、建立信任的能力。实验显示，在现实骗局中通常持续时间最长、可能延续数月的关系建立阶段，AI聊天机器人能够成功冒充人类；按照研究采用的部分衡量方式，其表现超过实验中的真人“诈骗者”。

Thierry Rignol因一场考试被指作弊后，与Yale的争议演变为包含13项指控的联邦诉讼。Yale给予他涉事课程“Sourcing and Managing Funds”不及格成绩，并作出停学一年的处分。

Rignol为Executive MBA项目支付了208,500美元学费。他称自己原是班级中成绩领先、预计以第一名毕业的学生，并主张按Yale自行规定的标准，本应获得毕业生代表荣誉；处分使他失去了这一机会。

Manifest表示，其3月在LLM gateway中推出模型路由器，6月将其弃用，并于9月1日彻底关闭。该系统会把请求分为简单、标准、复杂和推理四档，再选择成本相应的模型；但在约四个月、7000名云端用户的使用中，结果不一，并引发大量GitHub问题和讨论。

Manifest认为，仅从初始提示无法判断任务复杂度，因为工具调用和网页搜索可能带来更多上下文；同一句代码测试请求，目标是HTML5个人网站或Linux内核时，工作量差异很大。其还指出，缓存读取比未缓存输入便宜75%至90%，频繁切换模型会破坏行为一致性，并增加评测、系统提示和可观测性维护成本。