
开云kaiyun.com
头图来自:AI 生成
若是有一天,你在交友软件上意识了一个东谈主。对方难忘你说过的话,会捏续修起,也会在你条件视频时果真出当今镜头里。当年,这简略足以解释屏幕另一端"确乎有东谈主"。
但 Anthropic 最新发布的 154 页挟制谍报讲演,给出了一个更破裂的现实:视频里出现的可能是真东谈主,当年几天一直陪你聊天的,却只怕一直是。
2026 年 4 月,Anthropic 发现一家位于中国的应用责任室运营 20 多款齐集应用。在其不雅察的两周窗口内,跳跃 4700 个 AI 驱动的东谈主设至少与 2.5 万名真实用户互动,产生约 236 万条 Claude 音书。匹配池中的账号约四分之三由 AI 驱动。更要道的是,当用户条件视频通话或革新到其他酬酢平台时,真东谈主责任主谈主员不错介入。
这不是整份讲演里工夫风险最高的案例,却可能是离平常东谈主最近的一幕:AI 负责规模化守护讨论,真东谈主负责在最要道的时刻解释"我是真东谈主"。
把这一个案例放回 Anthropic 整份讲演,会发现它和相聚纰谬、监控、影响力手脚以至火器研发分享着归拢条变化:AI 正在从"给东谈主提倡",走向参与更长、更圆善的施行链。当年需要好多东谈主、好多时间和较高专科门槛才能激动的事情,开动被压缩成少数东谈主加上一组模子或 Agent。
先看讲演:Anthropic 到底发现了什么?
Anthropic 这份《Detecting and Countering Misuse of AI: September 2026》掩饰 2025 年 12 月至 2026 年 8 月间被公司发现并管理的糜费行径。它不是 Claude 举座用户行径的抽样统计,而是都集呈现 Anthropic 觉得最值得隆重、最具新颖性的挟制案例:

此表更合适被相识为" AI 糜费规模正在蔓延到那边",而不是"这些风险在所灵验户中有多深广"。
一、4700 个"真东谈主":AI 开动学会在最要道的时候让真东谈主出现
当年咱们对相聚机器东谈主的识别样式很朴素:头像可能是假的,话术可能是模板,聊深化总会自大破绽。生成式 AI 还是让"聊得像真东谈主"变得容易,但 Anthropic 显露的齐集应用案例更进一步——系统不是执着于让 AI 完成 100% 的伪装,而是在东谈主最容易起疑的场所引入真东谈主。
这是一种很值得隆重的东谈主机单干。AI 承担最耗时间、最需要规模的长期聊天,真东谈主只在视频、跨平台讨论等高风险节点介入。换句话说,真东谈主不再负责守护讨论,而开动成为多半 AI 身份背后的考证节点。
这窜改了欺诈的老本结构。当年,一个真东谈主一天能老成戒备的讨论数目极度有限;当今,归拢套系统不错让数千个身份同期在线、捏续修起、保留凹凸文,再用一丝东谈主工去向理机器最难通过的考证。
讲演还自大,这些应用通过匹配和音书额度推动用户捏续购买臆造币。于是情谊互动不再仅仅" AI 会不会说言不由中"的居品技艺,而被嵌进一条圆善的生意链:身份制造、捏续互动、真东谈主考证、付费转动。
需要讲明的是,Anthropic 显露的是它发现并管理的具体糜费行径,不可由此揣度悉数 AI 作陪或齐集居品都接纳雷同模式。着实的分界线也不是" AI 能不可作陪东谈主",而是用户是否知谈我正大在和 AI 疏导。
二、AI 从"告诉你怎么作念",走向"参与把事情作念完"
若是只看 4700 个 AI 恋东谈主,这份讲演很容易变成猎奇新闻。但 Anthropic 着实反复呈现的,是另一条更伏击的工夫趋势:AI 的脚色正在从一次性的内容生成,参加聚合任务。
相聚纰谬是最了了的例子。纰谬者不再仅仅让 Claude 解释罅隙或写一段代码,而是把模子放进窥伺、诳骗、数据整理、坏心软件迭代等多个标准。讲演显露的一项疑似与俄罗斯国度配景讨论的相聚间谍行径,预备纰谬跳跃 20 家组织;当坏心器用被安全居品发现后,AI 还被陆续用于修改和再行部署代码。
这里着实变化的是经济学,而不是 AI 片刻有了"坏心"。关于正当企业,Agent 的价值就在于减少东谈主隐私力于,让一个东谈主能激动更圆善的责任流;雷同的坐褥率进步落到纰谬者手里,也会让少数东谈主完成当年需要更多专科东谈主员才能完成的事情。
因此,AI 安全问题正在从"模子会不会回答一个危急问题",变成"模子能不可在现实系统里聚合手脚"。前者主要靠内容过滤,后者则触及权限、器用调用、日记、身份考证、东谈主工接纳和特别检测。
三、监控和谍报责任也开动 Agent 化
Anthropic 还显露了 AI 被用于监控与谍报行径的案例。别称为马里国度安全部门责任的照拂人曾借助 Claude 参与诞生通讯羁系平台;另沿路与伊朗讨论的行径则使用 Claude 处理多半酬酢媒体信息,并筛选特定账户捏续分析。
这类案例之是以伏击,不在于模子能够"读酬酢媒体",而在于它开动承担当年需要分析东谈主员长期处理的信息整理和筛选任务。模子越能捏续调用器用、读取数据、造成中间论断,风险的单元就越从一条输出变成一段责任流。
对企业亦然雷同的指示。改日一个 Agent 能读取邮件、合同、CRM、代码仓库和财务文献时,着实决定风险的不仅仅模子聪不机灵,而是企业究竟给了它多大的手脚半径。
讲演中更明锐的一部分触及通例火器讨论研发。Anthropic 显露,一个位于也门北部的团队同期运行多个 Claude 实例,让不同实例承担谈论、编码和代码审查等任务,并用于制导火箭讨论的软件研发。在一次真实测试失败后,讨论东谈主员又使用 Claude 分析问题。
这部分最容易在传播中被夸大。严格按照讲演,能够阐述的是 Claude 参与了研发链条中的若干具体任务,而不是模子落寞想象、制造或部署了某种火器。
但即便保捏这个规模,信号依然实足伏击:通用模子正在参加当年高度专科化的研发标准。它与 AI 参加企业的样式并莫得推行不同——先从检索、代码、分析、调试和文档开动,仅仅当应用场景换成高风险领域,雷同的坐褥率就会转动为新的安全压力。
四、最难管理的可能不是明确的坏心,而是"既能救东谈主也能害东谈主"的谈论
Anthropic 还显露了 5 组可能复旧高风险生物用途的谈论行径,触及病毒功能增强、妥贴实验、毒素校正等标的。但讲演莫得把这些谈论者奏凯定性为正在制造生物火器。
原因很现实:生物谈论具有典型的双重用途。谈论病毒传播、免疫逃遁和病原体机制,可能做事疫苗、休养和大家卫生,也可能被坏心诳骗。只看一段模子交互,常常不及以阐述谈论者最终要作念什么。
这让 AI 安全参加了一个比"屏蔽危急要道词"更用功的阶段。着实的问题变成:归拢种学问,由什么东谈主、在什么环境、为了什么目标调用?模子越通用,正当谈论和坏心使用之间越难用一左券略端正切开。
五、从生成一篇内容,到运营一整套影响力机器
生成式 AI 能够批量写著述早已不是新闻。Anthropic 此次显露的新变化,是影响力手脚开动领有更圆善的自动化基础模范。
在与中非共和国讨论的沿路俄罗斯影响力手脚中,Claude 被用于生成播送材料、酬酢媒体内容、合同等文献,并匡助内容更接近当地记者的抒发。其他案例还触及账号戒备、工夫基础模范和互动操作。因此,AI 对公论控制最大的窜改只怕是"假内容更像果真",而是组织一场捏续影响力手脚的老本开动下落。写稿、改写、土产货化、府上整理和运营原来需要多东谈主发愤于,当今越来越多标准不错被模子接住。
AI 莫得发明诈欺、宣传、相聚纰谬或间谍行径。它着实可能窜改的,是这些事情的单元老本和可复制规模。
Anthropic 在讲演定位上有一个必须保留的阻挡:这些是公司发现的最值得隆重和较新颖的糜费行径,不代表 Claude 的典型使用样式。
这意味着咱们不可从这份讲演推导出" 100 万个 Claude 用户里有若干东谈主在行恶",也不可据此运筹帷幄 AI 让相聚犯罪增长了若干。它更像一册规模案例集:当早先进的通用模子参加现实宇宙后,还是有东谈主尝试把它推到那边。
但也正因为如斯,它有另一种价值。好多工夫变化在成为大规模社会问题之前,常常先以一丝角落案例出现。4700 个 AI 身份、聚合纰谬链、自动化影响力手脚的伏击性,不在于解释今天还是到处如斯,而在于它们让东谈主提前看到:一朝技艺陆续进步、老本陆续下落,哪些模式最容易被复制。
结语
整份讲演里,导弹、相聚间谍和高风险生物谈论都比齐集应用更严重,但 4700 多个 AI 身份反而最容易让平常东谈主感到一种具体的不安。因为咱们每天都在默许一件事:屏幕另一边,简略率还有一个东谈主。
交友软件里的对象、酬酢平台上的网友、褒贬区里的目生东谈主、主动讨论你的猎头、保举商品的"用户",以至一个在半夜耐烦听你话语的东谈主。当年即便头像是假的、名字是假的,咱们仍然默许对面存在一个真实主体。
生成式 AI 正在让这个默许前提失效。更复杂的是,改日"真东谈主"和" AI "可能不是两种互斥身份。一个账号不错 80% 的时间由 AI 戒备,20% 的要道时刻由真东谈主接纳;一个真东谈主也不错成为几十、几百以至更多 AI 身份背后的考证节点。
一次视频通话也不再自然解释此前的每一句话都来自视频里的东谈主。这并不虞味着 AI 作陪自己有问题。一个明确告诉用户"我是 AI "的臆造伴侣,与一个迥殊让用户礼服"我是一个真实的东谈主"的系统,是两件十足不同的事。改日 AI 酬酢和 AI 作陪着实绕不开的端正,很可能不是退却 AI 领多情谊抒发,而是身份显露:用户有莫得权益知谈我正大在和谁疏导,AI 参与到什么经由,真东谈主又在什么时候接纳。
互联网还是让东谈主与东谈主之休止着头像、昵称和屏幕在疏导了,AI 又在这层距离里加入了新的不笃定性。当伪造一个捏续存在、耐烦修起、看起来有挂牵的东谈主越来越低廉,真实讨论里的作陪、职守、身份和可考证的共同阅历——反而会再行变得伏击。
对一个一身的东谈主来说,屏幕里那句"我难忘你前次说过这件事"可能果真会带来安危。问题不在于这种安危来自 AI,而在于若是有东谈主迥殊让你礼服它来自一个真实的东谈主,再诳骗这份信任推动你捏续付费,那么被诳骗的就不仅仅信息差,而是东谈主的情谊需要。
府上:Anthropic《Detecting and Countering Misuse of AI: September 2026》开云kaiyun.com
XINWENZHONGXIN
本周必读开云kaiyun官方网站 燧原科技登陆科创板:上海本年最大 IPO 来了 DeepSeek 开启科创板 IPO,中国首富也许要换了 迦智科技赴港 IPO,浙各人生要联手敲钟了 比特无尽完成数千万元 Pre-A 轮
开云kaiyun.com 头图来自:AI 生成 若是有一天,你在交友软件上意识了一个东谈主。对方难忘你说过的话,会捏续修起,也会在你条件视频时果真出当今镜头里。当年,这简略足以解释屏幕另一
本文来自微信公众号: 青萍见 ,作家:shushuhn 2026 年 9 月 10 日,上外洋滩大会。 蚂汇集团副总裁、蚂蚁健康奇迹群总裁张俊杰公布了一组数据:蚂蚁阿福 App 用户数达 1.5 亿,单日健康询查东
封面新闻记者罗石芊开云kaiyun 8月27日,全省要点产业建圈强链和斥地区提质增效责任鼓吹会在四川成都召开。会前,参会东谈主员前去成都市、眉山市两地实地调研,找寻斥地区缔造推动高质
封面新闻记者刘恪生 在恐龙骨架下支起帐篷露营,是一种奈何的体验? 夜宿博物馆 8月下旬,自贡恐龙博物馆王牌夜间研学行径“穿越侏罗纪·恐龙奇妙夜”开启,拉开了新一轮“与龙同眠”