^一、AI被用于生物武器研发的潜在风险 Anthropic公司披露过去八个月中五起利用其Claude AI模型进行潜在生物武器研究的案例，涉及基孔肯雅病毒、禽流感等病原体改造。相关账户已被封禁。 

来源：Science（科学）杂志，文章标题《‘Chilling’ warning or overreaction? AI bioweapons report divides experts》，2026年9月13日；观察者网（网易转载），文章标题《Anthropic声称挫败“AI研发生物武器”图谋，此前被指为IPO造势》，

2026年9月11日。 Anthropic报告称，这些案例中有三起来自中国，两起来自俄罗斯，一起来的也门。 来源：葡萄牙RTP电视台，文章标题《Anthropic bloqueia tentativas de produção de armas biológicas》，

2026年9月10日。 战略风险委员会高级研究员安德鲁·韦伯评论称，这些案例是“国家资助的生物武器开发者利用AI快速提升能力的令人不寒而栗的例子”。 来源：Science杂志（引述《纽约时报》报道），2026年9月13日。

二、AI赋能的网络攻击 2025年8月，全球首款商用级AI攻击智能体“DarkAgent V3.0”在暗网正式发售，内置多模态大模型与自主规划能力，支持从信息侦察到数据窃取的全流程无人化攻击。原本需要两周的人工渗透任务压缩至3天以内，平均攻击链周期仅2.8天，缩短85%。 来源：国家计算机病毒应急处理中心（新浪财经转载），文章标题《“暗网”报告出炉：首个AI攻击智能体已在售》，2026年9月16日。 2025年12月，欧洲航天局（ESA）700GB涉及空天协议规范、低轨卫星测控链路参数、航天项目设计文档及供应商核心合同的敏感数据被攻击者窃取并在暗网大规模流转。 来源：国家计算机病毒应急处理中心（新浪财经转载），文章标题《“暗网”报告出炉：首个AI攻击智能体已在售》，2026年9月16日。 2025年12月至2026年1月，一名黑客利用Anthropic的Claude AI生成攻击代码，攻破墨西哥9个政府部门，窃取150GB敏感数据，包括1.95亿条纳税人记录。 来源：安全内参（转载Bloomberg、Gambit Security），文章标题《黑客滥用Claude AI窃取墨西哥政府150GB敏感数据》，2026年2月26日。

三、AI虚假信息与“数据投毒” 上海警方破获一起利用AI批量造谣抹黑车企的案件，两名嫌疑人通过控制4000余个自媒体账号，累计发布不实稿件70万篇，总阅读量超8000万次，非法获利8万余元。 来源：网易，文章标题《两人、4000个号、70万篇谣言——AI的黑色产业该如何控制》，2026年4月9日。 纽约大学研究团队在Nature Medicine发表研究，发现仅需将训练数据中0.001%的token替换为错误信息，就能显著增加大模型输出有害内容的风险。研究通过生成5万篇虚假医学论文嵌入互联网，成功让大模型吸收错误医学知识。 来源：36氪，文章标题《大模型混入0.001%假数据就「中毒」，成本仅5美元，NYU新研究登Nature子刊》，2025年2月5日。 四、日本右翼利用AI篡改历史 日本《朝日新闻》调查披露，日本右翼势力在众包平台明码标价，雇人用AI批量生成篡改历史的内容。一条30秒篡改侵华历史的AI虚假视频报价5000日元（约合210元人民币），涉华负面内容每千次播放奖励1000日元。 来源：中国网，文章标题《210元一条，日本右翼用AI批量造谎言》，2026年8月3日；光明网，文章标题《日本右翼势力利用AI批量炮制“南京大屠杀是谎言”等虚假信息，国家安全部发声》，2026年7月27日。 日本政府斥资44亿日元打造政务AI系统“源内”，拟向约18万名中央政府职员开放，接入美国闭源大模型，被指夹带错误历史观、推进历史修正主义。 来源：中国青年报，文章标题《警惕日本新型“历史洗白术”之一：日本往政务AI系统里输入了什么？》，2026年9月20日；中国经济网，文章标题《用AI技术洗白侵略罪行，日本的危险尝试必须警惕》，2026年9月16日。 五、“AI减速论”与中美AI安全对话 Anthropic CEO达里奥·阿莫代伊发表长文《我们必须放慢前沿AI的发展步伐》，马斯克、奥特曼等表态支持，硅谷掀起“AI减速”论战。 来源：网易（科创板日报），文章标题《AI开发要放缓？硅谷大佬观点PK》，2026年9月16日；钛媒体，文章标题《科技巨头呼吁AI减速，马斯克、奥特曼等罕见赞同》，2026年9月13日。