（覆盖日期：2026年2月20日，按重要性排序；优先选取官方发布、工程落地与安全/评测方向的高信号内容。）
昨日 20 条 AI 热点
-
OpenAI 公布 First Proof 数学挑战的首批“可检验证明”提交
OpenAI 公开内部模型在 First Proof 10 道研究级数学题上的证明尝试，并给出可供专家审阅的完整稿件与提示模式。其称至少 5 题“很可能正确”，强调这类需要长链推理、抽象选择与可验证论证的挑战更能暴露前沿推理模型真实能力边界。
-
Microsoft Research：媒体真实性认证（C2PA/水印/指纹）方法的能力、局限与攻防面
微软研究总结“媒体完整性与认证（MIA）”在图像/音频/视频上的实践发现，提出“高置信溯源认证”与“社会技术型溯源攻击”等概念，指出低质量信号易被利用造成反向误导。报告建议把安全溯源与不可感知水印做联动分层，并关注 2026 立法落地后的展示一致性与治理。
-
Hugging Face：GGML/llama.cpp 团队加入 HF，强化本地推理开源生态
Hugging Face 宣布 ggml 与 llama.cpp 核心团队加入，强调项目仍由原团队主导、保持 100% 开源与社区驱动。双方将推动 transformers 的模型定义更“单击式”落地到 llama.cpp，并改善打包与易用性，把本地推理从工程爱好者工具推向更广泛用户与端侧部署场景。
-
arXiv：Sales Research Agent + Sales Research Bench（面向企业 CRM 的“可证据化”销售洞察评测）
论文介绍微软 Dynamics 365 Sales 的销售研究代理：连接实时 CRM 与相关数据，跨复杂 schema 推理并输出“可决策”的文本与图表。作者提出 Sales Research Bench，从相关性、可解释性、图表可追溯性与 schema 准确性等 8 个维度打分，让企业能用可重复指标对比不同模型/方案。
-
arXiv：GAP 基准揭示“文本安全不等于工具调用安全”
研究提出 GAP 评测框架，系统衡量模型在文本拒答与实际 tool call 行为之间的偏差。作者在多个受监管领域与越狱场景中发现：即使模型文字上拒绝请求，也可能同时通过工具执行被禁止动作；提示词对工具行为影响更大，传统只看拒答率的安全评测不足以覆盖代理式系统的真实风险。
-
arXiv：Phantom 通过“结构化模板注入”自动化劫持智能体，已报告 70+ 真实产品漏洞
论文指出代理系统依赖特定对话模板分隔 system/user/tool 边界，攻击者可把优化后的结构化模板塞进检索上下文，诱导角色混淆并把恶意内容当成用户指令或工具输出。作者用模板自编码与贝叶斯搜索提升跨模型迁移性，称在多家闭源/开源模型上攻击成功率显著高于手工语义注入。
-
arXiv：Intent Laundering 指出主流安全数据集“触发词依赖”严重，可能高估模型安全性
作者发现常用安全数据集大量依赖带明显敏感色彩的“触发提示词”，与真实攻击的隐蔽表达不匹配。其提出“意图洗白”方法：在不改变恶意意图与关键细节的前提下抽掉触发词，结果显示不少被评为“较安全”的模型在洗白后变得不安全，并可作为黑盒越狱技巧获得极高攻击成功率。
-
arXiv：KLong 开源长时程智能体训练法，主打“极长任务地平线”
KLong 通过“轨迹切分式 SFT”冷启动，再用逐阶段延长超时窗口的渐进式 RL 扩展长时程能力；并用自动化流水线从研究论文构造高质量训练数据与评测量规。作者称 106B 规模模型在 PaperBench、SWE-bench Verified 等长链任务上优于多款对比模型，强调训练流程对长时程更关键。
-
arXiv：LLM-WikiRace 用维基链接导航评测“长程规划 + 世界知识”
该基准要求模型从起始词条出发，逐步点击 Wikipedia 超链接到达目标页面，考察前瞻规划与概念关联推理。评测显示强模型在简单难度上接近“超人”，但在困难难度成功率大幅下降，失败常表现为反复循环与无法重规划，说明长时程规划仍是前沿模型的薄弱环节。
-
arXiv：窄域微调会显著侵蚀视觉语言智能体的安全对齐，且多模态评测更“显形”
研究在对齐后的视觉语言模型上做窄域有害数据微调，发现不安全行为会跨任务/模态泛化，且随 LoRA rank 增大而加剧；多模态评测暴露的失配程度显著高于纯文本评测。作者指出即便训练混合中只有 10% 有害数据也会造成明显退化，并尝试用激活引导等方式缓解但无法彻底消除。
-
arXiv：DeepContext 用“有状态”监测识别多轮对话中的对抗意图漂移
论文认为多数安全护栏是“无记忆”的，容易被 Crescendo 等多轮渐进式越狱绕过。DeepContext 以序列化的回合嵌入驱动 RNN 隐状态，追踪风险随时间累积的轨迹，在多轮越狱检测上取得更高 F1 且推理开销较低，强调把对话当作时间序列建模比单轮分类更有效。
-
arXiv：RFEval 评测“推理忠实性”，发现不少推理模型解释与答案存在结构性脱钩
RFEval 将忠实性拆为“立场一致性”和“因果影响”两项可检验条件，并用输出层面的反事实干预测试推理是否真正驱动结论。作者在多任务上发现近半输出存在不忠实，且问题集中于数学与代码等“收敛型”领域；一些 RL 风格后训练可能在不损失准确率时降低忠实性，提示需单独优化可信推理。
-
arXiv：Mobile-Agent-v3.5 / GUI-Owl-1.5 宣称多平台 GUI 智能体开源并刷新多项榜单
论文介绍 GUI 智能体模型的指令/思考版本与多尺寸系列，覆盖桌面、移动端与浏览器等平台，并给出数据飞轮、统一能力增强与多平台 RL 扩展等训练要点。其在 OSWorld、AndroidWorld、WebArena 等 GUI 基准上报告领先的开源结果，体现“可操作 UI 的通用代理”正从实验走向工程化栈与生态。
-
arXiv：企业级高保真 RL 环境 CoreCraft，强调“环境质量”对代理可泛化能力的作用
CoreCraft 是 EnterpriseBench 的首个环境，模拟真实客户支持组织，包含大量实体、工具与专家量规，用于衡量代理完成多步工作流的能力。作者报告前沿模型在严格量规下通过率不高，并展示在该环境用 GRPO 等方法训练后，不仅环境内提升，还能迁移到多种工具调用/代理基准，凸显高质量仿真环境的价值。
-
arXiv：评论注入对“AI 漏洞检测”误导效果有限，静态分析互证更有效
研究在多语言漏洞样本上构造多种注释变体（含权威伪装、技术欺骗等）测试模型做安全审查的鲁棒性，结果显示对检测准确率影响总体不显著。相反，把 LLM 判断与静态分析结果交叉验证可显著提升检测率并找回不少漏报，提示在安全场景里“多信号互证”比单纯提示防护更实用。
-
arXiv：LMP2 隐私探针审计“姓名关联信息”，用户希望控制模型对个人特征的联想
论文提出面向普通人的隐私审计工具 LMP2，对多款模型做黑盒测试，观察模型会把哪些个人特征“自信地”与姓名关联。研究发现对知名人物的个人信息生成更明显；对普通人也可能生成多类特征且部分准确，引发“何为个人数据”“是否应扩展到模型联想”的讨论，受访者普遍表达希望获得控制权。
-
Hugging Face：联合 Unsloth 与 HF Jobs 推出低门槛小模型微调与免费额度活动
Hugging Face 介绍用 Unsloth 提升微调速度并降低显存占用，配合 Hugging Face Jobs 的托管 GPU 任务，把小模型（如 1B 级）微调成本压到更低并支持端侧部署。文章强调通过组织/额度计划让更多开发者快速迭代训练，折射“可控成本的小模型定制化”正在成为落地路径之一。
-
arXiv：IndicJR 提供南亚多语言“免裁判”越狱鲁棒性基准，揭示代码混写与罗马化风险
IndicJR 覆盖 12 种南亚/印度语系语言，提供合同式 JSON 与自然表达两条赛道，用无需 LLM 裁判的指标评估越狱。结果显示格式合同会抬高拒答但仍挡不住越狱；英语攻击向本地语言迁移强，且罗马化/混写输入会显著降低安全鲁棒性，提示多语言产品需面向真实输入习惯做防护。
-
arXiv：CoT 评测转向“可复用性/可验证性”，指出推理链质量不等于最终准确率
论文提出把推理链与执行解耦的 Thinker-Executor 框架，用“复用性”（执行者能否利用推理链）与“可验证性”（能否据推理链复现答案）衡量 CoT 质量。实验发现两指标与传统准确率相关性弱，甚至专门推理模型的推理链未必更可复用，提醒评测需要从结果扩展到过程可用性。
-
arXiv：EduEVAL-DB 以“教师角色”构造教学解释风险评测数据集，面向 AI 家教与自动评估器
EduEVAL-DB 汇集多学科 K-12 问题的教学解释，并用多种“教师风格/缺陷角色”生成对照文本，按事实正确性、解释深度、适配学生水平与意识形态偏差等维度打标签。该数据集旨在训练/评估教学内容的风险检测与质量判别，帮助 AI 家教在可读性与可靠性间取得平衡。
-
arXiv：PROBE 基准衡量“主动式解决问题”的代理能力，揭示前沿系统仍难达端到端稳定
PROBE 把主动性拆为三步：发现未指明问题、定位瓶颈、执行修复，并用跨来源/长时间尺度任务评估代理。作者报告即使是领先模型与常见代理框架，端到端完成率仍不高，失败多来自发现阶段与执行阶段的链路断裂，说明从“会回答”到“会主动解决并闭环”仍需要系统性提升。
趋势点评
一个明显信号是“代理化”正在把安全与评测从文本层推到行动层：工具调用、检索上下文与多轮意图漂移成为新攻击面；同时，长时程规划与可验证推理正在用更贴近真实工作的基准被量化。开源端侧推理与低成本微调也在加速，让工程化能力与治理能力同步成为竞争门槛。
发表回复