OpenAI 如何保障前沿模型训练环境安全
OpenAI 说明了为前沿模型训练与评估加强隔离的具体做法,包括离线环境和红队测试。红队测试针对高算力场景展开,训练与评估环境均采用离线隔离以强化安全边界。
OpenAI 说明了为前沿模型训练与评估加强隔离的具体做法,包括离线环境和红队测试。红队测试针对高算力场景展开,训练与评估环境均采用离线隔离以强化安全边界。
OpenAI 与波兰 NASK 建立合作,聚焦 AI 安全、保障与技术研究,以强化防护措施并支持更具韧性的数字生态。
微软研究院播客对话 Catalyst Lab 负责人 Chris White,回顾他从 DARPA 项目博士后到阿富汗前线先进技术负责人、再到暗网搜索工具开发者的经历。节目探讨了问题选择在创新中的作用,以及他在目睹人性阴暗面后仍保持希望的原因。
Google DeepMind 与新加坡政府科技局(GovTech Singapore)合作,基于轻量级 Gemma 模型微调出一个隐私保护的端侧诈骗检测模型。
Google DeepMind 开始广泛推送 Gemini 4 Argon,并同步发布安全与安保报告,说明其在高风险领域的防护措施。该模型在 12 个端到端模拟网络攻击场景中全部通关,上一代为 5 个;在对抗测试集上违规率降低近两倍。
推荐理由:原文披露了 Gemini 4 Argon 在网络安全与生物风险上的防护设计,以及智能体越界行为的监控数据。
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,并称可让可拦截的密钥数量增加一倍以上。
Google DeepMind 发布前沿模型 Gemini 4 Argon,先通过 Fairwind Program 向受信任的网络安全防御方开放,之后再逐步扩展到开发者、企业和消费者。
推荐理由:官方披露了 Argon 在内部代码迁移、漏洞发现等任务上的具体案例与基准成绩,可据此判断前沿模型在长周期工程任务中的实际位置。