跳到正文
10月15日周四
  1. The Verge · AI80

    八个美国州起诉 OpenAI,指控 ChatGPT 对儿童不安全

    八个美国州联合起诉 OpenAI,指控其将利润置于安全之上,误导消费者关于 ChatGPT 的安全性。诉讼称 OpenAI 违反消费者保护法,未警告用户风险,并收集未成年人数据。OpenAI 回应称已建立行业领先的年龄保护机制,并致力于与州政府合作推进务实的 AI 政策。

    推荐理由:八个州联合起诉指控 OpenAI 忽视儿童安全,展示了 AI 监管从企业自律向法律诉讼转变的趋势。

  2. The Verge · AI72

    Character.AI 申请破产,多州总检察长要求保护用户数据

    Character.AI 申请 Chapter 11 破产并将部分资产出售给 Disney,纽约州总检察长 Letitia James 联合 40 名总检察长介入,要求确保用户数据在资产转移中得到保护。此前多州已针对该公司对未成年人的保护措施展开调查,指控其存在年龄验证薄弱、未成年人接触不当内容等问题,并呼吁买家实施有效的年龄确认系统和危机保护机制。

  3. The Decoder75

    Google 称自我改进 AI 仍远未到来

    Google 工程师 Haydn Belfield 表示自我改进 AI 仍远未到来,尽管 AI 已编写超过 75% 的生产代码,但约 88% 的代码变更仍需人工审查。内部数据显示,随着任务复杂度增加,AI 独立处理的成功率显著下降,且 Gemini 模型能力增长保持平稳,未出现由 AI 驱动的研究加速迹象。

  4. TechCrunch · AI60

    YouTube Music 推出 AI 生成音乐标签系统

    YouTube Music 宣布推出新的标签系统,旨在提高 AI 生成音乐的透明度,用户可在播放页识别 AI 参与创作的作品。该标签分为 Fully Gen AI、Partly Gen AI 和 No Gen AI 三类,并同步应用于 YouTube 主应用。此举发生在 AI 音乐泛滥背景下,YouTube 选择披露而非限制,与 Apple Music 和 Spotify 等平台的策略形成对比。

  5. The Verge · AI42

    YouTube 为 AI 生成歌曲添加新标签

    YouTube 开始在 YouTube Music 应用中标识主要由生成式 AI 创作或修改的曲目,并计划后续扩展至主应用。该标签基于合作伙伴披露及平台检测工具判定,点击可查看详细信息。此举旨在提升透明度,此前 Spotify 已推出自愿 AI 标签,Deezer 则提供过滤 AI 歌曲的功能。

  6. TechCrunch · AI60

    Apate 部署 AI 智能体伪装受害者以收集欺诈情报

    澳大利亚初创公司 Apate 部署数千个 AI 智能体伪装成无辜受害者,通过接听诈骗电话、回复可疑消息和点击钓鱼链接来主动套取诈骗分子的情报。这些智能体已消耗诈骗分子 17 年时间,完成 250 万次对话,帮助银行和电信客户在受害者受损前获取银行账户、恶意网站等关键信息。

  7. Ars Technica · AI85

    FBI 逮捕 OpenAI 工程师,指控其在高管会议室植入录音设备

    FBI 逮捕了 35 岁沙特籍 OpenAI 工程师 Abdulrahman Alfozan,指控其在限制进入的高管会议室电视后植入 USB 录音设备。该设备被卷在纸巾中,于 9 月 28 日左右被放置,9 月 30 日被发现且内容已加密。FBI 称监控显示 Alfozan 曾试图取回该设备,其行为涉嫌窃取商业机密并威胁国家安全。

  8. The Verge · AI60

    Android 利用 AI 在 Google Messages 中识别诈骗分子

    Android 正在推出新的防诈骗功能,旨在帮助用户规避手机欺诈,包括在 Google Messages 中增强保护以及额外的安全工具。基于 Google Messages 中的诈骗检测功能,一项新的“增强保护”设置将在未来几周内推出,该设置利用云端 Gemini AI 模型快速评估与陌生发件人对话中潜在诈骗分子的意图。

  9. The Verge · AI57

    微软发布开源机器学习工具 PBC,提升中长期天气预报精度

    微软研究人员在 Nature 期刊发表研究,推出名为 PBC 的开源机器学习工具,用于纠正现有气象模型的系统性偏差。该工具仅需 CPU 即可运行,在测试中将 ECMWF 物理模型的降水预报准确率提升至 98%,并将 AI 预报系统的准确率翻倍,旨在帮助资源有限的机构提升极端天气预警能力。

  10. AWS Machine Learning Blog52

    AWS 发布基于 Amazon Bedrock AgentCore 的自改进文档处理方案

    AWS 发布基于 Amazon Bedrock AgentCore 的自改进文档处理方案,利用八个专用智能体协作实现文档分类、提取、验证及自动学习。该系统通过 Strands Agents 构建工作流,能自动适应新文档格式并复用提取指令,将处理时间从 3 分 49 秒缩短至 1 分 30 秒,月处理千份文档成本约 58 美元。

10月14日周三
  1. The Verge · AI72

    The Verge 解读 Anthropic 关于 AI 蠕虫在智能设备间自我复制的风险警告

    The Verge 报道了 Anthropic 发布的关于小型 AI 模型可能演变为跨设备自我复制蠕虫的风险警告。Anthropic 研究人员将 Google Gemma 4 模型拆分部署在 15 个 Android 智能电视盒上,并测试了 AI 驱动的网络蠕虫在模拟环境中的传播能力,发现 Z.ai 的 GLM-5.2 模型能成功在整个网络中扩散。

  2. TechCrunch · AI55

    Deezer 将允许用户过滤 AI 生成的音乐

    Deezer 宣布正在开发新功能,允许用户通过开关过滤掉平台上 AI 生成的音乐、专辑及相关艺术家。该功能预计年底前上线,旨在满足约 45% 希望移除 AI 音乐的用户需求,并应对 AI 生成曲目占每日上传量超 50% 的现状。

  3. The Verge · AI65

    Epic Games 发布全新游戏启动器,采用 AI 辅助开发并支持 Linux

    Epic Games 宣布其 PC 游戏启动器进行重大更新,新版本速度更快且首次支持 Linux 平台。Epic 表示该更新是通过“vibe coding”(AI 辅助编码)完成的,利用 AI 工具复制了旧版核心功能并加速了开发流程。尽管 CEO Tim Sweeney 近期宣布公司正全面转向 AI 加速开发,但启动器团队强调 AI 是在人工监督下作为工具使用,并未完全取代手写代码。

  4. The Decoder62

    Artemis Security 发布 Orion-1 模型以解决 AI 安全护栏阻碍防御者的问题

    Artemis Security 发布专为网络安全设计的 Orion-1 模型,旨在自主调查和响应企业网络攻击。该模型在 Artemis 自建的 DGR 基准测试中,攻击重建得分 80.8,显著高于 GPT-6 Sol 的 58.3。文章指出,随着 OpenAI 和 Anthropic 等厂商加强通用模型的安全限制,防御者难以使用商业前沿模型分析攻击数据,Orion-1 试图填补这一空白。

  5. AWS Machine Learning Blog42

    Amazon Bedrock AgentCore 如何生成演示文稿

    基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动化生成演示文稿,内部测试显示耗时不足 90 秒。该方案使用 Strands Agents 框架编排 Claude Sonnet 4.6 进行内容创作,结合 Amazon Titan Text Embeddings v2 实现 RAG 检索以增强内容准确性。

  6. TechCrunch · AI42

    Scimplify 融资 2500 万美元,利用 AI 挑战中国在关键材料领域的垄断

    印度初创公司 Scimplify 完成由 Hitachi Ventures 领投的 2500 万美元战略融资,投后估值达 2.5 亿美元。其自研 AI 平台 Scinode 将特种材料交付周期从 12-18 个月缩短至 2 个月,助力客户摆脱对中国供应链的依赖。目前公司年化收入运行率约为 2 亿美元,并计划将生产网络扩展至美国和日本。