跳到正文

技术方向

数据与训练 最新动态

训练侧的门道:数据集构建、合成数据、预训练与后训练方法、算力与训练成本。

3 条精选近 30 天 2 条共收录 21 条

更新

数据与训练的精选

11月3日周二第 1–3 条
  1. AWS Machine Learning Blog72

    在 Amazon SageMaker AI 上使用知识蒸馏构建高效智能体

    AWS 团队演示了如何利用序列级知识蒸馏(SeqKD)在 Amazon SageMaker AI 上微调小型购物智能体。该方法使用 Amazon Bedrock 上的 GLM-5.3 作为教师模型生成多步轨迹,并通过 ShoppingBench 评分器筛选成功样本,对 Qwen3.5-4B 学生模型进行 LoRA 微调。

    推荐理由:文章提供了在 Amazon SageMaker AI 上通过序列级知识蒸馏将前沿模型行为迁移至小模型的具体流程与代码示例。

10月31日周六
10月8日周四
  1. Microsoft Research80

    Microsoft Research 发布 Agent Lightning v1.0 轻量级智能体强化学习框架

    Microsoft Research 发布 Agent Lightning v1.0,这是一个约 3500 行代码的轻量级智能体强化学习框架,支持在真实部署环境中直接进行训练。

    推荐理由:原文展示了利用真实 Agent 框架进行强化学习训练的方法,并给出了在 SWE-bench Verified 上提升 14.6 个百分点的具体实验数据。