访谈与博客美团技术团队
美团评测博客:把线上失败变成下一轮测试
美团图灵 Agent 评测团队发布方法博客,提出将线上问题回流到评测样本,同时修正智能体与评分标准。编辑观察:企业上线助手后,可为每类失败保留可复现记录,并指定修改后的检查责任人。只有系统改动和验收依据都能追溯,分数变化才更容易解释。文章提供方法框架,未披露可直接套用的投入回报数据。
正在读取资讯,请稍候…
看见全球变化,读懂企业 AI。
最近成功更新

美团图灵 Agent 评测团队发布方法博客,提出将线上问题回流到评测样本,同时修正智能体与评分标准。编辑观察:企业上线助手后,可为每类失败保留可复现记录,并指定修改后的检查责任人。只有系统改动和验收依据都能追溯,分数变化才更容易解释。文章提供方法框架,未披露可直接套用的投入回报数据。
InfoQ 采访神策数据曹犟与百度智能云何震江,讨论驻场工程师如何理解真实流程、提前划定责任,并把现场经验反馈给产品。编辑观察:企业评估这类服务时,可先查看试点范围、数据授权和验收口径是否明确,再判断驻场投入是否合适;职位名称本身无法说明交付质量,也不能替代客户内部的业务负责人。
AWS工程博客讨论多实例推理中的缓存复用:把具有相同开头的请求送往同一实例,并在实例繁忙时分流。文章同时提醒,服务框架必须启用前缀缓存,请求序列化也应保持一致。这是一份配置与测试方法说明,收益依赖共享前缀、缓存命中和实际负载。企业采用前应先做对照测量,不能把厂商测试结果视作自身延迟承诺。
AWS技术博客介绍在推理节点预先缓存模型权重与容器镜像,以减少扩容时重复下载的等待。文章区分两类缓存的调度行为,并提醒首次填充仍需下载、本地存储容量有限,原路径文件更新也不会自动刷新权重。这些条件决定了缓存能否发挥作用。企业可参考其部署流程,但应单独验证冷节点扩容和模型换版,不能据此承诺启动时间。