OpenAI 推理加速器 Jalapeño 逐步走向部署

OpenAI 公布了其推理加速器 Jalapeño 的首批结果，该芯片专为低延迟 Agent 工作负载设计，计划在年底前部署到自家基础设施中。AI 参与了电路设计和内核编程，系统架构让提示处理与 token 生成紧密耦合——这说明推理成本与延迟正在成为继训练算力之后的下一个基础设施战场。