传模型和 profiler,8 分钟拿到提速方案和测试代码。基于你上传的模型、profiler 和硬件信息,生成算子融合、常量折叠等提速方案及等价性测试。不自动替换生产模型,不替代工程师决策。
上传模型与性能数据、跑在哪、用啥框架、重点优化哪几块、输入形状、能接受多大误差、测哪些输入、要什么交付、补充说明(选填)、我确认上传的模型、日志、代码真实且已脱敏;AI只给优化建议和测试代码,不自动部署、不改生产、不替代工程师判断。多数点一下就行,没选的按常见情况替你定,交付时说清哪几项是按默认的。
「帮我看看这段推理代码哪里能优化,给个报告。」
替他选了:算子融合 · 1e-4(常用) · 典型图