GPT中文小秘书挑几下就能开工
我积分

整理压缩前后精度和耗时对比表

关于「整理压缩前后精度和耗时对比表」：能拿到什么、要点选什么、怎么办

两类对比表，精度变化和加速比自动算。模型压缩优化后的效果对比，是把优化前后评估结果和压测记录整理成精度对比表与推理耗时对比表；在 GPT中文网点选几项，能直接拿到两份对比表。

能拿到什么

  • 推荐：精度对比表与推理耗时对比表（两个工作表，逐指标列优化前后值、变化量，逐批列 P50/P99 和加速比。）

要你点选的几项

优化类型、推理框架、上传评估结果、上传压测记录、要对比的指标、对比时延指标、压测批大小、精度容忍阈值(%)、补充信息。多数点一下就行，没选的按常见情况替你定，交付时说清哪几项是按默认的。

怎么办

  1. 上传优化前后评估结果和压测记录。
  2. 勾选要对比的指标和时延统计口径。
  3. 程序按统一口径算出精度变化和加速比。
  4. 核对阈值内精度下降是否能接受。
  5. 导出精度对比表和推理耗时对比表。

别人还这样说

  • 量化后的评估结果和压测数据给你，出一份精度变化和加速比表。
  • 把原模型和新模型的 P50、P99 时延对比一下，看加速多少。
直接说你要办的事。下面是别人怎么办的，点任何一项就换成你自己的。左边是别人怎么办的，右边是你的，点一项就开始改。
示范 · 别人这样说

「帮我把优化前后模型的精度和耗时整理成两张对比表。」

按示范选好的 点一项就变成你的

你的成品会在这里出现
示例成品 · 不是你的按示范写的，看个样子
示例：模型压缩前后对比表（数据为示意） 一、精度对比表 指标 | 优化前 | 优化后 | 变化量 | 是否超阈值 Top-1 准确率(%) | 78.42 | 77.86 | -0.56 | 否 Top-5 准确率(%) | 93.10 | 92.87 | -0.23 | 否 mAP(%) | 41.25 | 40.88 | -0.37 | 否 F1 | 0.842 | 0.836 | -0.006 | 否 阈值设定：精度下降不超过 1.0 个百分点。 二、推理耗时对比表 批大小 | 指标 | 优化前(ms) | 优化后(ms) | 加速比 1 | P50 | 42.3 | 18.6 | 2.27 1 | P99 | 58.7 | 27.4 | 2.14 8 | P50 | 210.5 | 96.2 | 2.19 8 | P99 | 265.8 | 128.9 | 2.06 16 | P50 | 402.1 | 185.4 | 2.17 16 | P99 | 487.3 | 236.5 | 2.06 三、结论摘要 优化后 Top-1 准确率下降 0.56 个百分点，在 1.0 阈值内，可接受。 批大小 1 时 P50 加速 2.27 倍，批大小 8 时加速 2.19 倍，时延改善明显。 P99 与 P50 差距收窄，尾时延稳定性提升。 备注：硬件为某某 GPU、输入尺寸 224×224，压测在同环境下完成。

GPT中文 也可能出错，成品请自己核对关键数字和事实。条款 · 隐私