模型推理时间异常波动

标签：模型推理时间

该话题包含 2个回复，2 人参与，最后由xiaoyang.han 更新于 1年前。

正在查看 3 个帖子：1-3 (共 3 个帖子)

作者

帖子
三月 7, 2022 10:42 上午 #237

kun.cui
参与者

调用模型推理，前几次时间偏长，单次来料的推理时间比连续来料的推理时间偏长。经检查，是GPU电源管理选项未设置为高性能导致的。

九月 6, 2022 7:33 下午 #265

kun.cui
参与者

更详细设置见帖子：

显卡驱动设置发挥 AIDI 极速推理的最快速度 – AIDI交流社区 (aqrose.com)

五月 15, 2024 6:08 下午 #286

xiaoyang.han
管理员

可以双击执行安装目录下的gpu_set_gpu_mem_clock.bat
作者

帖子

正在查看 3 个帖子：1-3 (共 3 个帖子)

哎呀，回复话题必需登录。