请问大漠AI调用接口延迟太高了怎么解决

超级无敌暴龙 · 发表于 2024-1-9 16:17:55

直接识别一次要两千多毫秒，置信度已经0.9了，继续训练要触发早停了。
最初我也碰到过这个问题，但是当时是不知道为啥训练到一半中途中断而且训练成功，然后去调用接口就是这么高的延迟，重新完整的训练过后就好了
但这次无论怎么训练都是这么高的延迟是咋回事呢大佬们

shixiansheng · 发表于 2024-1-9 16:17:56

超级无敌暴龙发表于 2024-1-9 16:31
CPU甚至没超过10%，但确实又在识别，就是延迟非常高，这是啥情况呢大佬

你的模型有少图片，我做测试的时候图片少，识别大概在200毫秒左右的速度

补充内容 (2024-1-9 17:37):
你本地的环境配置版本发一下，使用的那个模型进行训练的。这东西我实际没后使用过，只是做过测试，效果还行，但是吃cpu严重，不能多窗口

大兔崽子 · 发表于 2024-1-9 16:21:50

大漠AI是什么....没接触过

shixiansheng · 发表于 2024-1-9 16:25:43

大漠不支持gpu加速，使用的是cpu你识别的时候看看是不是cpu占用过高？降低识别频率是否能解决问题？

超级无敌暴龙 · 发表于 2024-1-9 16:31:35

shixiansheng 发表于 2024-1-9 16:25
大漠不支持gpu加速，使用的是cpu你识别的时候看看是不是cpu占用过高？降低识别频率是否能解决问题？ ...

CPU甚至没超过10%，但确实又在识别，就是延迟非常高，这是啥情况呢大佬

287710971 · 发表于 2024-1-9 19:00:36

这个是有办法的,首先你得有个过得去的处理器,然后显卡用2000系列比如2060以上的显卡,对于polo训练是有很强的加速的

287710971 · 发表于 2024-1-9 19:01:06

除了这两个条件,win11系统还必须,这样子才会大大加速

超级无敌暴龙 · 发表于 2024-1-9 22:55:24

大佬们已经解决了哈哈

扯谈i · 发表于 2024-1-9 23:04:21

超级无敌暴龙发表于 2024-1-9 22:55
大佬们已经解决了哈哈

咋解决的

超级无敌暴龙 · 发表于 2024-4-24 11:52:05

扯谈i 发表于 2024-1-9 23:04
咋解决的

其实就是我脑抽把加载模型的那句代码放在了循环里，所以每一次循环都要加载一边模型，所以才那么慢

		自动登录	找回密码
密码			注册

[完成] 请问大漠AI调用接口延迟太高了怎么解决