使用多线程的方法来解决
如下定义model_predict()函数为调用深度学习模型预测结果函数,返回接口列表,使用多线程的方法可以使得调用函数后释放显卡,以便在同张显卡上调用第二个深度学习模型。 具体代码如下
import multiprocessing
def model_predict(X_test
, return_dict
):
...
...
res
= predict
(X_test
)
return_dict
["res"] = res
def main():
manager
= multiprocessing
.Manager
()
return_dict
= manager
.dict()
p
= multiprocessing
.Process
(target
=model_predict
, args
=(X_test
, return_dict
))
p
.start
()
p
.join
()
res
= return_dict
["res"]
转载请注明原文地址: https://mac.8miu.com/read-488120.html