Microsoft nos presenta un caso de uso con ONNX Runtime

Microsoft nos presenta un caso de uso con ONNX Runtime

Microsoft nos muestra un caso de uso de negocio donde presentan su modelo de inferencias de Machine Learning, ONNX Runtime.

Este acelerador de aprendizaje automático Open Source (Licencia MIT), permite trabajar tanto con PyTorch como con TensorFlow/Keras; y librerías como scikit-learn, LightGBM, XGBoost, entre otras.

El caso de uso de negocio que muestran, es para uno de sus clientes de tecnología SaaS, Hypefactors. En hardware utilizan infraestructura de NVIDIA, en particular su servidor de inferencia Tritón, el framework FastAPI (python) sobre Kubernetes, y DJL para los modelos de aprendizaje profundo.

Enriquecedor artículo para conocer mas de estas herramientas de Microsoft.

 

Comments are closed