Hystax ha estado desarrollando OptScale, una plataforma de código abierto MLOps y FinOps. El software está completamente disponible como código fuente gratuito en página de GitHub para descarga e implementación. OptScale tiene como objetivo monitorear y optimizar los gastos, el rendimiento y las operaciones de aprendizaje automático y en la nube mediante el análisis del uso de la nube, la creación de perfiles y la instrumentación de aplicaciones, además de brindar recomendaciones valiosas para la optimización. Además, las capacidades MLOps de OptScale permiten a los equipos de ML/IA ofrecer funciones para el seguimiento de experimentos, el ajuste de hiperparámetros, la optimización del rendimiento y la gestión de costos, lo que contribuye a operaciones informáticas más agilizadas y rentables.
El siguiente artículo instructivo mostrará cómo OptScale mejora la utilización de RI/SP por parte de los equipos de ML/AI en la práctica.
Optimización del uso de RI/SP para equipos de ML/IA con OptScale
Los proyectos de aprendizaje automático (ML) e inteligencia artificial (IA) suelen aprovechar las tecnologías de la nube debido a su escalabilidad, accesibilidad y facilidad de implementación. La integración de proyectos de ML/IA con instancias reservadas (RI) y planes de ahorro (SP) de AWS puede beneficiarse de las instancias reservadas y los planes de ahorro de AWS al optimizar el ahorro de costos, la utilización de recursos y el rendimiento para diversos casos de uso que van desde el entrenamiento y la inferencia de modelos hasta el procesamiento de datos en tiempo real y el análisis de big data.
Las instancias reservadas de Amazon EC2 permiten que su organización se comprometa con los parámetros de uso al momento de la compra para lograr una tarifa por hora más baja.
Es esencial para las cargas de trabajo de ML/IA, ya que el entrenamiento y el ajuste de hiperparámetros se lanzan constantemente en los mismos tipos de instancias. Los tipos de instancias consistentes ayudan a garantizar la reproducibilidad de los resultados. Si se utilizan los mismos tipos de instancias en diferentes ejecuciones de experimentos, se minimizan las posibilidades de variaciones debido a las diferencias de hardware. Además, al utilizar los mismos tipos de instancias, puede optimizar la utilización de recursos de manera más eficaz y producir una comparación justa entre diferentes modelos o configuraciones de hiperparámetros.
Si puede pronosticar su uso garantizado y utilizar las recomendaciones de OptScale para un mejor uso de RI/SP, puede ahorrar un porcentaje de dos dígitos (a veces hasta el 72 por ciento, ¡increíble!) de su gasto mensual en la nube. Esto genera más innovación y experimentos que puede ejecutar con el mismo presupuesto.
OptScale ofrece varias funciones diseñadas para este propósito. Veamos algunas de ellas.
¿Cómo ver la cobertura RI/SP?
Vaya a la pestaña 'Recomendaciones' de la solución. Busque la tarjeta resumen en 'Ver cobertura RI/SP'. Muestra la cantidad de dinero ahorrado con compromisos durante los últimos 30 días y el porcentaje de gastos calculados cubiertos con compromisos. Haga clic en ella para obtener información detallada.
La página 'Cobertura RI/SP' muestra dos desgloses por uso y gastos. Puede filtrar los datos de salida por fuentes de datos y/o rango de fechas. Pase el cursor sobre la columna de datos del gráfico y aparecerá información detallada.
El desglose del uso muestra el porcentaje de cómputo cubierto por las instancias reservadas y los planes de ahorro. El uso no cubierto muestra su oportunidad de ahorrar si compra más instancias reservadas o planes de ahorro.
El desglose de gastos muestra la cantidad de computación cubierta por instancias reservadas y planes de ahorro. Active "Mostrar ahorros" para ver sus ahorros en comparación con los gastos proyectados sin RI/SP. Los gastos no cubiertos son su oportunidad de ahorrar si compra más RI o SP.
La información proporcionada en los diagramas se muestra en la siguiente tabla. La información de cada fuente de datos se muestra por separado y resumida.
Optimización gratuita de los costos de la nube. De por vida
¿Cómo obtener recomendaciones de OptScale para un uso óptimo de RI/SP?
Vaya a la tarjeta "Oportunidades de instancias reservadas" en la página "Recomendaciones" para obtener recomendaciones tangibles de OptScale para un uso óptimo de RI/SP. La solución OptScale muestra las instancias activas detectadas como consumidores de cómputo sostenibles (durante más de 90 días) pero que no han sido cubiertas con instancias de investigación o planes de ahorro.
La tarjeta muestra el monto total de ahorro y una lista de artículos con ahorro máximo. A continuación, se incluye un enlace a todos los artículos encontrados.
Siga el enlace "Ver todos los artículos" para ver las oportunidades de ahorro con un compromiso mínimo y los ahorros con un compromiso promedio para cada artículo. Los artículos activos, descartados y excluidos se encuentran separados en pestañas.
Para ver información detallada sobre un artículo, haga clic en él aquí o en la tarjeta 'Oportunidades de Instancias Reservadas'.
Encontrará los gastos totales, los gastos del mes actual, la previsión del mes actual, el tráfico total de red paga y las posibles tarjetas de ahorro mensuales. Para mayor comodidad, la información sobre el artículo se agrupa en pestañas. Encuentre sus oportunidades de ahorro en la pestaña "Recomendaciones" o haga clic en la tarjeta "Posibles ahorros de dinero" para acceder a ellas.
Al hacer clic, accederá a la pestaña "Recomendaciones". Esta pestaña contiene una lista de oportunidades de ahorro.
Proyecto OptScale en Github: https://github.com/hystax/optscale
Apreciaríamos si nos dieras una estrella.
