A Hystax vem desenvolvendo o OptScale, uma plataforma de código aberto MLOps & FinOps. O software está totalmente disponível como um código fonte gratuito no página GitHub para download e implantação. O OptScale visa monitorar e otimizar despesas de nuvem, desempenho e operações de aprendizado de máquina e nuvem analisando o uso da nuvem, criação de perfil e instrumentação de aplicativos, além de fornecer recomendações valiosas para otimização. Além disso, os recursos de MLOps do OptScale habilitam equipes de ML/IA oferecendo recursos para rastreamento de experimentos, ajuste de hiperparâmetros, otimização de desempenho e gerenciamento de custos, contribuindo para operações de computação mais simplificadas e econômicas.
O artigo de instruções abaixo mostrará como o OptScale aprimora a utilização de RI/SP por equipes de ML/IA na prática.
Otimizando a utilização de RI/SP para equipes de ML/IA com OptScale
Projetos de Machine Learning (ML) e Inteligência Artificial (IA) geralmente alavancam tecnologias de nuvem devido à sua escalabilidade, acessibilidade e facilidade de implantação. Integrar projetos de ML/IA com AWS Reserved Instances (RIs) e Savings Plans (SPs) pode se beneficiar de AWS Reserved Instances e Savings Plans ao otimizar economias de custo, utilização de recursos e desempenho para vários casos de uso que vão desde treinamento de modelo e inferência até processamento de dados em tempo real e análise de big data.
As instâncias reservadas do Amazon EC2 permitem que sua organização se comprometa com os parâmetros de uso na compra para atingir uma taxa horária mais baixa.
É essencial para cargas de trabalho de ML/IA, pois o treinamento e o ajuste de hiperparâmetros são constantemente iniciados nos mesmos tipos de instância. Tipos de instância consistentes ajudam a garantir a reprodutibilidade dos resultados. Se os mesmos tipos de instância forem usados em diferentes execuções de experimentos, as chances de variações devido a diferenças de hardware serão minimizadas. Além disso, ao usar os mesmos tipos de instância, você pode otimizar a utilização de recursos de forma mais eficaz e produzir uma comparação justa entre diferentes modelos ou configurações de hiperparâmetros.
Se você puder prever seu uso garantido e utilizar as recomendações do OptScale para melhor uso de RI/SP, você pode economizar uma porcentagem de dois dígitos (às vezes até 72 por cento – uau!!!) do seu gasto mensal com nuvem. Isso leva a mais inovação e experimentos que você pode executar dentro do mesmo orçamento.
O OptScale oferece vários recursos adaptados para esse propósito. Vamos dar uma olhada em alguns deles.
Como ver a cobertura RI/SP?
Vá para a aba 'Recomendações' da solução. Encontre o cartão de resumo em 'Ver cobertura RI/SP'. Ele mostra a quantia de dinheiro economizada com compromissos nos últimos 30 dias e a porcentagem de despesas computadas cobertas com compromissos. Clique nele para obter informações detalhadas.
A página 'Cobertura RI/SP' mostra duas divisões por uso e despesas. Você pode filtrar a saída de dados por fontes de dados e/ou intervalo de datas. Passe o cursor sobre a coluna de dados do gráfico, e informações detalhadas aparecerão.
O detalhamento de uso mostra a porcentagem de computação coberta por Instâncias Reservadas e Planos de Economia. O uso descoberto mostra sua oportunidade de economizar se você comprar mais RI ou SP.
O detalhamento de despesas mostra a quantidade de computação coberta por Instâncias Reservadas e Planos de Economia. Ative "Mostrar Economia" para ver sua Economia em comparação com as despesas projetadas sem RI/SP. Despesas não cobertas são sua oportunidade de economizar se você comprar mais RI ou SP.
As informações fornecidas nos diagramas são mostradas na tabela abaixo. As informações para cada fonte de dados são exibidas separadamente e resumidas.
Otimização de custo de nuvem gratuita. Vida
Como obter recomendações do OptScale para uso ideal de RI/SP?
Vá para o cartão 'Reserved Instances opportunities' na página 'Recommendations' para obter recomendações tangíveis da OptScale para uso ideal de RI/SP. A solução OptScale mostra instâncias ativas detectadas como consumidores de computação sustentáveis (por mais de 90 dias), mas que não foram cobertas com Research Instances ou Savings Plans.
O cartão mostra o valor total da economia e uma lista de itens com economia máxima. Abaixo está um link para todos os itens encontrados.
Siga o link 'Ver todos os itens' para visualizar as oportunidades de economia com comprometimento mínimo e economia com comprometimento médio para cada item. Itens ativos, descartados e excluídos são separados em abas.
Para visualizar informações detalhadas sobre um item, clique nele aqui ou no cartão "Oportunidades de Instâncias Reservadas".
Você encontrará despesas totais, as despesas do mês atual, a previsão do mês atual, tráfego total de rede pago e possíveis cartões de economia mensal. Para sua conveniência, as informações sobre o item são agrupadas em abas. Encontre suas oportunidades de economia na aba 'Recomendações' ou clique no cartão 'Possíveis economias de dinheiro' para chegar lá.
Ao clicar, você será levado para a aba 'Recomendações'. Esta aba contém uma lista de oportunidades de economia.
Projeto OptScale Github: https://github.com/hystax/optscale
Agradeceríamos se você nos desse uma estrela.