Programa do Curso

Introdução à otimização de modelos de grandes dimensões

  • Visão geral das arquitecturas de modelos de grandes dimensões
  • Desafios na afinação de modelos de grande dimensão
  • Importância da otimização rentável

Técnicas de treino distribuído

  • Introdução ao paralelismo de dados e modelos
  • Quadros para formação distribuída: PyTorch e TensorFlow
  • Escalonamento em múltiplos GPUs e nós

Quantização e poda de modelos

  • Compreender as técnicas de quantização
  • Aplicar a poda para reduzir o tamanho do modelo
  • Compensações entre precisão e eficiência

Otimização de hardware

  • Escolhendo o hardware certo para tarefas de ajuste fino
  • Otimização da utilização de GPU e TPU
  • Usando aceleradores especializados para modelos grandes

Eficiente Data Management

  • Estratégias para gerir grandes conjuntos de dados
  • Pré-processamento e agrupamento para desempenho
  • Técnicas de aumento de dados

Implementação de modelos optimizados

  • Técnicas de implementação de modelos optimizados
  • Monitorização e manutenção do desempenho do modelo
  • Exemplos reais de implementação de modelos optimizados

Técnicas avançadas de otimização

  • Explorando a adaptação de baixa classificação (LoRA)
  • Usando adaptadores para ajuste fino modular
  • Tendências futuras na otimização de modelos

Resumo e próximos passos

Requisitos

  • Experiência com estruturas de aprendizagem profunda como PyTorch ou TensorFlow
  • Familiaridade com modelos linguísticos de grande dimensão e respetivas aplicações
  • Compreensão dos conceitos de computação distribuída

Público-alvo

  • Engenheiros de aprendizagem automática
  • Especialistas em IA na nuvem
 21 Horas

Número de participantes


Preço por Participante

Próximas Formações Provisórias

Categorias Relacionadas