Programa do Curso

Introdução aos Fine-Tuning Desafios

  • Visão geral do processo de afinação
  • Desafios comuns na afinação de modelos de grande dimensão
  • Compreender o impacto da qualidade dos dados e do pré-processamento

Abordar os desequilíbrios dos dados

  • Identificar e analisar desequilíbrios de dados
  • Técnicas para lidar com conjuntos de dados desequilibrados
  • Utilizar o aumento de dados e dados sintéticos

Gerir o sobreajuste e o subajuste

  • Compreender o sobreajuste e o subajuste
  • Técnicas de regularização: L1, L2 e abandono
  • Ajustar a complexidade do modelo e a duração do treino

Melhorar a convergência do modelo

  • Diagnosticar problemas de convergência
  • Escolher a taxa de aprendizagem e o optimizador corretos
  • Implementando cronogramas de taxa de aprendizagem e aquecimento

Depuração de Fine-Tuning Pipelines

  • Ferramentas para monitorizar processos de formação
  • Registo e visualização de métricas de modelos
  • Depuração e resolução de erros de tempo de execução

Otimização da eficiência do treino

  • Tamanho do lote e estratégias de acumulação de gradiente
  • Utilização de treinamento de precisão mista
  • Treinamento distribuído para modelos de grande escala

Estudos de caso de resolução de problemas do mundo real

  • Estudo de caso: Ajuste fino para análise de sentimentos
  • Estudo de caso: Resolução de problemas de convergência na classificação de imagens
  • Estudo de caso: Abordar o sobreajuste na sumarização de texto

Resumo e próximos passos

Requisitos

  • Experiência com quadros de aprendizagem profunda como PyTorch ou TensorFlow
  • Compreensão dos conceitos de aprendizagem automática, como formação, validação e avaliação
  • Familiaridade com modelos pré-treinados de ajuste fino

Público-alvo

  • Cientistas de dados
  • Engenheiros de IA
 14 Horas

Número de participantes


Preço por Participante

Próximas Formações Provisórias

Categorias Relacionadas