Programa do Curso
Introdução à otimização e implementação de modelos
- Visão geral dos modelos DeepSeek e desafios de implantação
- Compreender a eficiência do modelo: velocidade vs. precisão
- Principais métricas de desempenho para modelos de IA
Otimização de modelos DeepSeek para desempenho
- Técnicas para reduzir a latência da inferência
- Quantização de modelos e estratégias de poda
- Utilização de bibliotecas optimizadas para modelos DeepSeek
Implementação de MLOps para modelos DeepSeek
- Controlo de versões e rastreio de modelos
- Automatizando o retreinamento e a implantação do modelo
- Pipelines de CI/CD para aplicações de IA
Implantação de modelos DeepSeek em ambientes na nuvem e no local
- Escolhendo a infraestrutura certa para implantação
- Implantando com Docker e Kubernetes
- Gerenciando o acesso e a autenticação da API
Dimensionamento e monitoramento de implantações de IA
- Estratégias de balanceamento de carga para serviços de IA
- Monitorando a deriva do modelo e a degradação do desempenho
- Implementar o dimensionamento automático para aplicativos de IA
Garantir a segurança e a conformidade em implantações de IA
- Gerenciando a privacidade de dados em fluxos de trabalho de IA
- Conformidade com os regulamentos empresariais de IA
- Práticas recomendadas para implantações seguras de IA
Tendências futuras e estratégias de otimização de IA
- Avanços nas técnicas de otimização de modelos de IA
- Tendências emergentes em MLOps e infra-estruturas de IA
- Criação de um roteiro de implantação de IA
Resumo e próximos passos
Requisitos
- Experiência com a implantação de modelos de IA e infra-estruturas de nuvem
- Proficiência numa linguagem de programação (por exemplo, Python, Java, C++)
- Compreensão de MLOps e otimização do desempenho do modelo
Público
- Engenheiros de IA que otimizam e implantam modelos DeepSeek
- Cientistas de dados trabalhando no ajuste de desempenho de IA
- Especialistas em aprendizado de máquina gerenciando sistemas de IA baseados em nuvem
Declaração de Clientes (2)
the ML ecosystem not only MLFlow but Optuna, hyperops, docker , docker-compose
Guillaume GAUTIER - OLEA MEDICAL
Curso - MLflow
I enjoyed participating in the Kubeflow training, which was held remotely. This training allowed me to consolidate my knowledge for AWS services, K8s, all the devOps tools around Kubeflow which are the necessary bases to properly tackle the subject. I wanted to thank Malawski Marcin for his patience and professionalism for training and advice on best practices. Malawski approaches the subject from different angles, different deployment tools Ansible, EKS kubectl, Terraform. Now I am definitely convinced that I am going into the right field of application.