Programa do Curso

Introdução aos transformadores generativos pré-treinados (GPT)

  • Evolução dos modelos de linguagem em PNL
  • Introdução à GPT e sua importância
  • Casos de uso e aplicações dos modelos GPT

Compreender a arquitetura e a formação de GPT

  • Arquitetura do transformador e mecanismo de auto-atenção
  • Pré-treino e afinação dos modelos GPT
  • Aprendizagem por transferência e adaptação ao domínio com GPT

Explorar a GPT-3

  • Visão geral da arquitetura e das características da GPT-3
  • Compreender as capacidades e limitações do modelo
  • Exercícios práticos com GPT-3 para geração e conclusão de texto

Avanços recentes: GPT-4

  • Visão geral do modelo GPT-4 mais recente
  • Principais melhorias e aperfeiçoamentos em relação às versões anteriores
  • Explorando as capacidades expandidas do GPT-4

Aplicações dos modelos GPT

  • Geração e conclusão de texto utilizando modelos GPT
  • Tradução automática com GPT
  • Sistemas de diálogo e chatbots com GPT
  • Escrita criativa e narração de histórias utilizando modelos GPT

Ajuste fino dos modelos GPT

  • Técnicas para o ajuste fino de modelos GPT em tarefas específicas
  • Adaptação de GPT para aplicações específicas de um domínio
  • Melhores práticas para ajuste fino e avaliação de modelos

Considerações éticas e desafios

  • Implicações éticas da utilização de modelos linguísticos de grande dimensão
  • Questões de parcialidade e equidade nos modelos de GPT
  • Mitigar os riscos e garantir a utilização responsável dos modelos GPT

Tendências futuras e para além da GPT-4

  • Tendências emergentes em PNL e modelos generativos
  • Fronteiras de investigação e potenciais avanços para além da GPT-4

Resumo e próximos passos

  • Recapitulação das principais aprendizagens e conclusões do curso
  • Recursos para exploração adicional e oportunidades de aprendizagem em modelos GPT e PNL

Requisitos

  • Familiaridade com conceitos de aprendizagem profunda e fundamentos de processamento de linguagem natural (PNL).
  • Um conhecimento básico de transformadores seria benéfico.

Público-alvo

  • Cientistas de dados
  • Engenheiros de aprendizagem automática
  • Investigadores de PNL
  • Entusiastas da IA
 14 Horas

Declaração de Clientes (3)

Próximas Formações Provisórias

Categorias Relacionadas