Modelos de linguagem de grande escala, como os do tipo tran...

Próximas questões
Com base no mesmo assunto
Q3407646 Engenharia de Software
Julgue o item que se segue, relativo a ciência de dados e inteligência artificial (IA).
Modelos de linguagem de grande escala, como os do tipo transformer, são treinados exclusivamente com base em regras sintáticas explícitas extraídas de dados linguísticos anotados manualmente, o que assegura maior controle semântico.
Alternativas

Gabarito comentado

Confira o gabarito comentado por um dos nossos professores

Alternativa Correta: E (Errado)

Tema central: A questão aborda modelos de linguagem de grande escala, especialmente os baseados em transformers, e seus processos de treinamento em inteligência artificial.

Resumo teórico: Modelos do tipo transformer (como o BERT, GPT e outros) revolucionaram o campo do processamento de linguagem natural (PLN) ao aprender padrões e relações em grandes volumes de texto por meio de técnicas de aprendizado profundo. Eles são treinados utilizando grandes corpora de textos não anotados, aprendendo estatisticamente relações semânticas e sintáticas.

Ao contrário do que afirma o item, esses modelos NÃO são treinados exclusivamente com base em regras sintáticas explícitas ou em dados linguísticos anotados manualmente. Na verdade, aprendem padrões implícitos dos textos, sem intervenção direta de especialistas na elaboração de regras.

Fontes:

  • Vaswani et al., "Attention Is All You Need", 2017
  • Goodfellow, Bengio & Courville, "Deep Learning", 2016
  • Jurafsky & Martin, "Speech and Language Processing", 2023

Justificativa: A afirmação está ERRADA porque:

  • Transformers aprendem padrões estatísticos de grandes volumes de texto, não se restringindo a regras explícitas nem exigindo anotações manuais extensas.
  • A maior parte do treinamento é feita de forma auto-supervisionada, onde o próprio modelo infere relações entre palavras e frases no texto.
  • O controle semântico não é garantido apenas por regras, mas emerge dos dados e do treinamento massivo.

Estratégias para interpretação: A menção a “exclusivamente com base em regras sintáticas explícitas” e “dados linguísticos anotados manualmente” é uma pegadinha: lembre-se que modelos modernos aprendem padrões de forma automática, sem depender apenas de diretrizes humanas.

Gostou do comentário? Deixe sua avaliação aqui embaixo!

Clique para visualizar este gabarito

Visualize o gabarito desta questão clicando no botão abaixo

Comentários

Veja os comentários dos nossos alunos

Errado.

Modelos de linguagem de grande escala do tipo transformer, como os usados em IA moderna, não são treinados exclusivamente com base em regras sintáticas explícitas nem apenas em dados anotados manualmente. Eles são treinados principalmente com grandes volumes de texto não estruturado, utilizando técnicas de aprendizado não supervisionado ou auto-supervisionado — como prever a próxima palavra ou preencher lacunas em frases.

Manualmente e IA não combinam kkkk

Errado.

A afirmação descreve o oposto do método real. Modelos de Linguagem como os Transformers são treinados em um processo auto-supervisionado, em vastos volumes de dados não anotados. Eles aprendem as regras de sintaxe e semântica de forma implícita, a partir de padrões estatísticos, e não de regras explícitas.

Siga-me @rexconcurseiro

  1. Transformers não usam regras sintáticas explícitas:
  • Modelos como GPT e BERT são treinados via aprendizado autossupervisionado (ex.: prever palavras mascaradas ou próximos tokens), não por regras gramaticais programadas.
  • Eles capturam padrões estatísticos de texto bruto, sem anotações humanas diretas no pré-treinamento.
  1. Dados anotados manualmente são exceção, não regra:
  • Anotações (ex.: POS tagging, NER) podem ser usadas em fine-tuning para tarefas específicas, mas não no treinamento principal do modelo.
  • O núcleo do aprendizado vem de corpora não anotados (ex.: Wikipedia, livros, web scraping).
  1. "Controle semântico" é ilusório:
  • A semântica em transformers emerge de correlações estatísticas, não de regras lógicas. Isso explica vieses e alucinações.

DeepSeek

Clique para visualizar este comentário

Visualize os comentários desta questão clicando no botão abaixo