Modelos de linguagem de grande porte (Large language Models...

Com base no mesmo assunto

Ano: 2025 Banca: UFSM Órgão: UFSM Prova: UFSM - 2025 - UFSM - Analista de Tecnologia da Informação (Inteligência Artificial) |

Q3729837 Engenharia de Software

Modelos de linguagem de grande porte (Large language Models, LLMs) estão na base de algumas das ferramentas mais importantes da atualidade (por exemplo, o ChatGPT). Um marco decisivo para a IA foi o artigo de Vaswani et al. (2017), “Attention is All You Need”, que introduziu a arquitetura Transformer e redefiniu o estado da arte em processamento de linguagem natural.

Assinale a alternativa que descreve corretamente uma função de Atenção (Attention).

O mapeamento de uma consulta por elemento (Q_i ), um viés (B) e um conjunto de pares chave-valor (K,V) para uma saída, em que todos são matrizes. Attention(Q,B,K,V)=softmax

Imagem associada para resolução da questão

O mapeamento de um viés (B) e um conjunto de pares chave-valor (K,V) para uma saída, em que todos são matrizes. Attention(B,K,V)=softmax

O mapeamento de uma consulta (Q), um Viés (B) e um conjunto de pares chave-valor (K,V) para uma saída, em que todos são vetores. Attention(Q,B,K,V)=softmax

O mapeamento de uma consulta (Q) e um conjunto de pares chave-valor (K,V) para uma saída, em que todos são vetores. Attention(Q,K,V)=softmax

O mapeamento de uma consulta (Q) e um valor (V) para uma saída, em que todos são matrizes. Attention(Q,V)=softmax

Modelos de linguagem de grande porte (Large language Models...

Questões de assuntos semelhantes

Provas relacionadas