G04-02-04

AttentionとTransformerの基本

当テーマの動画は現在準備中です。先行して問題を解いていただくことは可能です。

AttentionとTransformerの基本を確認します。Attention機構・Self-Attention・Multi-Head Attention・Transformerアーキテクチャなど、G検定で問われる現代NLPの基盤技術を4択問題で復習できます。

この動画で学ぶ主なキーワード

  • Attention
  • Self-Attention
  • マルチヘッドAttention
  • Transformer
  • 位置エンコーディング

難易度を選んでください