GESP 1-4级 -- GESP 5-8级 -- CSP-J/S --

A22642. $在Transformer的自注意力机制中，关于Query、Key和Value的来源，以下哪一项描述是最准确的？( )$

单选题中等

知识点

人工智能

题目描述

在Transformer的自注意力机制中，关于Query、Key和Value的来源，以下哪一项描述是最准确的？( )

选项（单选）

A

Query、Key和Value是由三个完全不同的、随机初始化的参数矩阵生成的，与输入序列无关。

B

Key和Value是输入序列的嵌入向量本身，而Query是目标序列的嵌入向量本身。

C

Query来自编码器的最终隐藏状态，而Key和Value来自解码器的输入序列。

D

Query、Key和Value是由同一个输入向量通过三个不同的线性变换层（权重矩阵）投影得到的。

上一题下一题