Attention Head Patterns
이 페이지에서는 Multi-Head Attention의 계산을 다시 유도하는 대신 head pattern의 그림을 읽는다. 먼저 양쪽 열 중 어디가 Query이고 어디가 Key인지 확인해야 한다. 화살표는 Query가 어느 Key를 선택하는지 표시하며, 실제 Value 정보는 그 Key 위치에서 Query output으로 들어온다.
Reading the Three Patterns
Relative-position pattern에서는 Query들이 바로 앞이나 뒤의 Key를 강하게 읽는다. Dependency-aligned pattern에서는 목적어와 관련 동사처럼 특정 문법 관계를 따라갈 수 있다. 반면 broad-attention 그림의 Query는 [CLS]다. 문장에 대한 representation을 구성하는 이 position이 여러 Keys를 읽으므로 weights가 여러 tokens로 퍼지는 모습이다. 일반 token 하나가 읽는 경우와 [CLS]가 문장 정보를 모으는 경우를 구분해야 한다.
[CLS] Query의 output은 읽은 여러 Value vectors의 가중합이다. 따라서 그림의 선이 [CLS]에서 다른 위치로 나간다고 [CLS]의 정보를 그 위치들에 복사하는 그림으로 해석하면 방향이 반대가 된다. 이 수정된 도식은 source가 다른 세 head types를 고정된 기능표로 정했다는 뜻도 아니다.
Pattern Is Evidence of a Behavior
이런 patterns는 self-supervised pre-training 뒤 관측된 것이며 syntax나 coreference labels로 각 head의 역할을 지정한 결과가 아니다. 특정 데이터와 모델에서 일관된 경향을 발견했다는 것이고, 모든 heads가 하나씩 명확한 전문 역할을 가진다는 보장은 없다. Attention weight 그림 하나만으로 최종 판단의 인과적 이유가 증명되는 것도 아니다.
Causal LM의 Induction pattern [A][B] … [A] → [B]도 같은 구분으로 읽는다. Harry 뒤에 Potter가 있었고 다시 Harry가 오면 이전 continuation을 읽어 Potter를 예측할 수 있다. 이 현상은 일부 In-context Learning과 연결될 수 있지만, 모든 prompting 효과를 한 도식으로 설명하는 것은 아니다.
Check
수정 broad Attention 그림에서 여러 tokens의 정보를 모으는 Query 위치는?
Answer
[CLS] Query가 여러 Key 위치의 Value를 가중합해 classification state에 반영하는 도식이다.
Query→Key 화살표를 Value 전달 방향이라고 읽으면 어떤 오해가 생기는가?
Answer
선택 방향과 내용 전달 방향을 뒤집는다. Value 정보는 Key 위치에서 Query output으로 들어온다.