Exam Preparation
교수님이 직접 안내한 서술형 준비 방향은 두 가지다. Lecture 3에서는 Transformer Block 안의 Attention과 FFN을 비교하고, Lecture 4에서는 PLM→LLM의 흐름과 Decoder-only가 강세가 된 이유를 설명한다. 이 두 주제는 준비의 우선순위이며, 시험 범위 전체를 두 주제로 한정한다는 뜻은 아니다.
Explain Attention and FFN
Attention은 다른 token의 Value를 읽어 token 사이의 information을 mix한다. FFN은 각 position의 feature를 변환하며, 같은 FFN weights가 모든 position에 적용된다. 두 sublayer의 입력·연산·출력과 Residual Stream에 무엇을 더하는지 연결해 설명할 수 있어야 한다.
명칭이나 식만 적기보다 “다른 token을 읽는 경로와 현재 token의 feature를 바꾸는 경로가 어떻게 다른가”를 중심으로 서술한다. 교수님이 비교를 강조한 이유는 두 sublayer가 같은 Transformer Block에 있어도 수행하는 역할이 다르기 때문이다.
Connect PLM to LLM
두 번째 준비 주제는 PLM→LLM의 흐름과 Architecture & Objective를 연결한다. Encoder, Encoder-decoder, Decoder-only의 특징과 장점을 구분한 뒤, causal objective와 prompting/generation의 일치, scale·system·투자가 어떻게 Decoder-only의 강세로 이어졌는지 설명한다.
이때 “현재 주류이므로 모든 task에서 최적이다”라는 결론은 피한다. 앞의 비교 근거를 사용해 어떤 조건에서 왜 유리한지 서술하는 것이 중요하다.
Exam Format
다음은 강의 당시 안내된 일정과 규정이다. 중간고사는 10월 19일 월요일 12:10–13:15, 공학관 C487 수업 강의실의 대면 지필시험이며, closed book이고 전자기기 사용은 불가하다. 답안은 한국어로 작성하되 English도 가능하다고 제시되어 있다.
| Type | Questions | Slide’s Total |
|---|---|---|
| OX | 5 | 20점 |
| Multiple choice | 10 | 50점 |
| Essay | 2 | 각 15점, 총 30점 |
OX의 slide 표기는 정답 +1(+4), 오답 −1(−2), 미기재 0이며, SRT에서는 정답 4점과 오답 감점을 설명한다. 숫자가 혼재하므로 하나의 공식 배점으로 확정하지 않는다. Multiple choice는 복수 정답이 가능하고, 정답 개수를 알려준다고 교수님이 보충했다.
공식 범위는 중간고사 이전까지 다룬 전체 내용이며, 대부분의 문항은 강의자료·강의노트와 수업 설명을 중심으로 출제된다고 안내되었다. 두 서술형을 준비한 뒤에도 Lecture 2–4의 나머지 내용을 함께 점검한다.
Check
10월 14일 교수님이 안내한 서술형 준비 방향 두 가지는?
Answer
L3 Attention/FFN의 특징과 차이, L4 PLM→LLM 흐름 속에서 Decoder-only가 강세가 된 이유다.
이 사이트의 L2–4 범위가 공식 전체 시험 범위와 같다고 단정할 수 있는가?
Answer
아니다. 공식 범위는 중간고사 이전 전체 내용이며, Lecture 2–4에 한정되지 않는다.