[소셜네트워크] BERT 구조와 핵심 학습 방식
Sequence Labeling (시퀀스 레이블링) Sequence Labeling은 입력된 단어 시퀀스에 대해 각 단어마다 레이블을 부여하는 문제입니다. 대표적인 예로 품사 태깅(POS tagging), 개체명 인식(NER) 등이 있습니다.구조 및 예시입력 시퀀스 : 𝑋 = [𝑥1, 𝑥2, … , 𝑥𝑛]출력 시퀀스 : 𝑦 = [𝑦1, 𝑦2, … , 𝑦𝑛]입력 : ['EU', 'rejects', 'German', 'call'] 출력 : ['B-ORG', 'O', 'B-MISC', 'O'] 주로 양방향 RNN(Bi-RNN)을 사용하여 앞뒤 문맥을 동시에 학습합니다. Seq2Seq (Sequence-to-Sequence) 모델 Seq2Seq는 입력 시퀀스를 다른 시퀀스로 변환하는 구조로..
2025. 7. 30.