🔗 관련 문서: Wikipedia - Machine Learning

Learning - 학습

기계 학습(Learning)은 경험 기반으로 성능을 향상시키는 AI의 핵심 개념이다. 다양한 유형의 학습이 존재하며, 데이터의 레이블 유무나 보상 구조에 따라 구분된다.

(1) 지도 학습 (Supervised Learning)

입력 데이터에 정답(레이블)이 포함된 학습. 예측 결과는 회귀(수치형) 또는 분류(카테고리형)로 나뉜다.

• 대표 기법: Decision Tree, SVM, Logistic Regression

(2) 비지도 학습 (Unsupervised Learning)

레이블이 없는 데이터에서 패턴이나 구조를 발견하는 방식이다. 대표적으로 군집화(Clustering)와 차원 축소가 있다.

• 대표 기법: K-Means, KNN, DBSCAN, PCA

(3) 강화 학습 (Reinforcement Learning, RL)

에이전트(Agent)가 환경과 상호작용하며 보상(Reward)을 최대화하는 방향으로 학습한다.

• DQN, AlphaGo, 옵티머스 젠2 등이 대표 사례

📌 강화 학습 활용 사례

• AlphaGo Zero: 기존 데이터 없이 자가 학습
• 옵티머스 젠2: 강화 학습으로 달걀을 부수지 않고 집기 가능
• RLHF: ChatGPT가 인간 피드백을 기반으로 정렬

(4) 적은 데이터 및 문맥 기반 학습: 메타 학습, 능동 학습

충분한 학습 데이터를 확보하기 어려운 상황에서 등장한 학습 패러다임들로, 아주 적은 예시만으로도(또는 예시 없이도) 새로운 작업을 수행할 수 있도록 하는 것이 공통 목표이다.

• Zero-shot Learning (ZSL): 학습되지 않은 클래스도 예측 가능 — 해당 클래스의 예시를 단 하나도 보지 않고도, 사전 지식(속성 설명 등)만으로 새로운 클래스를 예측한다.
• Few-shot Learning (FSL): 적은 데이터로 새로운 분류 학습 — 새로운 작업(클래스)에 대해 아주 소수(1~수십 개)의 예시만으로 빠르게 적응하여 학습한다.
• In-Context Learning (ICL): 문맥 기반 예시로 즉시 응답 생성 — 모델의 가중치를 갱신(재학습)하지 않고, 프롬프트에 포함된 몇 개의 예시만으로 즉시 유사한 패턴의 응답을 생성한다.
• Active Learning (능동 학습): 레이블링 비용을 최소화하는 학습 전략 — 레이블이 없는 대량의 데이터 중에서 모델이 예측에 가장 확신하지 못하는(불확실성이 높은) 샘플을 스스로 선별하여 사람(오라클)에게 레이블링을 요청한다. 무작위로 데이터를 모으는 것보다 적은 레이블링 비용으로도 모델 성능을 빠르게 끌어올릴 수 있어, 위 세 가지 학습법과 마찬가지로 데이터·레이블이 부족한 상황에서 학습 효율을 높이는 데 활용된다.

▶ 메타 학습 (Meta Learning)

메타 학습은 "학습하는 방법(learning to learn)" 자체를 학습하는 방법이다. 동일한(비슷한) 분포를 이루는 여러 개의 작업(task)을 학습하는 과정에서 "효율적으로 학습하는 요령"(학습 전략, 좋은 초기 파라미터 등) 자체를 익혀두면, 이후 새로운 유사 작업을 마주쳤을 때 아주 적은 데이터만으로도 빠르고 효과적으로 적응하여 학습할 수 있게 된다.

이러한 특성 때문에 메타 학습은 앞서 설명한 Few-shot Learning과 밀접하게 연결되어 있으며, 실제로 Few-shot 학습을 가능하게 하는 대표적인 접근 방법 중 하나로 활용된다.

▶ 능동 학습 (Active Learning)

능동 학습은 "어떤 데이터를 레이블링할지 모델이 스스로 선택"하게 하는 학습 전략이다. 레이블링에는 사람(전문가)의 시간과 비용이 들기 때문에, 가지고 있는 방대한 미보유(unlabeled) 데이터를 모두 레이블링하기보다는, 모델이 판단하기에 가장 정보량이 많은(불확실성이 높은) 샘플만 골라 레이블을 요청하고, 그 결과를 다시 학습에 반영하는 과정을 반복한다.

• 불확실성 샘플링 (Uncertainty Sampling): 모델의 예측 확신이 가장 낮은(예: 클래스 확률이 0.5에 가까운) 샘플을 우선 선택한다.
• 위원회 질의 (Query by Committee): 여러 모델(위원회)의 예측이 서로 가장 크게 엇갈리는 샘플을 선택한다.
• 기대 모델 변화 (Expected Model Change): 레이블링했을 때 모델 파라미터에 가장 큰 변화를 가져올 것으로 기대되는 샘플을 선택한다.

이러한 방식으로 능동 학습은 무작위로 데이터를 수집·레이블링하는 것보다 훨씬 적은 레이블링 비용으로 동등하거나 더 나은 성능을 달성하는 것을 목표로 하며, 의료 영상 판독처럼 레이블링 비용(전문가의 판독 시간)이 매우 큰 분야에서 특히 유용하게 활용된다.

(5) 기타 학습: 연합 학습, 표현 학습

• 연합 학습 (Federated Learning):
  여러 기기·기관에 흩어진 데이터를 중앙 서버로 모으지 않고, 각 기기·기관이 각자 학습한 모델(파라미터)만 공유하여 하나의 통합 모델을 만드는 학습 방식이다. 데이터 자체는 이동하지 않으므로 개인정보 보호가 중요한 상황(예: 스마트폰 키보드의 다음 단어 예측)에서 주로 사용된다.
• 표현 학습 (Representation Learning):
  데이터를 잘 설명하는 특징(표현, feature)을 사람이 직접 설계하지 않고 모델이 자동으로 학습하도록 하는 방식이다. 딥러닝의 여러 계층(layer)은 원본 데이터로부터 점점 더 추상적인 표현을 자동으로 추출해 나간다.

(6) 확인 문제