딥러닝의 본질: 고차원 노이즈에서 저차원의 '알맹이'를 찾는 여정

딥러닝 모델의 복잡한 수식 뒤에 숨겨진 철학은 명확합니다. "세상의 복잡한 겉모습(Raw Data)을 다 걷어내고, 그 안에 숨겨진 본질적인 특징(Essence)들만 모아놓은 가상의 지도(Latent Space)를 그리는 것"입니다. 이 과정을 단계별로 자세히 파헤쳐 보겠습니다.

 

 

왜 '압축'이 필요한가? (고차원의 저주와 노이즈)

우리가 보는 디지털 데이터(이미지, 텍스트, 음성)는 차원이 너무 높습니다. 1024x1024 해상도의 사진 한 장은 약 100만 개의 숫자(픽셀)로 이루어져 있죠. 하지만 그 100만 개의 숫자 중 정말로 "이것은 고양이이다"를 결정하는 숫자는 극히 일부입니다.

대부분의 픽셀은 배경의 먼지, 조명의 각도, 카메라의 노이즈 같은 '불필요한 정보'입니다. 딥러닝은 이 거대한 데이터에서 불순물을 제거하고 핵심 정보만 남기는 정제 과정에서 시작됩니다.

인코더(Encoder): 본질을 추출하는 '돋보기'

인코더는 원본 데이터를 입력받아 차원을 점점 줄여나가는 신경망 층입니다. 여기서 우리가 앞서 배운 Inductive Bias가 결정적인 역할을 합니다.

• CNN 인코더: "공간적으로 가까운 것들이 중요해"라는 편향을 가지고 선, 면, 형태를 차례로 압축합니다.
• RNN 인코더: "시간의 흐름이 중요해"라는 편향으로 문장의 맥락을 한 줄로 요약합니다.
• Transformer 인코더: 아무런 편향 없이 모든 데이터의 관계를 계산하여 가장 중요한 핵심(Attention)을 뽑아냅니다.

인코더의 목표는 단 하나입니다. 정보의 손실을 최소화하면서, 데이터의 크기(차원)를 획기적으로 줄이는 것입니다.

잠재 벡터(Latent Vector): 정제된 '알맹이'

인코더를 통과하고 나면, 수백만 개의 숫자는 단 몇 백 개 혹은 몇 천 개의 숫자로 줄어듭니다. 이것을 우리는 잠재 벡터(Latent Vector) 혹은 알맹이라고 부릅니다.

이 숫자 뭉치에는 더 이상 픽셀 값 같은 겉모습은 남아 있지 않습니다. 대신 '귀의 뾰족함', '털의 질감', '눈의 색깔' 같은 추상적이고 본질적인 특징들이 숫자로 수치화되어 들어 있습니다. 인간은 이 숫자를 봐도 뭔지 모르지만, 인공지능에게는 이 숫자가 데이터의 모든 것을 말해주는 '에센스'가 됩니다.

잠재 공간(Latent Space): 본질들이 모여 그리는 '지도'

이 알맹이(벡터)들이 찍히는 가상의 좌표 공간이 바로 잠재 공간(Latent Space)입니다. 이 공간은 매우 마법 같은 성질을 가집니다.

• 의미론적 유사성: 비슷한 특징을 가진 알맹이들은 잠재 공간 안에서 서로 가까운 위치에 찍힙니다. 예를 들어, '리트리버' 사진의 알맹이와 '진돗개' 사진의 알맹이는 잠재 공간의 '강아지 구역'에 옹기종기 모여 있게 됩니다.
• 수학적 연산: 이 공간에서는 개념의 덧셈과 뺄셈이 가능해집니다. 유명한 예로 왕(King) - 남자(Man) + 여자(Woman) = 여왕(Queen) 같은 계산이 이 잠재 공간의 좌표 이동을 통해 실제로 일어납니다.

후속 작업(Downstream Tasks): 지도를 보고 판단하기

알맹이가 예쁘게 정렬된 지도가 완성되면, 모델은 이제 무엇이든 할 수 있습니다.

1. 분류(Classification): 지도의 특정 구역에 이름표(Label)를 붙입니다. "이 구역에 찍히는 점은 99% 고양이야!"라고 판단하는 분류기(Classifier)를 뒤에 붙이는 것이죠.
2. 생성(Generation): 지도의 빈 곳이나 특정 좌표를 찍어서 다시 압축을 풉니다(Decoding). 그러면 그 좌표에 해당하는 새로운 이미지가 탄생합니다.
3. 변환(Style Transfer): 사진의 알맹이 좌표를 '고흐 스타일' 구역으로 살짝 이동시킨 뒤 다시 그림으로 복원하면 스타일 변환이 일어납니다.

결론: 딥러닝은 '요약의 기술'입니다.

결국 딥러닝은 현실의 복잡한 데이터를 잠재 공간이라는 질서 정연한 세계로 투영하는 과정입니다.

인덕티브 바이어스가 강한 모델(CNN/RNN)은 인간이 준 힌트를 바탕으로 이 지도를 빠르게 그려내고, 인덕티브 바이어스가 없는 모델(Transformer)은 아무 힌트 없이 스스로 더 정교하고 거대한 지도를 그려내는 것입니다. 우리가 얻는 최종 결과물은 그 지도 위에 찍힌 아주 유용한 점 하나(Latent Vector)'인 셈입니다.