Varitional Auto-Encoder (VAE) - Encoder

Encoder란 무엇인가

Encoder는 데이터 공간을 압축해서 정보를 표현하는 회로 또는 알고리즘이다.

이와 반대로 Decoder는 Encoder를 통해 압축된 정보를 다시 원 신호로 복원하는 회로 또는 알고리즘이다.

 

예를 들어 버튼이 8개가 있다고 하자

🔲🔲🔲🔲🔲🔲🔲❎

이중 한 개만 눌린다고 했을 때, One-Hot Encoding으로 다음과 같이 나타날 수 있을 것이다

 

| 00000001
| 00000010

| ~

| 10000000

Encoding

| 001

| 010

| ~

| 111

 

혹은 순서를 바꿔서 하물며 4진법 8진법 모두 표현 가능 할 것이다.

이처럼 데이터 공간을 압축하여 표현하는 회로 또는 알고리즘을 Encoder라고 한다.

 

Encoder의 특징

1. Encoder는 Decoder로 복원이 가능해야한다.

2. Encoding에서는 가정(asuumption)이 필요하다.

Ex. 위의 버튼 예시에는 한개의 버튼만 눌린다는 가정이 있다.

3. 하나의 Encoding 방법만 존재하는것은 아니다.

Ex. 2진법이 아닌 4진법 8진법도 가능하며 순서를 뒤집어서 Encoding 하는 것도 가능하다.