Generative AI is a subfield of artificial intelligence that leverages machine learning models to produce content. It can generate new data instances that resemble your training data - for example, new sentences, images or music that echo the style of your input data. Generative AI models have been used to create everything from artwork to poetry, demonstrating that AI can potentially have a profound impact on creative industries. Some widely used Generative AI models include Generative Adversarial Networks (GANs), Variational Auto-encoders (VAEs), and Transformer models.
| Model | 특징 | 예시 |
|---|---|---|
| Explicit density | Tractable density – 모델의 사전분포를 가정하여 기존 값으로부터 데이터 분포를 추정 | Full Visible Belief Nets– NADE– MADE– PixelRNN/CNN |
| Explicit density | Approximate density – 모델의 사전분포를 근사시켜 데이터 분포를 추정 | VAE Markov Chain (Boltzmann Machine) |
| Implicit density | 데이터의 확률 분포를 모르는 상태 (즉 모델이 명확히 정의되어 있지 않은 대신) 에서 샘플링을 반복하여 | |
| 특정 확률 분포에 수렴시킴으로서 추정하는 모델 | GANMarkov Chain (GSN) |
| GAN (Generative Adversarial Networks) | AE (Auto-Encoder) | VAE (Variational Auto-Encoder) |
|---|---|---|
| • GAN은 서로 대립하는 두 개의 네트워크를 만들고 대립 과정에서 훈련 타겟을 생성하는 방법을 알도록 학습시키는 | ||
| 구조의 모델로, 저차원 특징공간에서 | ||
| 시작하여 정규분포를 기반으로 바로 | ||
| 특징벡터를 샘플링하고 | ||
| 이를 원래의 이미지로 만들어낸다. |
• 두 개의 인공 신경망이 서로 적대적으로 경쟁하는 관계 속에서 하나의 인공신경망은 진짜 같은 가짜를 더 잘 만드는 생산에 집중하며, 다른 하나는 진위를 판별하는데 집중한다. 즉, 이들 두 인공신경망의 경쟁은 진짜같은 가짜를 만들어 낼 때 끝이 날 수 (무승부가 가능) 있는 생성적 모델이다. | • 입력을 기반으로 특징을 추출하고, 추출된 특징으로 다시 원본데이터를 출력하는 네트워크. 라벨링 되지 않은 데이터로부터 저차원의 특징을 힉습하는 비지도 학습.
• 오토인코더는 인코더와 디코더로 구성되어 있는데, 인코더 고차원의 입력 데이터를 저차원 Latent-Vector (원본 이미지를 저차원 잠재공간으로 압축한 것) 로 압축하며, 생성네트워크 (generative network)라 부르는 디코더에서는 주어진 Latent-Vector를 원본차원으로 다시 압축 해제함. | • AE 모델과 형태가 유사하지만 확률적 (probabilistic) 및 생성적(generative) 개념이 추가로 활용되는 대표적인 Generative AI 알고리즘. 디코더로 새로운 데이터를 생성하기 위해 개발된 모델로 각 이미지가 다변수 정규 분포에 매핑되며 이전의 AE에서 인코더와 손실함수가 바뀌게 됨.
• 입력데이터를 잘 설명하는 특징을 추출해 Latent Vector Z에 담고, 이 Latent Vector Z를 통해 원 데이터와 유사하지만 완전히 새로운 데이터를 생성하는 것을 목표. 이 때 각 특징은 가우시안 분포를 따른다고 가정하고, Latent z는 각 특징의 평균과 분산값을 나타냄. |
https://lh3.googleusercontent.com/Z_M3oC1eP5-UXjhnIsAQxuQAVdc4Z6VWQRhTjzcTxEDlwzcaFD7UTNOHnnMP0dB7WdramEJgEib0c9KbWywD6C5-Jv473MErOJ04Hv6N-lG7TM562hiqgSXKXjBdgZ6y1uoKO2XqLgVkToieBZD-i1z6SzY_O2qJFrukfKJCdhVzV-txpY-2f4s1Aw
출처: BVP, The rise of synthetic media
더 많은 양의 데이터를 가지고 더 큰 모델을 학습시키도록 돕는
