02 Oct 2020
|
Deep Learning
Survey
이번 글에서는 Ian Goodfellow 등이 쓴 Deep Learning을 정리한다. 양이 너무 많으니… 핵심적인 부분만 적는다. Chapter 1. Introduction 발명가들은 생각할 수 있는 기계를 만드는 것을 오랫동안 꿈꿔왔다. 이는 적어도 고대 그리스부터 시작되었다. 프로그래밍 가능한 컴퓨터가 처음 생각되었을 때, 사람들은 이러한 기계들이 ‘지능적’일 수 있는지 궁금해했다. 오늘날, artificial intelligent(AI)는 많은 실용적인...
23 Aug 2020
|
Paper Review
Bayesian Inference
Adversarial Autoencoders
본 글에서는 VAE와 GAN을 결합한 Adversarial Autoencoder (이하 AAE)에 대한 논문을 리뷰하면서 이론에 대해 설명하고 이를 Tensorflow로 구현하는 과정을 보여줄 것이다. 이 알고리즘을 이해하기 위해서는 앞서 언급한 2가지 알고리즘에 대해 숙지하고 있어야 하며, VAE에 대해 알고 싶다면 이 글을, GAN에 대해 알고 싶다면 이 글을 참조하길 바란다. 1. Adversarial Autoencoders...
14 Aug 2020
|
Paper Review
Language Models
이 글에서는 2020년 5월 Tom B. Brown 등이 발표한 OpenAI GPT-3: Language Models are Few-Shot Learners를 살펴보도록 한다. GPT-3을 이용한 API가 공개되어 있다. 이 논문은 총 페이지수가 75페이지 정도는 된다.. 하지만 일부분을 제외하고 대부분 여기에 적었다. OpenAI GPT-3 - Language Models are Few-Shot Learners 논문 링크: OpenAI GPT-3 - Language...
07 Aug 2020
|
Paper Review
Bayesian Inference
Conditional Variational Autoencoders
본 글에서는 Variational AutoEncoder를 개선한 Conditional Variational AutoEncoder (이하 CVAE)에 대해 설명하도록 할 것이다. 먼저 논문을 리뷰하면서 이론적인 배경에 대해 탐구하고, Tensorflow 코드(이번 글에서는 정확히 구현하지는 않았다.)로 살펴보는 시간을 갖도록 하겠다. VAE에 대해 알고 싶다면 이 글을 참조하길 바란다. 1. Learning Structured Output Representation using Deep Conditional Generative Models 1.1....
31 Jul 2020
|
Paper Review
Variational Autoencoders
본 글은 2014년에 발표된 생성 모델인 Variational AutoEncoder에 대해 설명하고 이를 코드로 구현하는 내용을 담고 있다. VAE에 대해서 알기 위해서는 Variational Inference (변분 추론)에 대한 사전지식이 필요하다. 이에 대해 알고 싶다면 이 글을 참조하길 바란다. 본 글은 크게 3가지 파트로 구성되어 있다. Chapter1에서는 VAE 논문을 리뷰할 것이다. Chapter2에서는 먼저 논문을...