2020/05/01 - [관심있는 주제/RL] - 강화학습 - Dynamic Programming 공부 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example Grid World 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example Car Rental (in-place) 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example 도박사 문제 import matplotlib import matplotlib.pyplot as plt import numpy as np import seaborn as sns from scipy...

2020/05/01 - [관심있는 주제/RL] - 강화학습 - Dynamic Programming 공부 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example Grid World 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example Car Rental (in-place) 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example 도박사 문제 In [ ]: import matplotlib import matplotlib.pyplot as plt import numpy as np from matplotlib.table imp..

2020년 4월 29일 날 논문 아직 accept이 될지는 모르겠지만, 일단 간단하게 살펴보기 기존 DNN은 뛰어난 성능을 보이지만, 어떻게 결정을 내리는지 대게 불분명하기 때문에, 해석성 측면에서 손실이 생긴다. 그래서 해석성을 할 수 있는 NAM이라는 것을 주장하고, 여기서 주장하는 NAM(Neural Additive Models)는 각 인풋 변수에 관여하는 신경망의 선형 결합을 학습한다고 함. 아래 그림 처럼 하나의 인풋에다가 각각의 뉴럴 네트워크를 만들어서 하겠다는 것인데, 흐음... 괜찮을지는 의문이긴 함. 결국 상관성은 고려하지않고, 각 독립변수에 대해서 네트워크를 만든다는 느낌? NAM은 GAM(Generalized Additive Models) 중에 하나 GAM 중에서 NAM을 쓰면 이러한..

광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) 2020/05/01 - [관심있는 주제/RL] - 강화학습 - Dynamic Programming 공부 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example Grid World 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example Car Rental (in-place) 2020/05/05 - [관심있는 주제/RL] - chapter 4 Dynamic Programming Example 도박사 문제 강화학습을 공부하면서, 동적 프로그래밍 쪽에 대해서 깊게 할 이유가 있어서 자료 조사를 하고 있다. 일단 이전 것과 연관..

backup diagram 잘 설명 https://towardsdatascience.com/all-about-backup-diagram-fefb25aaf804 All About Backup Diagram Diagram that explains Reinforcement Learning Algorithms towardsdatascience.com 수식적으로 State-Value function 과 State-Action Value Function 비교해놓은 자료 https://towardsdatascience.com/reinforcement-learning-markov-decision-process-part-2-96837c936ec3 Reinforcement Learning : Markov-Decision ..

Clova에서 아래와 같은 데이터를 제공한다고 합니다. 혹시 관심있으신 분은 연구 용도에 한해 사용하면 된다고 합니다! https://www.facebook.com/ClovaAIResearch/posts/1074512806251766 보안 확인 필요 메뉴를 열려면 alt + / 키 조합을 누르세요 www.facebook.com https://github.com/clovaai/ClovaCall?fbclid=IwAR2R4Ehy4HiayJnxTqTleKAZWjmsWkGHzoT6QtgtHWeEhDuClVHt3-3G8i0 clovaai/ClovaCall ClovaCall dataset and Pytorch LAS baseline code. Contribute to clovaai/ClovaCall developme..

nni(neural network intelligence)라는 microsoft에서 만든 오픈 소스가 있다. 이 오픈 소스는 자동 머신 러닝을 지원하고 있다. 확인을 하던 도중 변수 선택 방법에서 Feature Gradient라는 방법이 있었다. 기존에 잘 알지 못했던 방법이기도 하고, 실제로 들어가 있으니 좋은 방법일거라고 생각해서 논문을 읽어보기로 했다. 실제 구현 코드도 내부에 있어서 괜찮다 싶으면 더 자세히 파야겠다. 본 논문에서는 Feature Gradents 라고 하는 변수 선택을 위한 gradient based search algorithm을 제안한다. 해당 알고리즘은 combinational optimization 문제로써 변수 선택을 다루고, 효율적으로 가능한 변수 셋들의 공간을 탐험하기..

주식 시장 예측은 경제 분야에서 가장 가치 있는 분야이다. 이 논문에서는 GAN이라는 새로운 아키텍처를 제안했다. 주식들의 종가를 예측하기 위해 generator로 LSTM을 제안하고 discriminator로는 mlp를 사용했다는 논문이다. generator는 주식 시장에서 주어진 데이터로부터 주식들의 데이터 분포를 발견하기 위해 LSTM으로 고안됐다. 반면에 discriminator는 실제 주가와 생성 데이터를 판별하기 위한 목적으로 MLP를 사용했다. 여기서는 S&P 500 Index를 사용했고, 매일 종가를 예측하는 방법을 사용했다. 이 논문이 기여한 점은 다음과 같다. Generator는 LSTM / Discriminator는 MLP를 사용함. 과거 데이터를 통해서 매일 종가를 예측했다. adv..

페이스북을 안 하는 분들은 이러한 정보를 얻기가 어려운 것 같아 공유합니다 Natural language inference (NLI) and semantic textual similarity (STS) KorNLI KorSTS https://www.facebook.com/monthly.nlp/posts/212619640169908 보안 확인 필요 메뉴를 열려면 alt + / 키 조합을 누르세요 www.facebook.com https://github.com/kakaobrain/KorNLUDatasets?fbclid=IwAR0LX_jem7qb6HUikflO-F6lPpfoefK9Yc0jSQIdSKdkX4s8SW1UvoVGc7I kakaobrain/KorNLUDatasets KorNLI and KorSTS: ..

2018년도 현재 29회 인용된 논문이다. 읽게 된 큰 이유는 tweets(NLP), Historical Prices(이전 가격)을 기반으로 주식 움직임을 예측한다는 것과 VAE를 통해 정보 NLP 정보 압축된 값을 사용한다는 것에서 흥미가 갔다. 저자의 주장으로는 자기네 논문이 주가 움직임 생성 모델을 처음 제안한다고 한다. 깊이 있는 내용은 잘 못 적을 것 같으므로, 좀 더 잘 알고 싶으신 분은 논문을 읽으시면 된다. Abstract 주식 움직임 예측에는 어려운 문제점이 있다. 시장은 매우 stochastic하고, 혼란스러운 데이터로부터 temprally-dependent 예측을 해야 하기 때문이다. 저자는 그래서 이러한 3가지 복잡성을 해결하기위해 텍스트와 주가 신호를 결합하여 탐험하게 하는 딥 생..

기존에 있었던 논문을 정리한 미디엄 글이다. 2개 정도 소개하는 글이다. 사실 다 한 번씩 본 것이지만, 정리하는 차원에서 다시 보기로 했다. 사실 관심 있는 사람도 만나서 반갑기도 하다. 관련 추가글 CTGAN 리뷰 글 TGAN 리뷰 글 TGAN: Synthesizing Tabular Data using Generative Adversarial Networks arXiv:1811.11264v1 TGAN 저자는 GAN으로 생성할 때 이러한 문제점들이 있다고 한다. the various data types (int, decimals, categories, time, text) different shapes of distribution ( multi-modal, long tail, Non-Gaussian…)..

광고 한번만 눌러주세요 ㅎㅎ 블로그 운영에 큰 힘이 됩니다. 모델을 해석하는 방법에는 다양한 방법이 있고, 그중에 많은 패키지는 model-agnostic 한 방법으로 학습된 모델을 사후 해석하는 방향으로 해석을 합니다. 그래서 이번 글에서는 그러한 방법론 중 Permutation을 이용하여 변수 중요도를 구하는 방법을 소개하겠습니다. 여기서 사용하고 있는 많이들 알고 있는 Tensorflow를 사용하여 Neural Network를 기반 아키텍처에 대한 변수에 대한 중요도를 보이고자 합니다. 아래 그림 처름 주어진 데이터에 각 변수마다 Permutation을 통해 다양하게 섞습니다. 그리고 Permutation을 하였을 때, 결괏값의 Loss가 커질 경우, 그 변수는 중요한 변수라는 것을 의미합니다. 일..