pyro.ai/examples/bayesian_regression.html Bayesian Regression - Introduction (Part 1) — Pyro Tutorials 1.4.0 documentation Model In order to make our linear regression Bayesian, we need to put priors on the parameters \(w\) and \(b\). These are distributions that represent our prior belief about reasonable values for \(w\) and \(b\) (before observing any data). Making a Bayesi pyro.ai pytorch에서 ..

광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) 이번엔 BLiTZ 개발자가 LSTM을 베이지안 뉴럴 네트워크로 구현해줬다. 요즘 LSTM 쪽을 공부하고 있는데, 또 하나의 선택지로 고민해볼 만한 것 같아서 해보기로 했다. BLiTZ 개발자는 종가 데이터만을 넣고 하루 뒤 종가를 예측하는 것을 예제로 보여줬고, 필자는 'Open', 'High', 'Low', 'Close', 'Volume' 총 5가지 input을 주고 하루 뒤 Close를 예측하는 것을 해봤다. 우리가 알고 있는 LSTM의 형태이다. 여기서 W,Bias를 determinstic 하게 사용하지 않고 분포에서 샘플링으로 하는 것이 이 패키지의 베이지안 방법이다. ## Data Normalizing scaler = Standard..

광고 한 번씩 눌러주세요! 블로그 운영에 큰 힘이 됩니다 :) 현재 일반적인 딥러닝 모델들엔 결과들은 결과에 대한 불확실성을 측정할 수가 없다. 개인적으로 리스크 관리나 결과에 대한 신뢰도 측면에서 이점은 굉장히 중요하다 생각을 하고 있다. 하지만 베이지안과 뉴럴 네트워크를 결합하는 순간 굉장히 코드가 어려워지는 것을 느낀다. 그래도 평소에 베이지안 뉴럴 네트워크에 대해 관심을 가지고 있어서, 쉽게 할 수 있는 것이 있으면 해 보려고 노력하고 있다. 그러던 와중에 해당 패키지를 알게 됐다. 파이토치로 만든 패키지이다. 베이지안 딥러닝은 determinstic 가중치를 가지지 않고, 가중치의 정규 분포로부터 가중치를 샘플링하는 방법론을 사용한다. 일반적인 determinstic한 것은 다음과 같다. 여기서..

상태 공간을 다음과 같이 정의하여 transition probability matrix를 구함 참고 문헌 Bayesian Methods for Finance and Economics 최병선 지음

도움이 되셨다면, 광고 한번만 눌러주세요. 블로그 관리에 큰 힘이 됩니다 ^^ 아래 미디엄에 처음에 저 Credible Interval이 신뢰구간인 줄 알고 오랜만에 복습할 겸 읽어봤는데,... 아니었다... 베이지안에서 사용하는 Credible interval이었고, 베이안에 관심이 있기 때문에 읽어보기 시작했다. https://towardsdatascience.com/do-you-know-credible-interval-e5b833adf399 Do You Know Credible Interval Don’t Mess up Your Next Data Science/Analyst/PM Interview towardsdatascience.com “Here is a confidence interval from..

베이지안 예제 가우시안 기저 모형 이성령 Prior \(p(w|\alpha) = N(w|0 , \alpha^{-1}I)\) Likelihood \(p(t|X,w,\beta) = \prod_{i=1}^N N(t_i | w^{T}\phi(x_i), \beta^{-1})\) \(p(t|w,\beta) = p(t|x,w,\beta)\) Posterior \(p(w|t,\alpha , \beta) = \frac{p(t|w,\beta)p(w|\alpha)}{p(t|\alpha,\beta)}\) \(= \frac{p(t|x,w,\beta)p(w|\alpha)}{p(t|\alpha,\beta)}\) \(p(w|t,\alpha , \beta) = N(w | m_N , S_N)\) \(m_{N} = \beta S_N \p..

빈도주의론자 입장에서는 " 귀무가설이 사실이라면 이렇게 극단적인 통계치가 발생할 확률은 3%이다" 베이지안들은 알려지지 않은 parameter를 확률변수로 보는 방법이 있다. parameter에 대한 사전 분포로 주어지고 관측된 데이터와 베이즈 정리를 이용하여 사후정리를 갱신할 수 있다. 그래서 피라미터에 대한 확률적으로 결론을 낼 수 있다. ex ) 동전 던지기 예시처럼 알려지지 않은 parameter가 확률이라고 가정해보자 보통 모든 확률 값은 0~1 사이에서 정의 되는 베타분포를 사전분포르 사용한다. 베타분포https://ko.wikipedia.org/wiki/%EB%B2%A0%ED%83%80_%EB%B6%84%ED%8F%AC import mathdef B(alpha,beta) : "모든 확률값의 ..