MLP-mixer 이해하기
2021. 5. 8. 16:06ㆍ관심있는 주제/뉴럴넷 질문
좋은 자료로 추후 정리해보기
https://link.medium.com/SMCl0Sdb5fb
https://m.youtube.com/watch?v=KQmZlxdnnuY&feature=youtu.be
https://www.slideshare.net/JinwonLee9/pr317-mlpmixer-an-allmlp-architecture-for-vision
channel-mixing MLP: Used for communication before different channels, each token is processed independently, that is, each line is used as input;
token-mixingMLP: Used for communication of different airspace positions, each channel legend is processed, that is, each column is used as input.
이 아키텍처를 정형데이터에 적용할 수 있을까부분은 해당 아키텍처에서 각 패치 위치를 얼마나 중요하게 생각하는 지 확인을 해봐야 알 것 같다.
728x90