Paper) Perceiver IO (다양한 데이터를 처리할 수 있는 아키텍처)
정리하자면, 딥마인드에서 새로운 논문을 냈고, 내용은 하나의 데이터 타입이 아닌 어떤 데이터셋이 와도 처리할 수 있는 아키텍처를 제안했다. 보통 모델이 한번 잘 적합하게 되면 다른 작업에서는 바꿔서 사용할 수 없는 어려움이 있다. 이 제약은 많은 작업이 시각 및 오디오와 같은 다양한 입력을 필요로 하는 인간 인지와 매우 대조된다고 하며, 최근 DeepMind는 다양한 유형의 입력 데이터 세트를 처리할 수 있는 범용 아키텍처를 공개하는 두 개의 논문을 발표했다. “Perceiver: General Perception with Iterative Attention” “Perceiver IO: A General Architecture for Structured Inputs & Outputs” 첫번째 논문에서는 ..
2021.08.12