AI 시대의 개발자는 왜 Latency Numbers를 알아야 하는가
·
관심있는 주제/탐구 노트
찐 개발자는 코드보다 먼저 데이터가 어디로 움직이는지 본다 Latency Numbers는 외워야 할 숫자표가 아니다. 메모리에서 네트워크, AI Agent까지 이어지는 성능의 원리를 전공 지식 없이도 개발에 적용할 수 있도록 풀어 본다. AI가 생성한 코드와 전체 시스템을 함께 검토하는 개발자 AI는 빠르게 코드를 만들 수 있다. 개발자는 그 코드가 들어갈 시스템 전체를 보고 데이터 이동, 병목, 실패와 운영 가능성을 판단한다. 왜 이 글을 읽어야 하는가 Latency를 모르면 느린 시스템을 보고도 무엇부터 고쳐야 할지 결정하기 어렵다. 사용자는 “느리다”고 말하지만 원인은 CPU가 아니라 queue, DB round..