100만 토큰 컨텍스트 윈도우가 보편화되면서 "그냥 다 넣으면 되는 것 아닌가"라는 질문이 늘었습니다. 하지만 비용, 지연, 정확도를 따져 보면 롱컨텍스트와 RAG는 경쟁이 아니라 역할이 다른 도구입니다.2026년 현재 주요 LLM(Large Language Model, 대규모 언어 모델)은 한 번에 100만 토큰 이상을 입력으로 받을 수 있습니다. 토큰(token)은 모델이 글을 처리하는 최소 단위로, 단어 하나보다 조금 작은 조각이라고 생각하면 됩니다. 100만 토큰은 책 수천 페이지에 해당하는 분량이라 "검색해서 골라 넣는 RAG가 이제 필요 없는 것 아니냐"는 논쟁이 뜨겁습니다. 그러나 실무에서는 정답 위치에 따라 정확도가 떨어지는 현상, 매 요청마다 전체 문서를 넣을 때의 비용 폭증 같은 함정이..
