Show GN: Foundation Model Engineering - 학습부터 서빙까지 다루는 한·영 온라인 교재

파운데이션 모델의 구조부터 학습, 추론, RAG, 에이전트, 평가까지 다루는 온라인 교재를 만들고 있습니다. 한국어와 영어로 읽을 수 있고, 가입 없이 전체 내용을 볼 수 있습니다.

기법의 정의만 설명하기보다는 어떤 병목을 해결하는지, 메모리나 지연 시간에서 무엇을 얻고 잃는지까지 연결해서 정리하려고 했습니다. 수식과 PyTorch 예제, 퀴즈를 넣었고, 일부 주제에는 값을 바꿔 보며 이해할 수 있는 시각화도 붙였습니다.

처음부터 순서대로 읽지 않아도 됩니다. 예를 들어 추론 쪽이 궁금하다면 KV 캐시 메모리 계산이나 연속 배칭 시뮬레이션부터 보실 수 있습니다.

• KV 캐시 관리
• 연속 배칭

작성·번역·시각화 구현에는 AI의 도움을 받았습니다. 아직 내용을 계속 보강하고 있어, 설명이 모호하거나 틀린 부분을 알려주시면 수정하는 데 도움이 되겠습니다.

소스: https://github.com/sungeuns/foundation-model-engineering