DeepSeek V4.1 Flash 공개 - 이미지도 이해하는 새 아키텍처

이미지와 텍스트를 함께 처리하고 100만 토큰 컨텍스트를 지원하는 DeepSeek-V4.1-Flash를 공개, 코드와 모델 가중치는 MIT 라이선스로 제공 5,520억 파라미터의 MoE 모델이지만, 입력 처리에는 80억, 출력 생성에는 160억 파라미터만 활성화하는 새 구조로 긴 입력을 반복 처리하는 에이전트 작업의 효율을 높임 이전 V4-Flash 대비 KV 캐시에 필요한 GPU 메모리는 4분의 1, SSD 저장공간은 8분의 1로 줄여 긴 대화와 도구 실행 기록을 유지하는 비용을 낮춤 자체 평가에서 DeepSWE v1.1 74.2%, Terminal-Bench 2.1 90.6% 를 기록하는 등 에이전트 성능이 크게 개선됐으며, 추론 강도를 1~100으로 조절할 수 있음 API 모델명은 deepseek-flash이며, 피크 시간 기준 100만 토큰당 입력 $0.30, 캐시 입력 $0.006, 출력 $1.20으로 제공함. 비피크 시간에는 절반 가격을 적용하고 기존 V4-Pro 요청도 9월 14일부터 V4.1-Flash로 전환할 예정임 이미지와 텍스트를 처음부터 함께 학습한 모델 DeepSeek-V4.1-Flash는 새 아키텍처 계열의 가장 작은 모델이며, 더 큰 모델로 확장할 수 있도록 설계됨 이미지와 텍스트를 입력받아 텍스트를 생성하며, 언어 모델의 사전학습 단계부터 두 입력을 함께 처리함 자체 시각 인코더인 DeepSeek-ViT를 사용하고, 총 45조 토큰 규모의 멀티모달 데이터로 처음부터 학습함 최대 100만 토큰의 문맥을 처리하며, 추론 강도를 정수 1~100으로 설정해 정확도와 추론 비용을 조절할 수 있음 입력 처리와 출력 생성을 나눠 비용 절감 인과적 인코더-디코더(Causal Encoder-Decoder, CED) 구조를 도입해, 40개 층을 입력을 처리하는 인코더 20개와 출력을 생성하는 디코더 20개로 나눔 모델 본체는 5,520억 파라미터지만 토큰마다 전체를 사용하지 않으며, 입력 처리 시 80억, 출력 생성 시 160억을 활성화함 긴 문서나 대화, 도구 실행 결과처럼 입력 비중이 높은 에이전트 작업의 비용 효율을 높이는 구조임 후속 학습에서는 새로운 강화학습 알고리듬보다 에이전트 작업과 환경을 대규모로 자동 생성하고 학습 규모를 확대하는 방식에 집중함 긴 문맥을 유지하는 KV 캐시도 압축 KV 캐시는 모델이 앞서 읽은 내용을 다시 활용하기 위해 저장하는 중간 계산 결과로, 긴 문맥과 반복 호...