WorldTUI: 터미널처럼 행동하도록 학습한 3억 6천만 파라미터 모델

WorldTUI는 실제 셸이나 파일시스템 없이, 키 입력을 받아 다음 터미널 화면 변화를 예측하는 모델임. 파일 생성과 편집, vim과 tmux 사용을 흉내 내며 몇 명령 뒤에도 앞서 입력한 내용을 대체로 기억함 Qwen2.5-Coder-0.5B를 실제 Docker 터미널 세션으로 미세조정했으며, 모델이 스스로 만든 오류를 다음 입력에서 복구하도록 학습한 것이 성능 향상에 크게 기여함 화면의 각 행을 병렬로 생성한 뒤 검증해 전체 화면 갱신을 가속함. 행 사이의 조율이 깨지는 문제는 같은 모델을 이용한 추측 디코딩으로 보완함 사용하지 않는 어휘 임베딩을 제거하고 int4 양자화를 적용해 모델을 208MB로 줄였으며, WebGPU를 통해 브라우저 탭 안에서 모든 추론을 로컬 실행함 일관된 상태 유지에는 한계가 있음. 익숙한 명령은 비교적 잘 처리하지만 새로운 명령 조합, 파일 내용 덧붙이기, 중첩 디렉터리 이동, 복잡한 Python 연산에서는 쉽게 잘못된 결과를 만듦 코드 대신 화면 변화를 학습하는 터미널 Genie 3처럼 사용자 입력으로 다음 장면을 예측하는 방식에서 출발해, 대규모 GPU나 영상 데이터 대신 문자 격자 형태의 터미널을 학습 대상으로 선택함 실제 셸을 실행하면 입력과 출력이 정확히 대응하는 데이터를 원하는 만큼 생성할 수 있음 사전학습 언어 모델은 이미 ls, cat 같은 명령의 출력 형태를 어느 정도 알고 있음 목표는 그럴듯한 출력을 만드는 데 그치지 않고 일관된 세계 상태를 유지할 수 있는지 확인하는 것임 브라우저 데모는 208MB를 내려받으며, WebGPU와 물리 키보드가 있는 데스크톱 환경을 기준으로 설계됨 Chrome이나 Edge 사용을 권장하며, 최신 휴대전화에서도 작동할 것으로 예상하지만 매우 느림 pythoon을 입력해도 Python이 시작되는 동작으로 실제 셸이 아니라는 점을 확인할 수 있음 화면과 키 입력을 표현하는 방식 일반적인 LLM의 끝에 텍스트를 덧붙이는 방식은 터미널에 맞지 않음. vim의 esc는 단독으로 상태를 바꾸고, clear는 화면을 지운 뒤 커서를 맨 위로 옮기므로 화면 자체의 변화를 예측해야 함 세션은 화면 크기, 내용, 커서 위치를 담은 스냅샷으로 시작함 크기는 32×96으로 고정되지 않으며, 데모에서 사용자 지정 시작 화면의 행과 열 수를 설정할 수 있음 bash 프롬프트뿐 아니라 vim 버퍼나 snake 게임 중간 화면에서도 이어갈 수 있지만, bas...