LM Studio Bionic: 오픈 모델을 위한 AI 에이전트

4 days ago 16
  • LM Studio Bionic은 코딩·조사·문서 작업을 로컬 또는 클라우드의 오픈 모델로 처리해, 개인정보와 AI 사용 비용을 직접 통제할 수 있는 별도 앱임
  • 모델은 기기에서 직접 실행하거나 LM Link로 연결할 수 있으며, 복잡한 작업에는 LM Studio Secure Cloud의 대형 오픈소스 모델을 선택할 수 있음
  • 음성 키보드는 Mistral AI의 다국어 실시간 전사 모델 Voxtral을 이용해 어느 앱에서든 음성을 기기 내부에서 텍스트로 변환함
  • 코딩에는 코드베이스 조사·편집·디버깅과 인라인 diff를, 문서 작업에는 샌드박스 처리·웹 검색·자동 체크포인트·앱 내 미리보기를 제공함
  • 모든 사용자에게 Zero Data Retention과 사용자 데이터로 학습하지 않는 정책을 적용하며, 클라우드 요청도 처리 완료 후 보관하지 않음

코딩·음성·문서 작업

  • Bionic 에이전트는 코딩과 문서 작업에 초점을 맞추며, 작업별로 적합한 모델과 컴퓨팅 환경을 선택해 비용을 조절할 수 있음
  • 기기 내부에서 작동하는 음성 키보드

    • 로컬 오디오 모델로 아이디어, 프롬프트, 수정 내용을 기기 내부에서 전사함
    • 출시 시점에는 Mistral AI의 고성능 다국어 실시간 전사 모델 Voxtral을 제공함
    • 어느 앱에서든 음성 키보드를 시작하면 현재 커서 위치에 전사 결과가 입력됨
  • 로컬 코드베이스를 다루는 Code 프로젝트

    • 로컬 폴더를 연결하면 코드베이스를 조사하고, 익숙하지 않은 코드를 설명하거나 변경·디버깅할 수 있음
    • 인라인 diff를 통해 코드 변경 사항을 검토할 수 있음
    • 에이전트형 코드 검색으로 관련 파일을 찾고 동작을 추적함
    • 지원 모델에는 GLM 5.2Kimi K2.7 Code가 포함됨
  • 문서·프레젠테이션·스프레드시트를 위한 Work 프로젝트

    • 문서, PDF, 프레젠테이션, 스프레드시트 등을 다루거나 새 자료를 처음부터 생성함
    • 문서를 샌드박스 환경에서 처리해 나머지 컴퓨터와 파일로부터 격리함
    • 로컬 디렉터리 정리, 파일 편집, 자료 요약과 내장 웹 검색을 통한 외부 정보 활용을 지원함
    • 자동 체크포인트로 변경 사항을 검토하거나 되돌릴 수 있으며, 앱 내 미리보기에서 자료와 작업 흐름을 함께 관리할 수 있음
    • 더 많은 파일 형식을 미리 볼 수 있도록 지원 범위를 계속 확대할 예정임

로컬·연결·클라우드 모델 실행

  • Bionic 앱에서 최신 로컬 LLM을 내려받아 간단한 채팅부터 고급 에이전트 작업까지 수행할 수 있으며, 로컬 실행은 LM Studio 런타임을 기반으로 함
  • 작업에 따라 세 가지 실행 방식을 선택할 수 있음
    • 기기에서 로컬 모델 실행
    • LM Link를 통한 모델 연결
    • LM Studio Secure Cloud에서 대형 최전선 오픈소스 모델 사용
  • Secure Cloud는 코딩, 추론, 도구 호출, 긴 컨텍스트 작업에 강한 최신 오픈 모델을 제공함
    • 클라우드 요청은 일시적으로 처리되고 완료 후 보관되지 않음
    • 모든 Bionic 사용자 데이터에 Zero Data Retention을 적용하며 학습에도 사용하지 않음

설치와 사용 조건

  • LM Studio Bionic은 기존 LM Studio와 분리된 새 앱임
    • 저수준 고급 설정이 필요하면 기존 LM Studio를 Bionic과 함께 계속 사용할 수 있음
    • 클라우드 모델을 사용하려면 LM Studio 계정을 만들고 결제를 설정해야 함
    • 프로젝트를 연결하고 모델을 선택하면 Bionic 에이전트로 작업을 시작할 수 있음
  • 오픈 모델의 성능 향상과 실제 프로젝트 사용 사례를 반영해 Bionic 경험을 계속 개선할 계획임
Read Entire Article