SentryEdit에 AI 모델 연결하기

SentryEdit은 하나의 모델에 묶어 두지 않아요. 클라우드 AI 제공업체, PC에서 로컬로 실행되는 모델, 내장 모델 중에서 고르면 에이전트가 그 모델로 Verse 파일의 편집을 계획해요. 이 선택이 프롬프트가 어디로 가는지를 정해요.

연결하는 세 가지 방법

클라우드 AI 제공업체

표준 API 엔드포인트로 호스팅된 모델을 연결해요. 큰 모델은 긴 컨텍스트를 처리할 수 있어서, .verse 파일 여러 개를 건드리는 큰 리팩터링에 잘 맞아요. 프롬프트는 선택한 제공업체로 가지만, 채팅, 프로젝트 폴더, API 키는 PC에 남아요. 제공업체가 따로 요금을 청구할 수 있어요.

내 PC의 모델

모델을 로컬로 실행하고 SentryEdit을 그 엔드포인트에 연결해요. 비공개 프로젝트와 오프라인 작업에 잘 맞고, 아무 데이터도 기기 밖으로 나가지 않아요. 속도와 품질은 하드웨어에 따라 달라서, 처음에는 작은 편집이나 파일 하나를 설명하는 일이 가장 잘 맞아요.

내장 모델

SentryEdit에는 API 엔드포인트가 필요 없는 모델이 들어 있어서, 작은 Verse 파일로 바로 에이전트를 써 볼 수 있어요. 파일 1개와 작업 1개로 하는 첫 실험에 잘 맞아요. 다른 모델처럼 답변을 확인하고, 더 큰 작업에는 더 큰 모델로 옮기세요.

Test로 연결 확인하기

Test 버튼은 엔드포인트에 짧은 요청을 보내고 응답 시간과 컨텍스트 윈도우, 두 가지 숫자를 알려줘요. 컨텍스트 윈도우는 모델이 한 번에 읽을 수 있는 텍스트의 양이에요. 큰 .verse 파일과 긴 채팅에는 더 큰 윈도우가 필요하니, 시작하기 전에 확인하세요.

작업에 맞는 모델 고르기

리팩터링, 까다로운 로직, 여러 파일에 걸친 변경에는 더 큰 모델을 쓰세요. 필드 이름 바꾸기나 Print 줄 추가 같은 작은 편집에는 더 작은 모델을 쓰세요. SentryEdit은 run_on_model로 어려운 단계 하나만 더 큰 모델에 보내고, 나머지는 고른 모델에 그대로 둘 수도 있어요.

품질은 모델마다 달라요. 모든 diff를 읽고, Ask first를 켜 두고, 결과를 UEFN에서 테스트하세요. 100퍼센트 정확한 모델은 없어요.