Kết nối model AI với SentryEdit

SentryEdit không bắt bạn dùng một model duy nhất. Bạn chọn nhà cung cấp AI trên đám mây, model chạy cục bộ trên PC, hoặc model tích hợp sẵn, và agent dùng nó để lên kế hoạch sửa các file Verse của bạn. Lựa chọn này quyết định prompt của bạn được gửi đến đâu.

Ba cách kết nối

Nhà cung cấp AI trên đám mây

Kết nối một model được lưu trữ qua endpoint API chuẩn. Cách này hợp với các lần refactor lớn chạm nhiều file .verse, vì model lớn xử lý được ngữ cảnh dài. Prompt của bạn đi tới nhà cung cấp bạn chọn, còn các cuộc trò chuyện, thư mục dự án và khóa API vẫn ở trên PC của bạn. Nhà cung cấp có thể tính phí riêng.

Model trên PC của bạn

Chạy một model cục bộ và trỏ SentryEdit tới endpoint của nó. Cách này hợp với dự án riêng tư và các phiên không có mạng, và không có gì rời khỏi máy của bạn. Tốc độ và chất lượng phụ thuộc vào phần cứng, nên các chỉnh sửa nhỏ và giải thích một file là lựa chọn phù hợp nhất để bắt đầu.

Model tích hợp sẵn

SentryEdit có sẵn một model không cần API endpoint, nên bạn có thể thử agent ngay trên một file Verse nhỏ. Nó hợp với những thử nghiệm đầu tiên với 1 file và 1 tác vụ. Hãy kiểm tra câu trả lời của nó như mọi model khác, và chuyển sang model lớn hơn cho việc lớn.

Kiểm tra kết nối bằng Test

Nút Test gửi một yêu cầu ngắn tới endpoint của bạn và báo hai con số: thời gian phản hồi và cửa sổ ngữ cảnh. Cửa sổ ngữ cảnh là lượng văn bản model đọc được cùng lúc. Các file .verse lớn và cuộc trò chuyện dài cần cửa sổ lớn hơn, nên hãy kiểm tra trước khi bắt đầu.

Chọn model cho từng tác vụ

Dùng model lớn hơn cho refactor, logic phức tạp và thay đổi trải rộng nhiều file. Dùng model nhỏ hơn cho các chỉnh sửa nhỏ, chẳng hạn đổi tên một trường hoặc thêm dòng Print. SentryEdit cũng có thể gửi một bước khó tới model lớn hơn bằng run_on_model trong khi phần còn lại vẫn chạy trên model bạn đã chọn.

Chất lượng khác nhau giữa các model. Hãy xem từng diff, luôn bật Ask first và thử kết quả trong UEFN. Không có model nào đúng 100 phần trăm.