스캔 보고서 뒤에서 일할 모델을 고르세요

Southcode Desk에는 모델이 필요해요. 모델이 스캔 출력을 읽고 보고서를 써 줘요. 클라우드 AI 제공업체, PC에서 로컬로 실행되는 모델, 내장 모델 중에서 연결할 수 있어요. 무엇을 고르느냐에 따라 스캔 출력이 가는 곳이 정해져요.

모델을 연결하는 세 가지 방법

클라우드 AI 제공업체

긴 보고서와 어려운 추론에는 표준 API 엔드포인트와 내 키를 사용해요. 문제는 개인정보예요. 에이전트가 보내는 텍스트에는 스캔에서 나온 주소와 포트 목록도 들어 있고, 그것이 해당 제공업체로 전송돼요. 그러니 약관을 읽고 동의할 수 있는 곳을 고르세요. 키는 내 PC에 남고, 제공업체가 별도로 요금을 받을 수 있어요.

로컬로 실행되는 모델

엔드포인트를 내 PC에 있는 모델로 향하게 해요. 프롬프트와 스캔 출력이 그 기기에 머물기 때문에 사설 네트워크에 잘 맞아요. 로컬 모델은 컨텍스트 창이 더 작거나 사양이 낮은 하드웨어에서 더 느리게 답할 수 있으니 Test로 확인해 보세요. diff는 꼼꼼히 읽으세요.

내장 모델

내장 모델은 앱에 포함되어 있어서 고를 제공업체가 없어요. 작은 주소 목록으로 처음 시험해 볼 때 알맞아요. 작업은 짧게 유지하세요. Test 버튼으로 한계를 확인하고, 더 큰 비교에는 같은 작업 폴더를 유지한 채 더 큰 모델을 연결하세요. 어떤 모델을 고르든 채팅, 작업 폴더, API 키는 PC에 남아요.

Test로 연결 확인하기

Test 버튼은 실제 작업을 맡기기 전에 엔드포인트를 확인하고, 응답 시간과 컨텍스트 창을 보여 줘요. 두 숫자를 모두 읽어 보세요. 긴 스캔 파일과 기준선이 그 창에 함께 들어가야 하니, 빠듯하다면 호스트를 하나씩 물어보세요.

작업에 맞는 모델 고르기

크기를 작업에 맞추세요. 긴 비교와 긴 보고서에는 더 큰 모델을, expected-ports.csv의 한 행을 바꾸는 것 같은 작은 수정에는 더 작은 모델을 써요. run_on_model 도구는 어려운 단계 하나만 더 큰 모델에 보내고, 나머지는 현재 모델에서 계속돼요.

품질은 제각각이에요. 수락하기 전에 항상 diff를 읽고, 스캔이나 파일 변경이 중요할 때는 Ask first를 쓰세요. 열린 포트에 대한 잘못된 요약을 잡아내는 건 내 몫이니까요.