Escolha o modelo por trás dos seus relatórios de varredura

O Southcode Desk precisa de um modelo. Ele lê a saída das varreduras e escreve relatórios para você, e você pode conectar um provedor de IA na nuvem, um modelo rodando localmente no seu PC ou o modelo integrado. Cada escolha decide para onde vai a saída das suas varreduras.

Três formas de conectar um modelo

Um provedor de IA na nuvem

Use um endpoint de API padrão e a sua própria chave para relatórios longos e raciocínios difíceis. O problema é a privacidade. O texto que o agente envia, incluindo endereços e listas de portas das suas varreduras, vai para esse provedor, então escolha um cujos termos você leu e aceita. Sua chave fica no seu PC, e o provedor pode cobrar à parte.

Um modelo rodando localmente

Aponte o endpoint para um modelo no seu próprio PC. Ele combina com redes privadas, porque os prompts e a saída das varreduras ficam na máquina. Um modelo local pode ter uma janela de contexto menor ou responder mais devagar em um hardware modesto, então verifique com o Test. Leia os diffs com atenção.

O modelo integrado

O modelo integrado já vem com o app, então não há provedor para escolher. Ele serve para um primeiro teste com uma lista pequena de endereços. Mantenha as tarefas curtas. Verifique os limites dele com o botão Test e, para comparações maiores, conecte um modelo maior mantendo a mesma pasta de trabalho. Chats, pastas de trabalho e chaves de API ficam no PC, seja qual for o modelo escolhido.

Verifique a conexão com o Test

O botão Test verifica um endpoint antes de você entregar trabalho de verdade e mostra o tempo de resposta e a janela de contexto. Leia os dois números. Um arquivo de varredura longo e a sua linha de base precisam caber juntos nessa janela, então, se estiver apertado, pergunte sobre um host de cada vez.

Escolha um modelo para a tarefa

Combine o tamanho com a tarefa. Use um modelo maior para comparações longas e relatórios mais extensos, e um menor para edições pequenas, como mudar uma única linha do expected-ports.csv. A ferramenta run_on_model envia uma etapa difícil a um modelo maior enquanto o resto continua no modelo atual.

A qualidade varia. Leia sempre o diff antes de aceitar e use o Ask first sempre que uma varredura ou uma mudança de arquivo for importante, porque um resumo errado de uma porta aberta é você quem precisa pegar.