Pilih model di balik laporan pemindaianmu
Southcode Desk membutuhkan sebuah model. Model itu membaca keluaran pemindaian dan menulis laporan untukmu, dan kamu bisa menghubungkan penyedia AI cloud, model yang berjalan lokal di PC-mu, atau model bawaan. Setiap pilihan menentukan ke mana keluaran pemindaianmu pergi.
Tiga cara menghubungkan model
Penyedia AI cloud
Gunakan endpoint API standar dan kuncimu sendiri untuk laporan panjang dan penalaran yang sulit. Kendalanya adalah privasi. Teks yang dikirim agen, termasuk alamat dan daftar port dari pemindaianmu, pergi ke penyedia itu, jadi pilih penyedia yang syaratnya sudah kamu baca dan setujui. Kuncimu tetap di PC-mu, dan penyedia bisa menarik biaya terpisah.
Model yang berjalan lokal
Arahkan endpoint ke model di PC-mu sendiri. Cocok untuk jaringan privat, karena prompt dan keluaran pemindaian tetap berada di mesin. Model lokal mungkin punya jendela konteks yang lebih kecil atau menjawab lebih lambat pada perangkat keras sederhana, jadi periksa dengan Test. Baca diff dengan teliti.
Model bawaan
Model bawaan datang bersama aplikasi, jadi tidak ada penyedia yang perlu dipilih. Cocok untuk percobaan pertama pada daftar alamat yang kecil. Buat tugas tetap singkat. Periksa batasnya dengan tombol Test, dan untuk perbandingan yang lebih besar, hubungkan model yang lebih besar sambil tetap memakai folder kerja yang sama. Obrolan, folder kerja, dan kunci API tetap di PC apa pun model yang kamu pilih.
Periksa koneksi dengan Test
Tombol Test memeriksa sebuah endpoint sebelum kamu memberinya pekerjaan sungguhan, dan menampilkan waktu respons serta jendela konteks. Baca kedua angka itu. Berkas pemindaian yang panjang dan baseline-mu harus muat bersama di jendela itu, jadi kalau terlalu sempit, tanyakan satu host dalam sekali waktu.
Pilih model sesuai pekerjaan
Sesuaikan ukuran dengan tugas. Pakai model yang lebih besar untuk perbandingan panjang dan laporan yang lebih panjang, dan yang lebih kecil untuk suntingan kecil seperti mengubah satu baris di expected-ports.csv. Alat run_on_model mengirim satu langkah sulit ke model yang lebih besar sementara sisanya tetap di model yang sedang kamu pakai.
Kualitasnya beragam. Selalu baca diff sebelum menerimanya, dan gunakan Ask first setiap kali pemindaian atau perubahan berkas itu penting, karena meluruskan ringkasan yang keliru tentang port terbuka adalah tugasmu.
