Chọn mô hình đứng sau các báo cáo quét của bạn
Southcode Desk cần một mô hình. Nó đọc kết quả quét và viết báo cáo cho bạn, và bạn có thể kết nối nhà cung cấp AI đám mây, mô hình chạy cục bộ trên máy của bạn, hoặc mô hình tích hợp sẵn. Mỗi lựa chọn quyết định kết quả quét của bạn đi đâu.
Ba cách kết nối một mô hình
Nhà cung cấp AI đám mây
Dùng endpoint API chuẩn và khóa của riêng bạn cho các báo cáo dài và suy luận khó. Điểm vướng là quyền riêng tư. Văn bản mà tác tử gửi đi, gồm cả địa chỉ và danh sách cổng từ các lần quét của bạn, sẽ đến nhà cung cấp đó, vì vậy hãy chọn nhà cung cấp mà bạn đã đọc và chấp nhận điều khoản. Khóa của bạn ở lại trên máy, và nhà cung cấp có thể tính phí riêng.
Mô hình chạy cục bộ
Trỏ endpoint tới một mô hình trên chính máy của bạn. Cách này hợp với mạng riêng, vì lời nhắc và kết quả quét ở lại trên máy. Mô hình cục bộ có thể có cửa sổ ngữ cảnh nhỏ hơn hoặc trả lời chậm hơn trên phần cứng khiêm tốn, vì vậy hãy kiểm tra bằng Test. Đọc diff cẩn thận.
Mô hình tích hợp sẵn
Mô hình tích hợp đi kèm ứng dụng, nên không có nhà cung cấp nào để chọn. Nó hợp để thử lần đầu trên một danh sách địa chỉ nhỏ. Hãy giữ tác vụ ngắn. Kiểm tra giới hạn của nó bằng nút Test, và với các lần so sánh lớn hơn, hãy kết nối một mô hình lớn hơn mà vẫn giữ nguyên thư mục làm việc. Cuộc trò chuyện, thư mục làm việc và khóa API ở lại trên máy dù bạn chọn mô hình nào.
Kiểm tra kết nối bằng Test
Nút Test kiểm tra một endpoint trước khi bạn giao việc thật, và hiển thị thời gian phản hồi cùng cửa sổ ngữ cảnh. Hãy đọc cả hai con số. Một tệp quét dài và baseline của bạn phải vừa cùng nhau trong cửa sổ đó, nên nếu chật, hãy hỏi từng máy chủ một.
Chọn mô hình cho đúng việc
Chọn cỡ phù hợp với tác vụ. Dùng mô hình lớn hơn cho các lần so sánh dài và báo cáo dài hơn, và mô hình nhỏ hơn cho các chỉnh sửa nhỏ như đổi một dòng trong expected-ports.csv. Công cụ run_on_model gửi một bước khó tới mô hình lớn hơn trong khi phần còn lại vẫn ở mô hình hiện tại của bạn.
Chất lượng khác nhau. Luôn đọc diff trước khi chấp nhận, và dùng Ask first mỗi khi một lần quét hoặc thay đổi tệp quan trọng, vì bắt lỗi một bản tóm tắt sai về cổng mở là việc của bạn.
