TL;DR
- Proxy kiểm soát danh tính mạng và vị trí; Crawl lấy và biến đổi các trang; Proxy Manager trung tâm hóa các lộ trình, bể, nhật ký và giám sát.
- Các sản phẩm hoạt động chồng chéo nhưng giải quyết các vấn đề khác nhau, vì vậy chúng không nên được coi là có thể thay thế cho nhau.
- Một pipeline end-to-end vẫn cần một hợp đồng dữ liệu thuộc về ứng dụng, xác thực, lưu trữ và chính sách.
- Ngăn xếp kết hợp là hữu ích nhất khi việc thu thập lặp lại yêu cầu cả xử lý trang và các hoạt động mạng có thể kiểm soát.
Ngăn xếp dữ liệu web hoàn toàn tách biệt ba câu hỏi: làm thế nào lưu lượng truy cập đến một trang web, làm thế nào một trang trở thành một hiện vật, và làm thế nào các lộ trình được quản lý trong sản xuất. Sự tách biệt này theo cùng ranh giới trách nhiệm được mô tả bởi OpenTelemetry cho khả năng quan sát, đặc điểm HTTP cho hành vi yêu cầu, và hướng dẫn nguồn gốc W3C cho nguồn gốc chứng cứ.
Ba sản phẩm
Nstdata Proxy: truy cập mạng
Các sản phẩm Proxy cung cấp các điểm cuối HTTP, HTTPS, hoặc SOCKS5 với sự xoay vòng, phiên và nhắm mục tiêu đặc thù cho sản phẩm. Chúng không thực thi JavaScript hoặc xác thực nội dung trang.
Nstdata Crawl: lấy trang và trang web
Nstdata Crawl chấp nhận các URL, thực hiện việc lấy dữ liệu tĩnh hoặc thông qua trình duyệt, hỗ trợ khám phá các trang web có giới hạn, và trả về các hiện vật trang. Nó không quyết định xem một bản ghi kinh doanh được trích xuất có đúng hay không.
Nstdata Proxy Manager: các hoạt động định tuyến
Nstdata Proxy Manager tổ chức các điểm cuối Router, bể proxy, quy tắc định tuyến, nhật ký, phân tích và giám sát. Nó là một mặt phẳng điều khiển hoạt động, không phải là một trình phân tích nội dung.




