Backlink Monitor
● aktywny od 2019Zdobyć wartościowy link to jedno — utrzymać go to drugie. Backlink Monitor codziennie przeczesuje Twoją listę linków i sprawdza, czy pod danym adresem wciąż jest odnośnik do wskazanej domeny, z jakim anchorem i atrybutem rel. Jedna instancja crawlera przerabia kilkaset tysięcy linków na dobę.
Stack
Kluczowe funkcje
Wyzwania
Sercem projektu jest crawling na skalę: sprawdzenie kilkuset tysięcy linków dziennie tak, żeby nie zostać zablokowanym i zmieścić się w oknie czasowym. Zamiast jednego procesu praca idzie przez kolejkę (RabbitMQ) i pulę workerów na Kubernetesie — dzięki temu system skaluje się poziomo wraz z liczbą monitorowanych linków.
Drugim wyzwaniem jest wiarygodność wyniku. Strona potrafi chwilowo nie odpowiedzieć, przekierować albo zwrócić inną treść botowi — więc liczy się nie pojedyncze sprawdzenie, lecz historia i status w czasie. Stąd nacisk na przechowywanie pełnej historii każdego linku i prezentowanie jej na wykresach.