~/projekty ←

Backlink Monitor

● aktywny od 2019

Zdobyć wartościowy link to jedno — utrzymać go to drugie. Backlink Monitor codziennie przeczesuje Twoją listę linków i sprawdza, czy pod danym adresem wciąż jest odnośnik do wskazanej domeny, z jakim anchorem i atrybutem rel. Jedna instancja crawlera przerabia kilkaset tysięcy linków na dobę.

Rola
Solofull-stack + infra
Skala
Setki tys.linków na dobę
Rok
2019rozwijany
Status
Liveprodukcja
// zrzuty ekranu
zrzut ekranu wkrótce
Dashboard — stan i wykresy wszystkich monitorowanych linków
zrzut ekranu wkrótce
Lista projektów z podziałem na domeny docelowe
zrzut ekranu wkrótce
Szczegóły projektu — historia i status każdego backlinku

Stack

// czym to zbudowane
Frontend
Angular
Backend
PHP · SymfonyNode.js — crawler
Baza
PostgreSQL
Infra
KubernetesRabbitMQ

Kluczowe funkcje

// co potrafi
01
Codzienna weryfikacja
Każdy backlink sprawdzany co 24 godziny — czy wciąż istnieje, pod jakim anchorem i z jakim atrybutem rel.
02
Pełny kontekst linku
Anchor, rel (dofollow/nofollow), status HTTP strony linkującej i data, kiedy link był ostatnio widziany.
03
Wykresy i trendy
Rozkład typów linków, dostępność w czasie i typy domen — na czytelnych wykresach zamiast w arkuszu.
04
Zespoły i organizacje
Wiele kont pracujących nad wspólnymi projektami, z podziałem na organizacje.
05
REST API
Pełne API z dokumentacją OpenAPI / Swagger — podłącz monitoring pod własne narzędzia i dashboardy.

Wyzwania

// co było trudne

Sercem projektu jest crawling na skalę: sprawdzenie kilkuset tysięcy linków dziennie tak, żeby nie zostać zablokowanym i zmieścić się w oknie czasowym. Zamiast jednego procesu praca idzie przez kolejkę (RabbitMQ) i pulę workerów na Kubernetesie — dzięki temu system skaluje się poziomo wraz z liczbą monitorowanych linków.

Drugim wyzwaniem jest wiarygodność wyniku. Strona potrafi chwilowo nie odpowiedzieć, przekierować albo zwrócić inną treść botowi — więc liczy się nie pojedyncze sprawdzenie, lecz historia i status w czasie. Stąd nacisk na przechowywanie pełnej historii każdego linku i prezentowanie jej na wykresach.