Observability w garniturze, ale bez majtek - po co jest collector
"Czyli ten taki element, który wszyscy traktują: eee tam, pitu pitu, a okazuje się, że jest jednym z najbardziej krytycznych." 🎯 Szymon przyniósł 16 stron notatek o OpenTelemetry Collector. Każda strona to osobny sposób na zgubienie telemetrii. Budujemy topologię kolektorów od zera. Collector per namespace, DaemonSet na wypadek aplikacji, która nie wstała, i agenci na VM-kach zamiast otwierania sieci dla Prometheusa. Nad tym OTel Gateway, który ma być "głupi jak budowa cepa", a nie kolejnym ESB. Do tego Kafka przed Lokim i gRPC, które za load balancerem po cichu sabotuje skalowanie. Potem ciche awarie. Błąd w konfiguracji? Kolektory "zrobią rollback do poprzedniej wersji, Ty się o tym nie dowiesz". Unauthorized nie jest retry'owany, więc dane lecą do kosza. ⚠️ Recepta Szymona: "metryki, metryki, metryki". Na deser tail sampling, który według Szymona "niewyobrażalnie komplikuje architekturę całego rozwiązania". Chyba że masz terabajty trace'ów w trzy dni. Czy Grafana Alloy to obowiązek, czy kolejna warstwa, na której się wywalisz? A teraz nie ma co się obijać! 👉 Wpadajcie na naszego Discorda: https://discord.gg/78zPcEaP22 ! 🔥Tam możecie się z nami pokłócić o przyspieszanie SQL-a, podyskutować o naiwnych nadziejach na AI albo po prostu podzielić się swoimi IT-owymi przemyśleniami. Słuchasz Patoarchitektów dzięki PROTOPII – firmie, w której Łukasz i Szymon działają na co dzień, wspierając zespoły IT na każdym etapie: od projektowania, przez wdrożenia i migracje, aż po optymalizację i zabezpieczenia. Oferujemy też mentoring i szkolenia dostosowane do potrzeb każdej firmy, niezależnie od wielkości. Sprawdź nas: 👉 protopia.tech - Nasze sociale i linki - Materiały do odcinka - Pato szkolenia 00:00:00 Intro00:01:17 Podstawy: observability, OpenTelemetry i sygnały00:04:32 Topologia kolektorów: Kubernetes, maszyny wirtualne, push i pull00:10:00 Niezawodność dostarczania: kolejki, bufory i Kafka00:13:30 Load balancing kolektorów i gRPC00:14:44 Monitorowanie kolektorów i błędy konfiguracji00:17:00 Architektura wewnętrzna kolektora i niezależność od dostawcy00:18:34 Logowanie z aplikacji: OTLP, stdout i aplikacje zewnętrzne00:22:21 Sampling, retencja i koszty trace'ów00:27:07 Podsumowanie: kiedy wdrażać kolektor00:27:56 Zakończenie
W ogóle po co, dlaczego i co gdzie siedzi. Jasne. Dobrze, do tego jeszcze będzie rysunek sobie rzucimy. Jak to wygląda? Zacznijmy od tego takiego najprostszego. Czyli zakładamy sobie taką opcję, że mamy sobie powiedzmy Kubernetesa. No nie? I teraz zakładamy, że mamy sobie OpenTelemetry, aplikacje są instrumentowane, czyli po OpenTelemetryProtocol wysyłają sobie gdzieś nasze sygnały, ogólnie mówiąc. No i tak, mogłyby wysyłać właśnie do samego endpointu, a wtedy problem mamy taki, że w aplikacji trzymamy hasła, trzymamy endpointy, co, jak robimy, nie możemy samplować i tak dalej, i tak dalej, i tak dalej. Więc stawiamy sobie collector i aplikacje piszą do naszego OpenTelemetryCollectora, I on tam zajmuje się, wysyła dalej. No i teraz jaka jest rola tego OpenTelemetryCollectora w tej sytuacji?
On ma odbierać właśnie sygnały po OpenTelemetryProtocol, ma się ładnie skalować i tak dalej i tak dalej. Proste, ładne, logiczne. Dobra. No ale teraz no mamy taki problem, mamy sobie taki, że Że w tym momencie potencjalnie, w każdym space, albo w każdym obszarze, byśmy trzymali taką bestię. Więc teraz co robimy? Dorzucamy sobie z reguły takiego, coś co ja nazywam OpenTelemetryGateway, który zajmuje się zbieraniem telemetrii w ogóle z całego klastra, albo nawet z wielu klastrów i wysyła dalej. I on trzyma wszystkie sekrety, on jest zarządzany przez platformę, Jako taką, no nie? I dzieje się dalej. Teraz możecie powiedzieć, no ale po co tą hopkę robić? A no, bo mamy teraz taki kolejny element.
Pokazano wszystkie 2 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Rozmowa zaczyna się od omówienia roli collectora w systemie observability.
Szymon wyjaśnia architekturę systemu, w tym rolę collectora i gateway'a.
Rozmowa kontynuuje omówieniem konkretnych konfiguracji systemu, w tym użycia Kafka i agentów.
Diskussionuje się o monitorowaniu systemu i bezpieczeństwie danych, w tym problemach z fallbackami.
Szymon opisuje architekturę wewnętrznego kolektora, w tym pipeline i receiver'y.
Rozmowa skupia się na logowaniu z poziomu aplikacji i standardach OpenTelemetry.
Diskutuje się o technikach samplingu i generowania metryk na podstawie trace'ów.
Rozmowa zakończa się podsumowaniem i planem na przyszłość, w tym kolejne odcinki na temat observability.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
Kliknij, aby znaleźć fragmenty, w których pada.
Intro
Podstawy: observability, OpenTelemetry i sygnały
Topologia kolektorów: Kubernetes, maszyny wirtualne, push i pull
Niezawodność dostarczania: kolejki, bufory i Kafka
Load balancing kolektorów i gRPC
Monitorowanie kolektorów i błędy konfiguracji
Architektura wewnętrzna kolektora i niezależność od dostawcy
Logowanie z aplikacji: OTLP, stdout i aplikacje zewnętrzne
Sampling, retencja i koszty trace'ów
Podsumowanie: kiedy wdrażać kolektor
Zakończenie