Dockerowe nowości — Offload, A2A, MCP i Compose z turbo 🐳🚀

Wysyłać requesty do tych agentów poprzez to proxy. Oczywiście, jeżeli chodzi o architekturę, dodaje nam to kolejny komponent, ale z drugiej strony pozwala nam lepiej, moim zdaniem, lepiej zaplanować tą architekturę tych wszystkich rozwiązań, które tutaj mamy. Więc to jest takie dosyć ciekawe rozwiązanie. Ja jeszcze w to głębiej nie wchodziłem na ten moment, Odpaliłem sobie jednego takiego MCP Gateway, jak to wygląda. Działa to nawet. Tyle mogę powiedzieć na ten moment. Natomiast drugim elementem, który jest z tym związany, jest modyfikacja Composa.

Ponieważ w Compose dzisiaj możemy w bardzo ładny sposób na tym najwyższym poziomie tak naprawdę definiować właśnie agenty, definiować MCP Gateway itd. To już nie wchodzimy poniżej, tylko mamy ten poziom, ten tutaj jeden tak naprawdę poziom, tak jak Tak definiujemy sobie poszczególne kontenery de facto. A, jeszcze do offloadu. Wszystko, co jest związane z komendami dockerowymi, robimy w Cloudzie. Wszystko, co nie jest związane z komendami dockerowymi, np. właśnie Compose itd., edytowanie plików, robimy lokalnie.

Dobra, ale zanim, to ja chciałem wam jeszcze tutaj pokazać Composa, który się nazywa DMR YAML. To jest Compose, który... Zaraz opowiem o tym repo, bo to repo jest dostępne. To jest Compose, który używa Docker Model Runner. Tutaj można też użyć OpenAI, ale ja chcę zamknąć wszystko w obrębie No właśnie, mamy tego Composa tutaj i budujemy sobie aplikację. Ta aplikacja działa w ten sposób, że przejdę sobie tutaj do ładnego okienka, które gdzieś tutaj sobie przygotowałem.

Więc tak to wygląda tutaj. Więc te elementy tutaj mamy, tak naprawdę mamy taki kontener, mamy ten Auditor, mamy Critic, mamy Revizer. Więc wróćmy sobie do naszych tych, więc tak naprawdę mamy tutaj te kontenery. Mamy Auditor, Critic, Revizer, co jest nudna część akurat. Ale tak, mamy zdefiniowanego też MCP Gateway'a, w ten sposób. Czyli stosunkowo proste, bym powiedział. Nie ma nic jakiegoś nie wiadomo jak skomplikowanego. No i tak jak mówiłem, na najwyższym poziomie deklarujemy też modele. To jest zmiana, która się pojawiła w Compose właśnie teraz.

Można było definiować te modele na poziomie tak, jak mieliśmy zdefiniowane MCP Gateway, ale to też od jakiegoś czasu, to nie od dłuższego czasu, od jakiegoś miesiąca, dwóch może, coś tego typu. No dobra, mamy mamy tego I teraz tak, ten Compose on się odpali na moim PC, ale nie przejdzie. Pomimo tego, że jest stosunkowo mały model. Natomiast my sobie tutaj odpalimy coś większego. Tutaj gdzieś powinno być. Tak, odpalimy sobie to. Czyli odpalam Compose'a z tym DMR-em, którego Wam pokazałem i Compose'em Offload.

Może jeszcze pokażmy tego Offload. Compose Offload. Jest bardzo króciutki. Tak naprawdę tutaj zwiększamy tylko to okno. Możemy zwiększyć to okno tak naprawdę do dużo większej. Tutaj jest tak naprawdę to też najmniejsze, ale nawet to najmniejsze u mnie nie działało. Więc tak, mamy to, odpalamy to chwileczkę. Będzie szło, więc tutaj muszę zagadać troszeczkę. Musimy w sumie zagadać. To na podstawie tego, że ma w nazwie Offload, rozpoznajesz, ma offloadować zasoby? Nie, nie, nie. To musisz włączyć ręcznie. To chodzi o to, że w tym repozytorium tutaj masz tak naprawdę dostępny Compose zwykły.

Masz Compose DMR, a Offload tutaj jest jakby nadpisaniem niektórych parametrów, tylko i wyłącznie. Bo teraz tak, w DMR-ze, zobaczmy to tutaj, w DMR-ze masz 4BQ4.0, taki model. A w Offloadzie masz większy. No dobra, ale skąd on wie? To jest bardzo dobre pytanie. W tym momencie nie ma opcji, jest albo to, albo to. Albo masz offload włączony, albo masz go wyłączonego.

Na Enterprise tego nie skorzystają, bo utrzymywanie czegoś takiego na poziomie pod kątem security, no i aż mi te reakcje CSO... Oj daj tak, o tak, o tak, o tak. Dlaczego? Co to się dzieje? Jak to się łączy? No sam już zadał takie pytanie. Tak, tak, dokładnie. I niby masz model, masz wszystko ściągnięte lokalnie, ale to nie jest lokalnie. Tak, dokładnie, więc... To rozwiązanie nie jest fajne, ale na przestrzeni wszystkiego, co ostatnio robi Docker, czyli mamy Ascordona, Compose Bridge'a, który jest przerzuceniem na interfejse Kubernetes Foundry itd., miejsce konfiguracji Compose'a.

Faktycznie brakuje tylko kontekstu, brakuje tylko flagi, pokaż wszystko. Jednak jak pracujemy na Kubernetesie i bazujemy na CPL-u, wchodzimy w pewne namespaces, odbudujemy kilkanaście różnych klastrów i tak dalej, to fajnie by było podnieść, tak samo możesz sobie w tym offloadzie tworzyć jakieś konteksty i tak dalej, bo możesz umożliwiać sobie stworzenie nawet kilkunastu, chociaż kilku kontekstów różnych. Workspace, Compose Bridge, Compose Bridge, Compose Bridge, Compose Bridge, Compose Bridge, Compose Bridge, Compose Bridge, Compose Bridge,

Jeżeli to będzie ładnie rozpracowane i nawet zostanie zrobione jakieś CSI, CNI itd. Na CNI być może też. CSI niekoniecznie, ale jakieś shim albo cokolwiek dockerowe, co by się spinało z tym całym containerd. Albo gdyby docker znowu do containerd i dorzucił te komendy, co nie sądzę, żeby CNCF to dopuścił, ale może. Może, zobaczymy. No to było super. Jeszcze jedną rzecz chcę Ci pokazać. W jednym z tych projektów tutaj dostępnych, to projekt się nazywa ADK, jest też Compose do uruchomienia w GCloudzie, GCP.