Mentionsy

To znaczy nie po prostu długie zdanie napisane, jak ktoś chce, tylko tak, jakbyśmy wołali na przykład funkcję.

W sensie jest to cecha API, czyli to jest warstwa, która leży gdzieś pomiędzy LLM-em, a pomiędzy tym klientem.

Czyli na przykład, jeżeli chcielibyśmy mieć dostęp do Google Drive'a, przykładowo, no to nie musimy implementować tego przez własne API, nie musimy się łączyć, nie musimy bibliotek ściągać, nic nie musimy, bo ktoś to już napisał.

Cały ten obiekt może być niczym innym jak payloadem zapytania API do np.

Możemy się o tym przekonać uruchamiając kolejny skrypt, w przypadku którego widzimy serię logów prowadzących nas do powstania nowego pliku, w którym zostały zapisane informacje na temat naszego zadania.

Widzimy w nim zapytanie http do API OpenAI, w przypadku którego po prostu przesyłamy treść wiadomości użytkownika oraz odbieramy odpowiedź.

Możemy jednak przełączyć tutaj tryb w auto i wówczas model będzie zachowywał się normalnie w normalnej konwersacji, ale jeżeli użytkownik napisze coś co wygląda jak prośba o dodanie zadania,

do zewnętrznego API.

Akt trzeci napisał taki komentarz.

co jest odpowiedzialne za przyjęcie tych danych wygenerowanych przez model oraz fizyczne połączenie już z API danej usługi i zwrócenie odpowiedzi.

My nie wiemy, kiedy on wywoła funkcję, my nie wiemy, czy on wywoła funkcję, nie wiemy z jakimi parametrami, bo to zależy trochę od LLM-a, ale jeśli ta funkcja zostanie delegowana, to wiemy, jak się zakończy, bo to jest funkcja napisana przez nas, w sensie raczej tam nie będzie jakichś magicznych sytuacji, że coś nie pójdzie zgodnie z planem, więc bardziej sterujemy, jak te funkcje wywoływać, naprowadzamy tego LLM-a tak, żeby trafił w to, co chcemy, używał wtedy, kiedy chcemy,

Zobaczmy teraz jak w praktyce wygląda działanie narzędzia, które pozwala w tym przypadku agentowi AI zarządzać linearem, uwzględniając przy tym dostęp do praktycznie dowolnej funkcji tego systemu, oczywiście o ile jest dostępna w API.

Przykładowo raz dziennie system może wysłać sam do siebie prośbę o to, aby zapoznać się z wpisami dostępnymi w Linearze, a następnie przygotować raport HTML na podstawie szablonu, który został zapisany w moim Obsidianie.

Najlepsze w tym jednak jest to, że jeżeli chciałbym wprowadzić zmiany do tego dziennego raportu, to mógłbym po prostu otworzyć mojego Obsidiana i zapisać tutaj dodatkowy punkt o na przykład kolejnej sekcji, która miałaby uwzględniać moje zdarzenia w kalendarzu.

Natomiast nie do końca, ponieważ jak projektujecie systemy, czy posługujecie się modelem językowym w kodzie aplikacji, to często dochodzi do sytuacji, w której właśnie ta logika, to co wcześniej mówiłem, że logika wykonania, logika, którą potrzebujemy do tego, żeby połączyć się z zewnętrznym API, musi być wykorzystana w wielu miejscach.

Niech model napisze sobie kodzik, niech ten kodzik wykona.

No właśnie, one są jeszcze na poziomie beta i zarówno pricing i techniki korzystania, wykorzystywania modeli, czy w ogóle podejścia do kształtowania takich narzędzi, one są w tej chwili jeszcze na relatywnie początkowym etapie.

Ale jeżeli bym go poprosił, na przykład dodaj mi wydarzenie do kalendarza, no to teraz on musi wiedzieć, jak się z tym połączyć, musi mieć jakiś klucz API być może, jakoś odpowiednio to zaprogramować.

Gdy nawet ogólnie spojrzymy na dostępną tutaj listę narzędzi, od razu widzimy, że jest ona znacznie krótsza niż lista akcji dostępna w API Lineara.

znacznie różnią się od tego, co oferuje API.

Powodem jest fakt, że API zostało stworzone z myślą o programistach, którzy dysponują dokumentacją, natomiast dostępne tutaj narzędzia muszą być zoptymalizowane pod kątem dużego modelu językowego oraz uwzględnienia faktu, że kontekst dokumentacji jest tutaj zwykle niedostępny.

Decyzja o tym musi być maksymalnie uproszczona, dlatego zamiast wystawiać wszystkie dostępne endpointy API,

Po prostu nie widzę powodu, aby ją dodawać ze względu na to, że w moim przypadku tworzenie zespołów występuje tylko i wyłącznie na etapie początkowej konfiguracji Lineara, a potem jest niepotrzebne.

No bo do zwykłego odnalezienia danego wpisu nie jest mi potrzebny komplet informacji na jego temat, a taki właśnie komplet zwykle otrzymujemy z API.

Niezbędne na takim etapie okazują się wyłącznie nazwy oraz identyfikatory, natomiast później model może wczytać dodatkowe informacje na temat tego wpisu.