Mentionsy Mentionsy
Sii Talks
Sii Talks

Odc. 3: Testowanie rozwiązań AI | #TestArchitectsTalk

09.09.2024 ·43 min 26 s · 10 rozdziałów

Z okazji międzynarodowego Dnia Testera zapraszamy na serię odcinków #TestArchitectsTalk, w której eksperci #SiiPolska odpowiadają na gorące pytania, dzielą się wiedzą i przedstawiają swoje prognozy na przyszłość 🤔 Obejrzyj trzeci odcinek i dowiedz się: ✅ Jaką rolę odgrywa tester w procesie wytwórczym #AI i jakie umiejętności są niezbędne ✅ Jak wyglądają różnice w wymaganiach w poszczególnych fazach projektu ✅ Jak skutecznie podejść do testowania rozwiązań AI Uczestnicy debaty: 🎙️ Mateusz Tadla, Senior Test Architect 🎙️ Remigiusz Bednarczyk, Senior Test & Analysis Engineer 🎙️ Krzysztof Bednarski, Solution Architect 🎙️ Tomasz Kuran, Solution Architect

9:21 · Fazy tworzenia modelu AI 1

Więc we wszystkich tych trzech pozostałych fazach testowanie jest jak najbardziej obecne. Musimy zapewnić w przygotowaniu danych, że te dane, raz, że będzie ich wystarczająca ilość, że one będą spójne, Jeśli dane będą śmieciowe na wejściu, to na wyjściu też dostaniemy śmieci, jak zapytamy później nasz model. Jeśli chodzi o ewaluację, to tutaj mamy W zasadzie tak na dobrą sprawę już przygotowane KPI, po których oceniamy ten model. Możemy też jeszcze dodatkowo ocenić wydajność tego modelu, czyli szeroko rozumiany performance.

25:28 · Automatyzacja testów AI 1

Tutaj mamy klasyczne testowanie zbiorów danych. I możemy napisać po prostu jakieś nawet proste czeki, które sprawdzą, że wszystkie dane będą zawierały wszystkie pola. Wtedy odrzucić te, które ich nie zawierają lub jak Tomek wspomniał właśnie, możemy po prostu je dodać w jakiś sposób, czy też te dane się w jakiś sposób anonimizuje, więc to podlega też procesowi automatyzacji. Jeśli chodzi o te pozostałe fazy, no to też moglibyśmy zastosować podział Testowanie funkcjonalne i niefunkcjonalne. O performance'ie już trochę wspomnieliśmy, więc jak tylko mamy jakąkolwiek wersję, to zazwyczaj jest jakieś API do interakcji, więc mamy klasyczne testy performance'u, które są znane.

32:49 · Function calling i structured output 1

Możemy mu tylko powiedzieć, że chcemy, żeby to był JSON, ale on sobie wtedy wymyśli. Jak nazwać pola, w jakiej kolejności je pokazać, jak to sobie pozagnieżdżać. Natomiast możemy też mu podać przykład albo kilka przykładów. Powiedzieć, że chcemy, żeby odpowiedzi wyglądały dokładnie tak. No i tutaj znowu testy integracyjne, bo to może być używane do tego, żeby rozmawiać z jakimś zewnętrznym API. Więc możemy się na to jakby albo mockować to API, no jakby techniki tutaj z zakresu automatyzacji musimy dobrać jakby do problemu, który chcemy rozwiązać, no ale też ewidentnie jest i będzie co robić dla automatyków. Dlaczego też mówimy o samym function calling?

Pokazano wszystkie 3 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.