The technology that guides us: Gen AI in practice and the future
***Ten odcinek został nagrany w języku angielskim. Opis odcinka w języku polskim poniżej.***Ready for a journey into the future of technology? Join us as we dive into the fascinating world of Generative AI (Gen AI). Guided by Pierluigi Costanzo, we unveil the secrets of this groundbreaking technology. How can you craft effective prompts? How can AI simplify your daily life and revolutionize your work? And most importantly, how do you navigate the challenges of this cutting-edge tool? Get ready for a dose of inspiring examples, practical tips, and a vision of the future that starts today.Topics covered in this episode:How does Generative AI work, and what role do prompts play?What is a "context window," and why is it crucial?The RAG (retrieval-augmented generation) approach and the "chain of thought."The significance of AI agents and their collaboration with LLMs.How can AI become more "proactive," and what does that mean for the users?Challenges in applying Gen AI in business and what to watch out for.Episode expert:Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.Podcast Host:Szymon Głowania - Programming Leader at Capgemini. He specializes in designing management dashboards and process automation. He regularly conducts training sessions, sharing his knowledge and skills. He is passionate about machine learning, which he is developing as part of his doctoral project. In his free time, he pursues his passions such as horseback riding, fishing, listening to music, and playing musical instruments.Related Links:How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matterRetrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generationChain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-promptingThe Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301This is the Capgemini Poland Podcasthttps://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/Produced by Cleverheartedhttps://www.cleverhearted.com/***Polish version***Gotowy na podróż w przyszłość technologii? Zabieramy Cię w fascynujący świat Generative AI (Gen AI). Naszym przewodnikiem jest Pierluigi Costanzo, który odkrywa sekrety tej przełomowej technologii. Jak tworzyć skuteczne prompty? Jak AI może uprościć Twoją codzienność i zrewolucjonizować pracę? I wreszcie – jak radzić sobie z wyzwaniami tej technologii? Czeka Cię dawka inspirujących przykładów, praktycznych wskazówek i wizja przyszłości, która zaczyna się już dziś.Tematy poruszane w odcinku:Jak działa Generative AI i jaką rolę odgrywają prompty?Co to jest „okno kontekstu” i dlaczego jest kluczowe?Podejście RAG (retrieval-augmented generation) i „chain of thought”.Znaczenie agentów AI i ich współpraca z modelami LLM.Jak AI może być bardziej „proaktywna” i co to oznacza dla użytkowników?Wyzwania w zastosowaniu Gen AI w biznesie i na co zwrócić uwagę.Ekspert odcinka:Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.Prowadzący podcast:Szymon Głowania - Programista z zamiłowaniem do tworzenia innowacyjnych rozwiązań technologicznych. Jego specjalnością jest projektowanie kokpitów menedżerskich, które umożliwiają efektywną analizę i zarządzanie danymi. Pasjonat uczenia maszynowego, nad czym pracuje w ramach swojego projektu doktoranckiego. Poza pracą zawodową, znajduje czas na swoje hobby - jeździectwo i wędkowanie.Linki do zagadnień poruszanych w rozmowie:How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matterRetrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generationChain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-promptingThe Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301Podcast Capgemini Polskahttps://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/Produkcja: Cleverheartedhttps://www.cleverhearted.com/
And usually when the context window finish, that's all the information that an LLM can take. I to jest tam, gdzie techniki, na przykład RAG, retrieval, augmented generation, albo używanie agencji, albo używanie window sliding context, pojawiają się. I dlatego, na przykład, pamiętam, kiedy zaczęliśmy budować od ostatniego roku niektóre narzędzia dla naszych klientów, w pewnym momencie zauważyliśmy, że, myślę, że oprócz technicznego budowania, i, wiesz, mając ładną UI, mając dobry model za sobą, i wtedy, wiesz, pracując w RAG, pracując z agencjami i innymi rzeczami, jedna ważna część była robienie warsztatów dla klientów,
Może zacznijmy od rozmiarów. Zacznijmy od RAG, zacznijmy od agentów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem zaczniemy od rozmiarów, a potem Zobaczysz pytanie, otworzysz książkę, przeskoczujesz ją, znajdziesz paragraf, w którym musisz odpowiedzieć na pytanie, czytasz go, a potem dajesz odpowiedź. I to jest w bardzo wysokim poziomie to, co RUG robi. Kiedy zapytajmy o kwestie, model zaangażuje RUG, gdzie jest dużo informacji, są w database wektorowym, są zindexowane i wszystko.
Używamy różnych technik, jak je zdobyć, jak ekstraktować tą informację na database, aż znajdziemy ważną. Ta ważna jest taka, że jest kontekst w naszej rozmowie, a model, wiedząc o tym kontekście, daje nam odpowiedź. Now, the importance of RAG is that usually when we have an LLM has been trained on certain amount of data, it does not know everything. So it can be something that out of the knowledge of the LLM and thanks to this information that has been retrieved, we can get an answer which is way less hallucinating. Yeah, the problem of hallucination of the LLM because it's specific to a context that has been given to the LLM.
Ale to jest tylko bug w moim kodzie DNA. Ale punkt jest, żartując, że to samo się dzieje z agencjami. Więc wszystkie te małe entity robią bardzo konkretne rzeczy, mogą robić bardzo konkretne zadania. Na przykład szukanie internetu. Running a piece of code. Choose which is the proper database to then do RAG. Jakieś matematyczne kalkulacje. Matematyczne kalkulacje, dokładnie. Np. nazwanie API, wiedząc, jaki jest schemat i wszystko, nazwanie API. Wiele innych interakcji, które mogą być przedstawione. Co się dzieje, jest to, że wywołujemy pytania, główny orkiestrator LLM decyduje, czy jest sensowo zaangażować jednego z tych agentów, a potem uruchamia agentów, otrzymuje wypowiedź
Names mentioned in practice and the future. There was GPT-2, so it was like a painful process to work with. Definitely not as powerful as today. There's a different parameter to adjust and the results were quite very scarce, but with some hard work and others. And the example that I shared before about the funny stuff of changing the prompt and doing the workshop, they all come from this project. One have been employed also in many other projects. And this uses, obviously, drag.
Feedback loop, agent to agent, using RAG, using different models, small model into the agents and all of these things. Z perspektywy biznesowej, bias to może być coś, antropomorfizm z powiem cześć, powiem cześć, powiem proszę, dziękuję, kiedy interakcjujesz z modelem, aby otrzymać informacje, dać jasność. Nikt nie lubi czytać trzykrotnych e-mailów, więc krok po kroku, kiedy zapytasz o coś, Names mentioned in practice and the future.
Pokazano wszystkie 6 dopasowań. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Wprowadzenie do tematu Gen AI i jego zastosowań w praktyce. Omówienie, co to jest Gen AI i jak jest używane w rozwoju aplikacji.
Definicja Gen AI przez gościa i omówienie, jak jest używane jako narzędzie w rozwoju aplikacji.
Omówienie procesu przygotowywania promptów do Gen AI i znaczenie interakcji z użytkownikiem.
Ważność kontekstu w interakcji z Gen AI i sposób, w jaki wpływa na odpowiedzi modelu.
Szczegółowe omówienie agentów i technologii RAG, ich zastosowania i korzyści.
Omówienie prompt engineeringu, jego znaczenia i roli w interakcji z Gen AI.
Omówienie homologacji i korzyści z użycia różnych modeli językowych w projektach AI.
Symulacje między agentami i ich wpływ na naukę i rozwój modeli AI.
Omówienie problemu biasu w modelach AI i znaczenia filtracji treści.
Aby nie przegapić kolejnych odcinków zasubskrybuj podcast TechChatter w swojej ulubionej aplikacji.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
„Aby nie przegapić kolejnych odcinków zasubskrybuj podcast TechChatter w swojej ulubionej aplikacji."
Kliknij, aby znaleźć fragmenty, w których pada.
***Ten odcinek został nagrany w języku angielskim. Opis odcinka w języku polskim poniżej.***
Ready for a journey into the future of technology? Join us as we dive into the fascinating world of Generative AI (Gen AI). Guided by Pierluigi Costanzo, we unveil the secrets of this groundbreaking technology. How can you craft effective prompts? How can AI simplify your daily life and revolutionize your work? And most importantly, how do you navigate the challenges of this cutting-edge tool? Get ready for a dose of inspiring examples, practical tips, and a vision of the future that starts today.
Topics covered in this episode:
How does Generative AI work, and what role do prompts play?What is a "context window," and why is it crucial?The RAG (retrieval-augmented generation) approach and the "chain of thought."The significance of AI agents and their collaboration with LLMs.How can AI become more "proactive," and what does that mean for the users?Challenges in applying Gen AI in business and what to watch out for.Episode expert:
Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.
Podcast Host:
Szymon Głowania - Programming Leader at Capgemini. He specializes in designing management dashboards and process automation. He regularly conducts training sessions, sharing his knowledge and skills. He is passionate about machine learning, which he is developing as part of his doctoral project. In his free time, he pursues his passions such as horseback riding, fishing, listening to music, and playing musical instruments.
Related Links:
How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/
The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matter
Retrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generation
Chain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-prompting
The Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/
Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626
Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301
This is the Capgemini Poland Podcast
https://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/
Produced by Cleverhearted
https://www.cleverhearted.com/
***Polish version***
Gotowy na podróż w przyszłość technologii? Zabieramy Cię w fascynujący świat Generative AI (Gen AI). Naszym przewodnikiem jest Pierluigi Costanzo, który odkrywa sekrety tej przełomowej technologii. Jak tworzyć skuteczne prompty? Jak AI może uprościć Twoją codzienność i zrewolucjonizować pracę? I wreszcie – jak radzić sobie z wyzwaniami tej technologii? Czeka Cię dawka inspirujących przykładów, praktycznych wskazówek i wizja przyszłości, która zaczyna się już dziś.
Tematy poruszane w odcinku:
Jak działa Generative AI i jaką rolę odgrywają prompty?Co to jest „okno kontekstu” i dlaczego jest kluczowe?Podejście RAG (retrieval-augmented generation) i „chain of thought”.Znaczenie agentów AI i ich współpraca z modelami LLM.Jak AI może być bardziej „proaktywna” i co to oznacza dla użytkowników?Wyzwania w zastosowaniu Gen AI w biznesie i na co zwrócić uwagę.Ekspert odcinka:
Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.
Prowadzący podcast:
Szymon Głowania - Programista z zamiłowaniem do tworzenia innowacyjnych rozwiązań technologicznych. Jego specjalnością jest projektowanie kokpitów menedżerskich, które umożliwiają efektywną analizę i zarządzanie danymi. Pasjonat uczenia maszynowego, nad czym pracuje w ramach swojego projektu doktoranckiego. Poza pracą zawodową, znajduje czas na swoje hobby - jeździectwo i wędkowanie.
Linki do zagadnień poruszanych w rozmowie:
How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/
The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matter
Retrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generation
Chain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-prompting
The Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/
Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626
Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301
Podcast Capgemini Polska
https://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/
Produkcja: Cleverhearted
https://www.cleverhearted.com/