The technology that guides us: Gen AI in practice and the future
***Ten odcinek został nagrany w języku angielskim. Opis odcinka w języku polskim poniżej.***Ready for a journey into the future of technology? Join us as we dive into the fascinating world of Generative AI (Gen AI). Guided by Pierluigi Costanzo, we unveil the secrets of this groundbreaking technology. How can you craft effective prompts? How can AI simplify your daily life and revolutionize your work? And most importantly, how do you navigate the challenges of this cutting-edge tool? Get ready for a dose of inspiring examples, practical tips, and a vision of the future that starts today.Topics covered in this episode:How does Generative AI work, and what role do prompts play?What is a "context window," and why is it crucial?The RAG (retrieval-augmented generation) approach and the "chain of thought."The significance of AI agents and their collaboration with LLMs.How can AI become more "proactive," and what does that mean for the users?Challenges in applying Gen AI in business and what to watch out for.Episode expert:Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.Podcast Host:Szymon Głowania - Programming Leader at Capgemini. He specializes in designing management dashboards and process automation. He regularly conducts training sessions, sharing his knowledge and skills. He is passionate about machine learning, which he is developing as part of his doctoral project. In his free time, he pursues his passions such as horseback riding, fishing, listening to music, and playing musical instruments.Related Links:How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matterRetrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generationChain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-promptingThe Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301This is the Capgemini Poland Podcasthttps://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/Produced by Cleverheartedhttps://www.cleverhearted.com/***Polish version***Gotowy na podróż w przyszłość technologii? Zabieramy Cię w fascynujący świat Generative AI (Gen AI). Naszym przewodnikiem jest Pierluigi Costanzo, który odkrywa sekrety tej przełomowej technologii. Jak tworzyć skuteczne prompty? Jak AI może uprościć Twoją codzienność i zrewolucjonizować pracę? I wreszcie – jak radzić sobie z wyzwaniami tej technologii? Czeka Cię dawka inspirujących przykładów, praktycznych wskazówek i wizja przyszłości, która zaczyna się już dziś.Tematy poruszane w odcinku:Jak działa Generative AI i jaką rolę odgrywają prompty?Co to jest „okno kontekstu” i dlaczego jest kluczowe?Podejście RAG (retrieval-augmented generation) i „chain of thought”.Znaczenie agentów AI i ich współpraca z modelami LLM.Jak AI może być bardziej „proaktywna” i co to oznacza dla użytkowników?Wyzwania w zastosowaniu Gen AI w biznesie i na co zwrócić uwagę.Ekspert odcinka:Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.Prowadzący podcast:Szymon Głowania - Programista z zamiłowaniem do tworzenia innowacyjnych rozwiązań technologicznych. Jego specjalnością jest projektowanie kokpitów menedżerskich, które umożliwiają efektywną analizę i zarządzanie danymi. Pasjonat uczenia maszynowego, nad czym pracuje w ramach swojego projektu doktoranckiego. Poza pracą zawodową, znajduje czas na swoje hobby - jeździectwo i wędkowanie.Linki do zagadnień poruszanych w rozmowie:How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matterRetrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generationChain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-promptingThe Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301Podcast Capgemini Polskahttps://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/Produkcja: Cleverheartedhttps://www.cleverhearted.com/
Jest to część przygotowania rozmowy i część elementów działania Gen AI. This is an important part. The context that we add around of course it helps with the prompt and there is something called context window. So this is kind of like a limitation of any large language model if you think about. So they can only take in one time certain amount of information. In other words, More to use Gen AI jargon. Or they can only take X amount of token. Some model has more, some model has less. This relevant is still the context window that this is. What does it mean is that when you add your question, your initial prompt, your output, and then another prompt, and then the output, that's all fill an entire context window.
Do we have specialized persons that can work on Word, Microsoft Word. Or like everyone more or less knows the basics of that. Tak, więc mamy taką samą opinię na ten temat, więc myślę, że podstawowe wiedza o tym, jak to działa, co możemy dostać i jak możemy go używać, będzie potrzebna dla wszystkich, ponieważ wszystkie firmy muszą używać tego narzędzia AI, ponieważ marki dają tę informację. Musimy otrzymać odpowiedź szybciej, lepiej itd. Tak, dokładnie. Zazwyczaj próbujemy to poprawić. I możemy zrobić to łatwiej z jakimiś AI.
Dokładnie. To nie oznacza, że prąd inżynierii nie jest ważną rolą. Zazwyczaj, jeżeli jesteśmy na bardzo, bardzo niskim poziomie, a jeśli chodzi o techniczne rzeczy, to trening modelu i rozwijanie go wymaga kogoś, kto jest naprawdę dobry w prąd inżynierii. Prompt engineering can be also coaches, right? We have lots of people that they need to still adapt. We need coaches, basically engineering, prompt coaching, basically, that can help in the organization to understand how to use this tool, especially if we are going to employ much, much, much more for productivity, right? Like in the past, we always had people that can help us on some other productivity tool, how to use a Word, how to use a property, a PowerPoint, how to use a property in Excel, right?
Tak, na stronie technicznej i na stronie biznesowej. Myślę, że na stronie technicznej, mimo że są coraz lepsze i lepsze, jest procesowanie różnych typów danych, które pochodzą z różnych źródł, w sensie, które pochodzą z różnych typów. Wyobraźmy sobie tonę powerpointów, old powerpoints, Word file, Excel file, które są prawdopodobnie bardzo trudne. Excel file i PDF są dużo łatwiejsi, tekst file, markdowny są zazwyczaj dużo łatwiejsi. Więc jeśli chodzi o ten inny typ, zwłaszcza Excel, i zwłaszcza kiedy mamy dane numerowe, Purely dump them into a vector store and retrieve them.
Pokazano wszystkie 4 dopasowania. Transkrypcja generowana automatycznie i niesprawdzana ręcznie — może zawierać błędy.
Wprowadzenie do tematu Gen AI i jego zastosowań w praktyce. Omówienie, co to jest Gen AI i jak jest używane w rozwoju aplikacji.
Definicja Gen AI przez gościa i omówienie, jak jest używane jako narzędzie w rozwoju aplikacji.
Omówienie procesu przygotowywania promptów do Gen AI i znaczenie interakcji z użytkownikiem.
Ważność kontekstu w interakcji z Gen AI i sposób, w jaki wpływa na odpowiedzi modelu.
Szczegółowe omówienie agentów i technologii RAG, ich zastosowania i korzyści.
Omówienie prompt engineeringu, jego znaczenia i roli w interakcji z Gen AI.
Omówienie homologacji i korzyści z użycia różnych modeli językowych w projektach AI.
Symulacje między agentami i ich wpływ na naukę i rozwój modeli AI.
Omówienie problemu biasu w modelach AI i znaczenia filtracji treści.
Aby nie przegapić kolejnych odcinków zasubskrybuj podcast TechChatter w swojej ulubionej aplikacji.
Rozdziały i streszczenia generowane automatycznie. Pełna transkrypcja nie jest publikowana — wyszukaj frazę, aby zobaczyć dopasowane fragmenty.
„Aby nie przegapić kolejnych odcinków zasubskrybuj podcast TechChatter w swojej ulubionej aplikacji."
Kliknij, aby znaleźć fragmenty, w których pada.
***Ten odcinek został nagrany w języku angielskim. Opis odcinka w języku polskim poniżej.***
Ready for a journey into the future of technology? Join us as we dive into the fascinating world of Generative AI (Gen AI). Guided by Pierluigi Costanzo, we unveil the secrets of this groundbreaking technology. How can you craft effective prompts? How can AI simplify your daily life and revolutionize your work? And most importantly, how do you navigate the challenges of this cutting-edge tool? Get ready for a dose of inspiring examples, practical tips, and a vision of the future that starts today.
Topics covered in this episode:
How does Generative AI work, and what role do prompts play?What is a "context window," and why is it crucial?The RAG (retrieval-augmented generation) approach and the "chain of thought."The significance of AI agents and their collaboration with LLMs.How can AI become more "proactive," and what does that mean for the users?Challenges in applying Gen AI in business and what to watch out for.Episode expert:
Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.
Podcast Host:
Szymon Głowania - Programming Leader at Capgemini. He specializes in designing management dashboards and process automation. He regularly conducts training sessions, sharing his knowledge and skills. He is passionate about machine learning, which he is developing as part of his doctoral project. In his free time, he pursues his passions such as horseback riding, fishing, listening to music, and playing musical instruments.
Related Links:
How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/
The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matter
Retrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generation
Chain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-prompting
The Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/
Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626
Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301
This is the Capgemini Poland Podcast
https://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/
Produced by Cleverhearted
https://www.cleverhearted.com/
***Polish version***
Gotowy na podróż w przyszłość technologii? Zabieramy Cię w fascynujący świat Generative AI (Gen AI). Naszym przewodnikiem jest Pierluigi Costanzo, który odkrywa sekrety tej przełomowej technologii. Jak tworzyć skuteczne prompty? Jak AI może uprościć Twoją codzienność i zrewolucjonizować pracę? I wreszcie – jak radzić sobie z wyzwaniami tej technologii? Czeka Cię dawka inspirujących przykładów, praktycznych wskazówek i wizja przyszłości, która zaczyna się już dziś.
Tematy poruszane w odcinku:
Jak działa Generative AI i jaką rolę odgrywają prompty?Co to jest „okno kontekstu” i dlaczego jest kluczowe?Podejście RAG (retrieval-augmented generation) i „chain of thought”.Znaczenie agentów AI i ich współpraca z modelami LLM.Jak AI może być bardziej „proaktywna” i co to oznacza dla użytkowników?Wyzwania w zastosowaniu Gen AI w biznesie i na co zwrócić uwagę.Ekspert odcinka:
Pierluigi Costanzo - Head of AI at Capgemini. His work focuses on developing sustainable AI solutions with a meticulous and structured approach to ensure fairness and robustness in AI. With extensive experience in Machine Learning, Deep Learning, Natural Language Processing, Computer Vision, and Generative AI, Pierluigi mentors Data Science and Data Engineering teams, promoting a culture of scientific rigor and best practices in AI. He is committed to fostering ethical and sustainable AI and holds degrees in Economics and Statistics from Bocconi University, International Management from Kozminski University, and Data Science from UNIC Nicosia, where he also served as an AI Research Assistant.
Prowadzący podcast:
Szymon Głowania - Programista z zamiłowaniem do tworzenia innowacyjnych rozwiązań technologicznych. Jego specjalnością jest projektowanie kokpitów menedżerskich, które umożliwiają efektywną analizę i zarządzanie danymi. Pasjonat uczenia maszynowego, nad czym pracuje w ramach swojego projektu doktoranckiego. Poza pracą zawodową, znajduje czas na swoje hobby - jeździectwo i wędkowanie.
Linki do zagadnień poruszanych w rozmowie:
How Generative AI Works and the Role of Prompts: https://www.lyzr.ai/blog/prompt-engineering-101-how-to-write-powerful-prompts/
The Concept of 'Context Window' and Its Importance: https://cloud.google.com/transform/the-prompt-what-are-long-context-windows-and-why-do-they-matter
Retrieval-Augmented Generation (RAG) and 'Chain of Thought' Approaches: https://en.wikipedia.org/wiki/Retrieval-augmented_generation
Chain-of-Thought Prompting: https://attri.ai/generative-ai-wiki/chain-of-thought-prompting
The Role of AI Agents and Their Collaboration with Large Language Models (LLMs): https://www.investors.com/news/technology/nvidia-stock-ai-agents-software-companies/
Enhancing AI Proactivity and Its Implications for Users: https://arxiv.org/abs/2305.13626
Challenges in Applying Generative AI in Business and Key Considerations: https://www.wsj.com/articles/companies-look-past-chatbots-for-ai-payoff-c63f5301
Podcast Capgemini Polska
https://www.capgemini.com/pl-pl/kariera/dlaczego-capgemini/
Produkcja: Cleverhearted
https://www.cleverhearted.com/