evoilutioncast 45: How to build a solid foundation for AI on VCF?

Przede wszystkim, Frank, miło Cię tutaj poznać. Kiedyś w Polsce? Dwa, trzy lata temu? Myślę, że tak. Było to nawet przed COVID-19m. Było to przed COVID-19m. Tak, bo po tym, że Demkan przyjeżdżał do VMAX... Wszystko jest blurowane. Tak, zdecydowanie. Dzień dobry wszystkim. To jest evolutioncast. Nazywam się Maciej Lelusz. Dzisiaj z nami jest Frank Denneman. Siedzę dzisiaj w jego brzuchu. Jak długo siedziałeś w VMware i w Broadcom? W totalności ponad 12 lat, ale miałem krótki stint z start-upem w ekosystemie VMware. Było to 4-3 lata na start-upie.

Back to VMware and now I'm in my eighth year, actually hitting nine in October or something like that. Cool. Twelve years. So you see that, you see the all of ACES, the products, the going out products, the Broadcom acquisition, everything there. I think I saw every CEO except Diane. Ale z powodu tego faktu, że pracowałem w społeczeństwie od 2005 roku, w zasadzie instalując ESXi i idąc od tamtej pory, więc przyjechałem do... mój pierwszy WM World był w 2006 roku, tak, i przyjechałem do TSX w Europie, więc widziałem wszystkich CEO'ów do tej pory, tak. To dobrze, to dobrze, dobry background.

So we build, before we basically go into the use cases, we build a platform that looks at what do you need. Names mentioned in English. Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA. Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA.

Więc zamiast mówić, o, tutaj jest platforma, Now you basically have to find out everything yourself. We said no. We're going to help you along the way. We're not going to build everything because we have a very strong ecosystem with a lot of partners, but we will give you enough functionality to make your first steps. In essence, what we do with Private AI Foundation is we focus on Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom

Ludzie bardziej często wybierają, powiedzmy, TensorFlow czy coś takiego. Widzimy, że to coraz bardziej popularne. Wybrałeś to, żeby zbudować platformę dla inżynierów, dla deweloperów, prawda? Tak. Co ta platforma robi? Myślę, że to jest dobre. Przechodzimy do tego zakresu użycia, ponieważ powiedziałeś, że jest to bezpieczne miejsce. Teraz weźmy zakres użycia tego DLVM, czy AI Cage Cluster. Zazwyczaj, co się dzieje, jeśli spojrzymy na Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA.

Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA. You can download LAMA, the one from Meta, the foundation model from Meta. That means that you have a large language model that's already pre-trained with a lot of knowledge, with a lot of data. Or you can use Mistrals or Mixtrals, one of the European models. Or you can go to China and you can take a look at DeepSeq or whatever. The interesting thing is...

I need to make sure that that's the case, but we are thinking about, okay, can we somehow... Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA. Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA. Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA

Tak, pacjent pyta pytania z wypowiedzi i przetestuje tę rozmowę. Od razu wypełnia wypowiedzię, więc po rozmowie pacjent tylko musi sprawdzić, czy to jest dokładne, a następnie podpisać to do systemu. To zmniejszy tak duży rozmiar pracy. Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom,

So it's a faster way, it's an efficient way of doing your job. Names mentioned, Names mentioned, Names mentioned, Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA. Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, NVIDIA.

Są organizacjami, które pracują z AI od początku. Może budują ich modeli, bo są świadomi, że nie są tak wielkie, ale używają czegoś, co jest tam i używają to w bardzo profesjonalny sposób. Mogą zwiększyć możliwość prywatnej AI z NVIDIA, z Broadcom. Names mentioned, Names mentioned, Names mentioned,

However, that's such a corner case that we typically don't see as a true value for our platform. To give you an example, if you want to build a very, very, very large Names mentioned, Maciej Lelusz, Frank Denneman, VMware, Broadcom, They are using two different networks to figure out what's fastest, but for that scenario, we don't say, look, build that on VCF.

Wiele razy z naszymi klienciami słyszymy, że zbudujmy model i mówią, że kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, kochani, Nie zapomnijcie zasubskrybować kanał i zafollowować mnie na Facebooku! You are focusing VMware in Broadcom on the infrastructure for AI. Because if you will start to be focused on the use cases, you know, like the specific things, you stop to be infrastructure company and you start to be some crazy startups, ecosystem solving everybody's problem, right?

And I don't believe that it's a... Good place to be. It's more like you enable the platform and maybe in the future some marketplace to buy fast kind of solution on AI. It means this model GUI and stuff like that to run on private AI with NVIDIA from Broadcom plus Tanzu platform, right? Because basically this is it. They deliver that in VMs or containers and they use packed models with some tuning, right? Nie jest to nawet bardzo dużo, szczerze mówiąc. Dla wielu usług, po prostu weźcie swoje dane, nie jest ich tak dużo zmienione. Chodźcie, jeśli jesteście lofem, ile razy otworzyliście nowe usługi. Może trzy razy, cztery razy. Nie jest to trzy tysiące razy.