O co chodzi z aferą wokół OpenAI? 🍿

że zamierza w najbliższym czasie przeznaczyć 50 miliardów dolarów na budowę czy zakup infrastruktury, czy jak rozumiem m.in. badania nad chipami. Teraz tak, z tego co wiem, bo zrobiłem sobie szybki research, to mamy na tapecie są dwie rzeczy. Azure Maya AI, to jest chip, który jak rozumiem będzie wykorzystywany w celu uczenia oraz coś, co się nazywa Azure Cobalt CPU, czyli wspierane przez Arma procesor. I teraz pytanie jest, ponieważ to czasami pada, ale chciałbym, żebyśmy my to powiedzieli głośno. Może do Was dwóch, ale domyślam się, że Max może mieć trochę więcej tutaj informacji. Po co jest, jaka jest różnica między CPU a GPU? Dlaczego teraz się to robi na kartach graficznych?

Dlaczego szkolimy modele sztucznej inteligencji na kartach graficznych, a nie wykorzystujemy procesory? Panie profesorze, dlaczego? Panie profesorze. W bardzo dużym skrócie procesory są do wszystkiego, a GPU są bardzo mocno wyspecjalizowane. To jest oczywiście ogromne uproszczenie, ale tak rzeczywiście jest. GPU są bardzo dobre w skomplikowanych obliczeniach, szczególnie jeżeli mamy zmiennoprzecinkowe wartości, mamy bardzo duże liczby, które musimy bardzo szybko przetworzyć w dużej ilości. W przypadku CPU generalnie przysłowiowe mydło i powidło, one robią wszystko. Zostały stworzone, jeżeli chodzi o architekturę, szczególnie tak archaiczną, jaką jest x86, czyli praktycznie, że biorąc w nią, ale każdy pecet, który się znajduje przed naszymi nosami.

Tutaj nie patrzę specjalnie w stronę Maca, bo tam nastąpiła dosyć duża rewolucja. No to będą otwierające oczy bardzo wielu ludziom na świecie, jeżeli chodzi o to, co jest możliwe, bo wszyscy zaspali o jakieś dwie dekady łącznie, co najmniej. więc GPU są wymarzone do tego, ażeby szkolić, a później wykonywać działania związane ze sztuczną inteligencją, bo mamy z jednej strony szkolenie, czyli proces tego trenowania, gdzie musimy przetwarzać ogromne ilości informacji, natomiast bardzo podobne do tego procesu trenowania jest tak zwana inferencja, w której generujemy te odpowiedzi, czyli ta sztuczna inteligencja już myśli w cudzysłowie i coś nam generuje. Teraz tak, GPU nie działają bez CPU. To jest takie generalne założenie, dlatego że GPU to jest, jakbyśmy popatrzyli na komputer, nie wiem, kogoś grającego, jakiegoś gracza, no to jest w środku taka duża karta, która zużywa ponad połowę prądu z tej puszki, która jest komputer.

Natomiast jest to karta, jest to dodatkowy komponent. To wszystko jest nadal umieszczone na płycie głównej, płyta główna ma... CPU, czyli ten główny procesor, tam jest pamięć oddzielna dla karty graficznej, oddzielna dla tego CPU, czyli tego głównego procesora. Jest jakiś system operacyjny, który działa i jest od strony CPU, a nie od strony GPU. Więc w praktyce świętym gralem w tej chwili jest to, żeby usunąć z tego równania niepotrzebne elementy. Najlepiej usunąć tak bardzo, jak się da te CPU, żeby te nowe GPU było CPU. Tutaj akurat army przychodzą nam... z pomocą, czyli to są takie inna architektura procesorów, stosunkowo prosta z naszego punktu widzenia, bo znamy tą architekturę już od bardzo długiego czasu, natomiast pierwszym, który sięgnął po tą architekturę, żeby zrobić z nią coś bardziej poważnego niż smartfona czy na przykład kamerkę internetową,