Mentionsy

Jak rozumiem, te wcześniejsze modele to były właśnie Transformery.

Model, który zaproponowaliście, od transformerów się różni, ale na jakiej zasadzie pracują transformery w ogóle?

Jak się tym zastanowisz, transformery to są modele, które wygrały dlatego, że się dobrze skalują i dobrze się skalują na GPU.

Transformery się skalują głównie właśnie skalą, niektórzy to nazywają taką brutalną siłą po prostu w skalowaniu, czyli staramy się wsadzić dużo więcej danych, staramy się wsadzić ogólnie więcej wszystkiego, jak niektórzy mówią.

Jeżeli chodzi o funkcje, które mózg może zrobić, no to właśnie transformery tak jakby trochę przez to, jak działają i czym są, nie mogą uczyć się w sposób ciągły.

Tak działają transformery.