Pozornosť
Staršie siete čítali text slovo po slove a na začiatok vety často „zabudli“. Transformer sa pozrie na všetky slová naraz a pri každom slove vyhodnotí, ktoré iné slová sú preň dôležité. Vo vete „Mačka nevyskočila na stôl, lebo bola unavená“ tak vie, že „bola“ sa týka mačky.
Paralelné trénovanie
Keďže transformer spracúva text naraz, dá sa trénovať na tisícoch grafických kariet súčasne. Vďaka tomu mohli vzniknúť obrovské modely trénované na veľkej časti internetu.
Nielen text
Transformery dnes spracúvajú aj obrázky, zvuk, video a proteíny. Na rovnakom základe stoja chatboty aj generátory obrázkov.