general 1 min čtení

Transformer

Pokročilá architektura neuronových sítí pro zpracování sekvencí

Vysvětlení

Transformer je revoluční architektura neuronové sítě představená Googlem v roce 2017. Základem je "attention mechanismus", který umožňuje modelu zaměřit se na relevantní části vstupu. Transformery nahradily starší RNN a LSTM sítě díky lepší paralelizaci a schopnosti zachytit dlouhodobé závislosti. Tvoří základ většiny moderních jazykových modelů.

Příklady

BERT, GPT série, T5, Claude, všechny moderní jazykové modely

Více o Transformer

Najděte nástroje, články a prompty související s tímto pojmem pro praktické využití.

Prozkoumejte AI slovník

Objevte další general pojmy a rozšiřte své znalosti umělé inteligence.