Přejít k navigační liště

Zdroják » hAtom

Archiv pro štítek: hAtom

Čeká AI konec tokenizace?

‐ AI ‐
Komentáře: 0
Dnešní LLM neumí zpracovávat text přímo, ale potřebují ho rozdělit na tokeny. A ač to funguje, je to zároveň pro AI omezením. Letošní výzkumy ukazují, že klasický tokenizér možná nepotřebujeme. A že modely,…