Diskuze: AMD OpenClaw pro běh lokálních AI agentů na Ryzenech i Radeonech

jt

Level

dnes 12:45

Komentáře tohoto uživatele máš zablokované.

@Milan Šurkala Token je viacvýznamový pojem označujúci digitálne aktívum na blockchaine, bezpečnostný prvok, alebo jednotku textu pri spracovaní dát. V IT ide o kód na autentifikáciu, v kryptomenách o programovateľný token, a v lingvistike/AI o základný prvok (slovo, znak), ktorý modely spracovávajú.

Informatika a AI (Tokenizácia): Základná jednotka dát, ktorú modely umelej inteligencie (LLM) používajú pri trénovaní a generovaní textu. Ide o rozdelenie textu na slová, časti slov alebo znaky.

Toto si prečíta každý, ale nie každý si dokáže predstaviť/uvedomiť, čo to znamená. Podľa tých parametrov je to približne na vstupe 500 tokenov/s a na výstupe 50 tokenov/s. Pochopte, že toto nikomu nič nepovie. Ak sa začnem baviť s AI, tak ako jej dokážem poskytnúť 500 tokenov za sekundu? Ja si myslím, že toto sa trochu vymyká chápaniu a predstavivosti bežného užívateľa.

Ja som nechcel, aby ste vysvetľovali pojem slova token. Ani som sa na to nepýtal. To ste ma fakt tak zle pochopili? Alebo ste už vydali článok, kde sa popisuje, ako sa s tokenmi pracuje, čo je ich úlohou, ako sa spracovávajú, akým spôsobom sa dá dostať k výsledku?

Tu sa stále len dá článok, kde sa ohuruje počtom tokenov a čo z toho, keď ešte sú aj rôzne modely, ktoré to rôzne spracovávajú, majú iné požiadavky na tokeny a výstup ani nie je textový, či rečový, ale nejaký obrázok.