Co jsem to zatim pouzival, tak 6-Astra je podstatne rychlejsi, nez 6.1 Sol, ale nesnazil jsem se o nejake vedecke metody srovnani, takze to muze byt kdecim... S Astrou se ovsem daji utratit silene penize mnohem snaz, takze ocekavam, ze ji firmy budou celkem blokovat
@Petr Klíma
Je to tak. A co jsem četl, tak obecně firmy chtějí jít cestou onprem nebo vlastních modelů, resp. případně open modely a na vlastní infra. Top modely jsou prostě extrémně drahé a zdaleka ne všude jsou třeba. Viz třeba poslední info od MS tokenové úspory, myslím zejména od Antropicu.
@Lukáš Petříček
Ono tam jde i o to, že velké korporace pracují často s daty, na které se vztahuje GDPR, případně jde o interní předpisy a obchodní informace, takže z principu nesmějí z firmy ven. Tam jiná možnost, než lokální model ani není.
@jivy
To bezesporu. Pokud jde ale o úspory, místo provozu, který tam v tokenech doposud šel, tak za předpokladu dodržování těchto pravidel, o zmíněný provoz jít nemohlo. GDPR a EU regulace zde nejsou novinkou. Druhá věc je, že praxe bývá samozřejmě všelijaká. 😁
@Lukáš Petříček
Co je ovšem novinkou je řešení s využitím AI. Velké firmy typicky AI napřed testují na méně citlivých datech, ale ve chvíli, kdy se rozhodnou AI využívat pro ta citlivá, tak přecházejí na interní řešení. To je pro nás zajímavé z toho důvodu, že se tím posiluje poptávka po kritickém HW a dále prohlubuje současný nedostatek a tedy i tlak na růst cen. To nezmizí do půl roku.