@Jan Belka
Malé lokální modely jsou budoucnost, protože jsou násobně energetický efektivnější. Navíc mají jako kontext veškerá data uživatele, takže jsou přesnější a nepálí výkon a nedělají chyby vzniklé odhadováním. Hodí se tak mnohem lépe např. na voice control zařízení, procházení poznámek atd. Mám s tím dobrou zkušenost, že lokální slabší model je pro lokální činnosti velmi efektivní.
@Jan Gulán
problem soucasny doby je v tom ze tohle skoro nikdo v telefonu nepouziva a zbytecne to cele zarizeni prodrazuje, to samy jako desitky asistentů v aute, ve finale je taky skoro zadny ridic nepouziva, a spise je vypina.. ohledne AI panuje sileny halo a zbytecne se to prifukuje jak to kazdej potrebuje a vyzaduje ale realita je proste uplne odlisna
@Jan Belka
Ja oboje používám a jsem za to rád. Mobil to nijak zásadně neprodražuje a u aut stejně musí být, takže v obou případech využíváš jen to co už tam je jen na mnohem víc věcí. Je to o zvyku a spíše bych řekl že je to tvůj subjektivní pocit. Pravda je někde uprostřed co se týče používání, ale hlavní je pro nás to jestli to něco prodražuje a to ne.
Jinak skoč si někdy na androidu do vyvojářského režimu. Ty mobily mají tolik akcelerací něčeho že to AI je jen kapka v moři. A je super, že díky němu se do mobilu nacpe RAM propustnost srovnatelná s GPU. Konečně bude mobil mít po letech i srovnatelný grafický výkon a ta latence je mega znát na odezvě. To by se pak dalo přenést do noťasů a možná i desktop. Přínos AI je spíše pozitivní, až se ustali ta paměťová krize.