Společnost Moonshot představila nový LLM Kimi K3.1 Pro. Ten má téměř 3 biliony parametrů a svými výkony se může rovnat světové špičce.
Čínská společnost Moonshot představila svůj nejnovější AI model Kimi K3.1 Pro, který je prvním modelem v nové řadě K3.1 a jde o dosud nejvýkonnější open-weight model třídy 3T, tedy se zhruba 3 biliony parametrů. Model přichází současně s variantou Pro Highspeed, která nabízí 2-3krát vyšší rychlost ve srovnání se základní verzí při zachování stejných schopností. Kimi K3.1 Pro je verzí modelu K3 s dalším post-trénováním se zlepšením v oblasti programování, 3D tvorby a finanční analýzy.
Pokud jde o technické specifikace, model disponuje celkovým počtem 2,8 bilionu parametrů, z nichž se na jeden token aktivuje pouze 104 miliard. Díky takové architektuře modely obecně dosahují lepších poměrů inteligence a rychlosti. Kontextové okno je o velikosti 1 milionu tokenů. Moonshot místo vrstev RoPE použil NoPE (No Positional Embeddings), což umožňuje dosáhnout vyšší efektivity. Pro lepší výkon jsou pak použity formáty MXFP4 a MXFP8.
V oblasti architektury Kimi K3.1 Pro přichází s mechanismem Kimi Delta Attention (KDA), což znamená hybridní lineární pozornost. Místo klasického přístupu, kde KV cache roste lineárně s kontextem, využívá nový model kombinaci dvou typů asistentů. Tři asistenti udržují průběžné shrnutí nejdůležitějších informací (velikost dat se nemění, což ale znamená, že se průběžně zapomíná tím, jak se s nárůstem informaci odstraňují ty méně důležité), zatímco čtvrtý asistent vytváří komprimovaný globální snímek celého kontextu.
Výkonnostně model v některých testech překonává i takové modely, jako jsou GPT-6 Astra nebo Claude Fable 5.1. V programování Kimi K3.1 Pro zvládá komplexní úlohy od oprav v existujících projektech až po budování celých nových projektů, např. v Unity nebo Unreal Engine. V interním testu dokázal autonomně vyvinout simulátor chůze člověka a při chybách v pohybu sám identifikoval a opravil 36 chyb ve výpočtech. Klesla také míra halucinací, kdy nyní spadá mezi výkon Opus 5.5 a GPT-6 Astra.
K dispozici je přes API s cenou 2 USD za milion vstupních tokenů, 10 USD za výstupní a 0,20 USD za cache, což je o 33 % levnější než u předchozí verze K3 (tam šlo o 3/15/0,3 USD). Váhy modelu budou zveřejněny k 4. listopadu 2026.
