Já se ho na férovku zeptal jestli umí česky a napsal mi ­"Jasně že umím ty k*k*te!­" :)

já si s ním teď půl hodiny psal česky úplně na pohodu... musíš ho o to poprosit prostě

Zaplať si GPT4 s pluginama, pokud chceš přesné počítání potřebuješ přizvat Wolfram.

je to jen generátor textu s miliardami parametrů při trénování na extrémně drahém hardwaru. AI bude dělat to na čem je natrénovaná. Je to jen další stroj ­- proč tolik antropomorfizace?

Otázka je jen, kdy, při takové míře miniaturizace a vzrůstající složitosti počítačových komponent a softwaru, AI nabyde vědomí.

To, že růst komplexnosti 100% zaručí, že k momentu nabytí vědomí jednou skutečně musí dojít, je teorie. My jako lidé nevíme, co je u nás konkrétním důvodem pro tento stav. Velmi pravděpodobně je to důsledek komplexnosti našeho vlastního HW a operačního systému ­(složitost mozku­), takže máme předpoklad pro to, aby k tomu jednou došlo i u počítačových systémů, ale ten konkrétní bod zlomu neznáme. Je tak teoreticky možné, že k tomu bodu zlomu u AI nedojde, pokud bychom jako lidé včas přijali potřebná opatření – možná utopická představa, ale není to 100% nemožné.

Spíše bych polemizoval nad představou alá Terminátor a Skynet trochu jinak. Podle mě není nejvíce pravděpodobný scénář, že nějaký systém AI získá vědomí a začne hned dělat maximum pro to, aby vyhladil lidstvo. Ale to, že nějaká velmoc ­(USA, Čína­) dostane nějaký svůj systém AI na takovou úroveň, že dostane zadání pro eliminaci konkurenční velmoci, přičemž ten systém AI bude jednat autonomně a bude mít příliš velké možností, aby toho cíle dosáhl. A provede třeba i takové kroky, které budou nakonec fatální pro všechny lidi na Zemi ­(což nemusí být pouze jaderné zbraně, ale třeba biologické nebo způsobení přírodních katastrof­). Takže důsledek stejný ­(pro lidi apokalypsa­), ale odlišná cesta.

Vedomi je obrazem sveta ktery vnimame. AI muze prostrednictvim senzoru take vnimat, to ze je ted texto­-centricky naucena znemoznuje, aby chapala veci, na ktere potrebuje dalsi senzory a vlastni zkusenost, ne jen texty a obrazky zkusenosti jinych lidi. Dokud nezacne zpochybnovat to co vnima ­(a jen se uci a tudiz to povazuje za reprezentativni­) tak bude blba. Neni to tudiz umela intelignece, ale umela hloupost. Zatim nechape a jen placa, i kdyz docela verohodne.

To se ale muze zmenit s architekturou ­"vedomi­", tedy soubory informaci a zpusobu zpracovani, ktere budou myslenkami AI. Podivejte se na zajimavou vedu konektomiku
https:­/­/en.wikipedia.org­/wiki­/Connectomics
Tady muzete videt, jak lidske vedomi zpracovava informace ­- odkud kam je posila, kde to interfejsuje s pameti. Posledni zpravy o dekodovani myslenek pomoci vzorcu reprezentovanych AI ukazuji, ze myslenky jsou dekodovatelne ­- maji nejake vzory. Tyto vzory jsou zrejme paralelne putujici informaci ktera je zakodovana ve fazovem posunu signalu na soubeznych drahach. Pamet ­(v sede kure mozkove­) si zrejme posila fragmenty informaci ­(myslenek­) sem a tam synchronne. Ukladani tak muze byt distribuovane a nekde uprostred se sejde vjem ze senzoru tak i myslenka z pameti. Tam bych ocekaval ze bude to ­"vedomi­":

Na rozdil od zivocichu, kteri nemaji pracovni pamet ­(takze si nezapamatuji co se delo, nedokazi o tom uvazovat­) my mame pracovni pamet a to je IMO to misto, kde vznika nase vedomi. Viz i poskozeni mozku, poskozeni vedomi.

Nejvetsi nebezpeci AI neni v tom, ze bude pachat zlo, ale to, ze jsme si nevsimli, ze toto zlo jiz v obrovskem rozsahu pachaji nekteri lide a jejich organizace. AI bude jen takova, jakou ji naprogramujeme, vychovame, naucime. Zli lide budou stale zli, protoze jejich mozek vytvari zlo. Nekdo nema urcite propojeni v mozku a je pak schopen zlocinu aniz by se zastavil. Viz konektomika ­- v mozku mame specializovana centra, ktera zpracovavaji ruzne atributy vnimanych informaci a zrejme se hadaji a nektera jsou schopna rusit vysledky jinych center ­(viz paralyzujici strach­).

AI ­(Artificial Idiocy­) se muze spis stat nastrojem na velmi rychle vyhledavani stripku informaci, vedoucich k nejakemu cili. Muze filtrovat data o lidech a umoznovat masivni ­- byt individualni ­- cileni na klicove lidi. Jedine jak je mozne zabranit ­(budoucimu­) zneuziti informaci, je tyto informace nesirit a nenechat je sbirat a ukladat. U fyzickych osob se tomu rikalo soukromi. A soukromi bylo a je nutne k tomu, aby se nedalo metodou postupneho likvidovani jedincu dospet k ovladnuti lidstva ­(skupin lidi­) jako celku.

Verime proste pohadce, ze to zlo prijde s AI, ale ono tu uz davno je a bylo.

IMHO i vědomí jde naprogramovat nebo naučit ­- vlastně jinak, vědomí není zapotřebí, když se AI bude chovat stejně, jako kdyby jej měla.