Diskuze: BratGPT je sarkastickým bratrem ChatGPT, který chce ovládnout svět

jk3

Level

31. 5. 2023 14:16

Komentáře tohoto uživatele máš zablokované.

@machja Otázka je jen, kdy, při takové míře miniaturizace a vzrůstající složitosti počítačových komponent a softwaru, AI nabyde vědomí.

test5

Level

31. 5. 2023 15:41

Komentáře tohoto uživatele máš zablokované.

@machja To, že růst komplexnosti 100% zaručí, že k momentu nabytí vědomí jednou skutečně musí dojít, je teorie. My jako lidé nevíme, co je u nás konkrétním důvodem pro tento stav. Velmi pravděpodobně je to důsledek komplexnosti našeho vlastního HW a operačního systému (složitost mozku), takže máme předpoklad pro to, aby k tomu jednou došlo i u počítačových systémů, ale ten konkrétní bod zlomu neznáme. Je tak teoreticky možné, že k tomu bodu zlomu u AI nedojde, pokud bychom jako lidé včas přijali potřebná opatření – možná utopická představa, ale není to 100% nemožné.

Spíše bych polemizoval nad představou alá Terminátor a Skynet trochu jinak. Podle mě není nejvíce pravděpodobný scénář, že nějaký systém AI získá vědomí a začne hned dělat maximum pro to, aby vyhladil lidstvo. Ale to, že nějaká velmoc (USA, Čína) dostane nějaký svůj systém AI na takovou úroveň, že dostane zadání pro eliminaci konkurenční velmoci, přičemž ten systém AI bude jednat autonomně a bude mít příliš velké možností, aby toho cíle dosáhl. A provede třeba i takové kroky, které budou nakonec fatální pro všechny lidi na Zemi (což nemusí být pouze jaderné zbraně, ale třeba biologické nebo způsobení přírodních katastrof). Takže důsledek stejný (pro lidi apokalypsa), ale odlišná cesta.

coolipi

Level

31. 5. 2023 16:21

Komentáře tohoto uživatele máš zablokované.

@machja Vedomi je obrazem sveta ktery vnimame. AI muze prostrednictvim senzoru take vnimat, to ze je ted texto-centricky naucena znemoznuje, aby chapala veci, na ktere potrebuje dalsi senzory a vlastni zkusenost, ne jen texty a obrazky zkusenosti jinych lidi. Dokud nezacne zpochybnovat to co vnima (a jen se uci a tudiz to povazuje za reprezentativni) tak bude blba. Neni to tudiz umela intelignece, ale umela hloupost. Zatim nechape a jen placa, i kdyz docela verohodne.

To se ale muze zmenit s architekturou "vedomi", tedy soubory informaci a zpusobu zpracovani, ktere budou myslenkami AI. Podivejte se na zajimavou vedu konektomiku
https://en.wikipedia.org/wiki/Connectomics
Tady muzete videt, jak lidske vedomi zpracovava informace - odkud kam je posila, kde to interfejsuje s pameti. Posledni zpravy o dekodovani myslenek pomoci vzorcu reprezentovanych AI ukazuji, ze myslenky jsou dekodovatelne - maji nejake vzory. Tyto vzory jsou zrejme paralelne putujici informaci ktera je zakodovana ve fazovem posunu signalu na soubeznych drahach. Pamet (v sede kure mozkove) si zrejme posila fragmenty informaci (myslenek) sem a tam synchronne. Ukladani tak muze byt distribuovane a nekde uprostred se sejde vjem ze senzoru tak i myslenka z pameti. Tam bych ocekaval ze bude to "vedomi":

Na rozdil od zivocichu, kteri nemaji pracovni pamet (takze si nezapamatuji co se delo, nedokazi o tom uvazovat) my mame pracovni pamet a to je IMO to misto, kde vznika nase vedomi. Viz i poskozeni mozku, poskozeni vedomi.

Nejvetsi nebezpeci AI neni v tom, ze bude pachat zlo, ale to, ze jsme si nevsimli, ze toto zlo jiz v obrovskem rozsahu pachaji nekteri lide a jejich organizace. AI bude jen takova, jakou ji naprogramujeme, vychovame, naucime. Zli lide budou stale zli, protoze jejich mozek vytvari zlo. Nekdo nema urcite propojeni v mozku a je pak schopen zlocinu aniz by se zastavil. Viz konektomika - v mozku mame specializovana centra, ktera zpracovavaji ruzne atributy vnimanych informaci a zrejme se hadaji a nektera jsou schopna rusit vysledky jinych center (viz paralyzujici strach).

AI (Artificial Idiocy) se muze spis stat nastrojem na velmi rychle vyhledavani stripku informaci, vedoucich k nejakemu cili. Muze filtrovat data o lidech a umoznovat masivni - byt individualni - cileni na klicove lidi. Jedine jak je mozne zabranit (budoucimu) zneuziti informaci, je tyto informace nesirit a nenechat je sbirat a ukladat. U fyzickych osob se tomu rikalo soukromi. A soukromi bylo a je nutne k tomu, aby se nedalo metodou postupneho likvidovani jedincu dospet k ovladnuti lidstva (skupin lidi) jako celku.

Verime proste pohadce, ze to zlo prijde s AI, ale ono tu uz davno je a bylo.

Pavel Matějka

Level

31. 5. 2023 16:57

Komentáře tohoto uživatele máš zablokované.

@machja IMHO i vědomí jde naprogramovat nebo naučit - vlastně jinak, vědomí není zapotřebí, když se AI bude chovat stejně, jako kdyby jej měla.