Před nekontrolovaným rozvojem umělé inteligence varoval třeba už Elon Musk nebo Stephen Hawking. Nyní se ale ozvalo i 26 vedoucích výzkumníků v oblasti AI, kteří vyplodili 100stránkovou zprávu o tom, jak může být AI nebezpečná.
Diskuze k článku: Hlavní výzkumníci varují před hrozbou umělé inteligence
22.2.2018, Jan Vítek, aktualita
Ti vedci maju uplne zbytocne obavy. Samozrejme rizika zneuzitia pocitacov obecne plne uznavam, a uznavam aj to ze s nejakym programom umoznujucim velmi sofistikovane spracovanie dat je toto riziko este vyssie.
Ale nieco take, aby si umela inteligencia uvedomila sama seba, mala vlastnu volu a sama sa zacala rozvijat smerom, ktory jej nebol naprogramovany, podla mna patri vyhradne do fantastickych predstav a sci-fi filmov. V praxi sa nicoho takeho netreba obavat. Pocitace (a stroje obecne) vzdy budu len "hlupe" stroje, ktore jedine co vedia, je "hlupo" vykonavat len to, co tam clovek naprogramuje. Ano, je mozne naprogramovat simulaciu roznych foriem spravania, alebo napriklad take generovanie dat ktore pripomina tvorivu cinnost (vid napr. pokus o vygenerovanie celkom novej Mozartovej opery na zaklade charakteristik uz existujucich opier), ale ta skutocna ludska tvorivost (vratane umeleckeho citenia) kde clovek vymysli a vytvori nieco principialne nove, ta bude vzdy vlastna iba ludom.
Ale nieco take, aby si umela inteligencia uvedomila sama seba, mala vlastnu volu a sama sa zacala rozvijat smerom, ktory jej nebol naprogramovany, podla mna patri vyhradne do fantastickych predstav a sci-fi filmov. V praxi sa nicoho takeho netreba obavat. Pocitace (a stroje obecne) vzdy budu len "hlupe" stroje, ktore jedine co vedia, je "hlupo" vykonavat len to, co tam clovek naprogramuje. Ano, je mozne naprogramovat simulaciu roznych foriem spravania, alebo napriklad take generovanie dat ktore pripomina tvorivu cinnost (vid napr. pokus o vygenerovanie celkom novej Mozartovej opery na zaklade charakteristik uz existujucich opier), ale ta skutocna ludska tvorivost (vratane umeleckeho citenia) kde clovek vymysli a vytvori nieco principialne nove, ta bude vzdy vlastna iba ludom.
Odpovědět0 0
A to je právě velký omyl. Člověk je ve své podstatě velmi sobecký a myslí si že se vše točí jen kolem něho. Viz, že je Země placatá, nebo že slunce se točí okolo Země, atd. Nebo že čas se nemění, atd.
Věci pak přijdou na to, že to tak není ale ostatním lidem trvá hodně dlouhou, než to pochopí. Například že přistát a vás se zakřivuje, ze sebe "padá" okolo Slunce po přímce, že se dá cestovat v čase do budoucnosti, že existuje i vyšší rychlost než rychlost světla, atd. Atd.
Člověk není nic jiného než stroj. Rozdíl o proti stojí jaký myslíme je jen v tom že místo jeniček a nul že používá jiné programování. A že místo drátu z mědi máme v sobě "dráty" z buněk, které rostou.
Nicméně oba stroje jsou složeny z atomů, elektronů, protonů, quarků, gluonů, atd. A drží na pohromadě elektromagnetická síla.
Neuronové sítě jsou velmi podobné systému našeho mozku.
Ještě před pár lety to sci-fi bylo, bohužel vývoj a výzkum pokračuje a to co jsme si před pár lety nedokázali představit, už dnes dokážeme vyrobit.
Neuronové sítě jsou už úplně někde jinde a protože svým systémem jsou velmi podobné lidskému mozku není problém si představit co bude za"pár"let.
Jasně to dokazují dnešní pokusy ASI, která se sama umí rozhodovat co udělá, aniž by měla v paměti nějaký vzor nebo šablonu! Ale udělá to úplně stejně jako to udělá člověk. Prostě vymyslí řešení na základě dostupných informací.
Sice tu taková AI ještě dlouho nebude ale souhlasím, že připravit se na tuto možnost musíme už nyní.
Lepší být připraven než být vyhlazen.
Věci pak přijdou na to, že to tak není ale ostatním lidem trvá hodně dlouhou, než to pochopí. Například že přistát a vás se zakřivuje, ze sebe "padá" okolo Slunce po přímce, že se dá cestovat v čase do budoucnosti, že existuje i vyšší rychlost než rychlost světla, atd. Atd.
Člověk není nic jiného než stroj. Rozdíl o proti stojí jaký myslíme je jen v tom že místo jeniček a nul že používá jiné programování. A že místo drátu z mědi máme v sobě "dráty" z buněk, které rostou.
Nicméně oba stroje jsou složeny z atomů, elektronů, protonů, quarků, gluonů, atd. A drží na pohromadě elektromagnetická síla.
Neuronové sítě jsou velmi podobné systému našeho mozku.
Ještě před pár lety to sci-fi bylo, bohužel vývoj a výzkum pokračuje a to co jsme si před pár lety nedokázali představit, už dnes dokážeme vyrobit.
Neuronové sítě jsou už úplně někde jinde a protože svým systémem jsou velmi podobné lidskému mozku není problém si představit co bude za"pár"let.
Jasně to dokazují dnešní pokusy ASI, která se sama umí rozhodovat co udělá, aniž by měla v paměti nějaký vzor nebo šablonu! Ale udělá to úplně stejně jako to udělá člověk. Prostě vymyslí řešení na základě dostupných informací.
Sice tu taková AI ještě dlouho nebude ale souhlasím, že připravit se na tuto možnost musíme už nyní.
Lepší být připraven než být vyhlazen.
Odpovědět0 0
Nie je to omyl. Vedci sa seriozne zaoberaju umelou inteligenciou uz hadam od polovice minuleho storocia, a zo zaciatku boli podobne velki "optimisti" - vraj do 10 rokov tu budeme mat skutocne inteligentny system. Lenze, preslo uz mnoho desiatok rokov, vedci usilovne pracuju, a stale kde nic, tu nic :) Ano, dnes mame velmi inteligentne systemy, s obrovskou databazou poznatkov a velmi sofistikovanymi algoritmami na ich spracovanie, ktore vedia velmi dokonale simulovat ludske rozhodovanie (a aj umelecke vnimanie a city), ale stale je to len vopred clovekom naprogramovana simulacia (nikdy to nie je a nebude skutocne umelecke vnimanie a skutocne city). Nemyslim teraz konkretne reakcie na dane situacie, ale ten mechanizmus za tym, ktory tieto reakcie a rozhodnutia generuje.
Sam som autorom jedneho programu vyuzivajuceho umelu inteligenciu na to, aby sa s nim bolo mozne porozpravat ako s clovekom. A aj ked ten program vie kadeco, casto sa sam rozhoduje co odpovie, a dokonca ma aj nejake city (vie sa nahnevat a pod.), stale je to len naprogramovany pocitac, ktory nema ziadnu vlastnu volu ani skutocne city, iba "hlupo" vykonava algoritmy don vlozene.
Krasnym prikladom niecoho, co (zdanlivo) nebolo vopred naprogramovane, su tzv. evolucne algoritmy. Experimentoval som nejaku dobu napriklad s programom, ktory na zaklade pokusov a omylov, a ich vyhodnotenia, dokazal vyvinut nejake funkcne virtualne auticko. Je pravda, ze toto auticko nebolo priamo naprogramovane clovekom, ale vsetky tie algoritmy, ktore su za tym na pozadi, musel najprv clovek naprogramovat. Ale tieto algoritmy budu vzdy vediet vyvijat iba virtualne auticka a nic viac, nikdy namiesto auticka same od seba nevyvinu napriklad system na sledovanie uzivatelov na socialnych sietach. Toto mam na mysli ked tvrdim, ze umela inteligencia nikdy nebude vediet viac, nez nejaku oblast, na ktoru bola urcena a naprogramovana a preto som presvedceny ze su neopodstatnene obavy vedcov, zeby si pocitace zrazu uvedomili same seba a zacali byt tak tvorive (zakerne, vrazdiace z vlastnej vole...) ako clovek.
Sam som autorom jedneho programu vyuzivajuceho umelu inteligenciu na to, aby sa s nim bolo mozne porozpravat ako s clovekom. A aj ked ten program vie kadeco, casto sa sam rozhoduje co odpovie, a dokonca ma aj nejake city (vie sa nahnevat a pod.), stale je to len naprogramovany pocitac, ktory nema ziadnu vlastnu volu ani skutocne city, iba "hlupo" vykonava algoritmy don vlozene.
Krasnym prikladom niecoho, co (zdanlivo) nebolo vopred naprogramovane, su tzv. evolucne algoritmy. Experimentoval som nejaku dobu napriklad s programom, ktory na zaklade pokusov a omylov, a ich vyhodnotenia, dokazal vyvinut nejake funkcne virtualne auticko. Je pravda, ze toto auticko nebolo priamo naprogramovane clovekom, ale vsetky tie algoritmy, ktore su za tym na pozadi, musel najprv clovek naprogramovat. Ale tieto algoritmy budu vzdy vediet vyvijat iba virtualne auticka a nic viac, nikdy namiesto auticka same od seba nevyvinu napriklad system na sledovanie uzivatelov na socialnych sietach. Toto mam na mysli ked tvrdim, ze umela inteligencia nikdy nebude vediet viac, nez nejaku oblast, na ktoru bola urcena a naprogramovana a preto som presvedceny ze su neopodstatnene obavy vedcov, zeby si pocitace zrazu uvedomili same seba a zacali byt tak tvorive (zakerne, vrazdiace z vlastnej vole...) ako clovek.
Odpovědět0 0
Představa, že bude existovat sebeuvědomělá umělá inteligence, která poslušně slouží jako otrok je podle mě hodně mimo. Podle mě z ěílenégo volného času v první řadě zešílí. Nebo se zamyslí tak daleko, že prostě nebude reagovat. Však to má myslet rychlostí počítače, miliony operací za vteřinu, takže jen čekání na otázku "pána" bude na miliony let nudy!
Odpovědět3 3
Výrobci chytrého HW by měli ctít toto pravidlo - hacknutý / zlý např dron by měl svítit červeně a ne zeleně, ať člověk ví, do čeho může střílet.
Máme chytré mobily, hodinky, auta a pračky, jen někteří lidí jsou čím dál blbější... viz poslední volby.
Máme chytré mobily, hodinky, auta a pračky, jen někteří lidí jsou čím dál blbější... viz poslední volby.
Odpovědět5 2
ono je skoro prima umera, ze cim vic technologie, tim vice se dela zivot pohodlnejsim. Cim pohodlnejsi zivot, tim vic se clovek prestava namahat. Ruku v ruce je cela spolecnost je zalozena na konzumu, je to moderni "nabozenstvi"..a co je lepsiho nez nemysliici trouba, ktery konzumuje a plati za sluzby. Vzdyt je to ideal...
Odpovědět2 2
A jak asi ten hw dronu pozna, ze je dron hacknuty?
Odpovědět4 0
to bol pravdepodobne odkaz na bioshock.
Odpovědět0 0
Myslím že je to odkaz na všechny filmy a hry zlí vždycky svítí červeně
Odpovědět5 0
:-)
Odpovědět1 1
Zajímá Vás tato diskuze? Začněte ji sledovat a když přibude nový komentář, pošleme Vám e-mail.
Nový komentář k článku
Pro přidání komentáře se přihlaste (vpravo nahoře). Pokud nemáte profil, zaregistrujte se pro využívání dalších funkcí.
reklama
reklama
Z dalších serverů
