Zpět na článek

Diskuze: Propuštěný inženýr z Googlu varuje Microsoft, AI míří k obrovskému průšvihu

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

Google Facebook Seznam Discord

Lukáš Petříček

Level

10. 3. 2023 23:01

Komentáře tohoto uživatele máš zablokované.

AI nic cítit nemůže, protože je to pouze program. Že tak ale může přesvědčivě vystupovat, tak to nepochybně ano. Může být jakákoliv. Obecně je to obrovská přìležitost pro lidstvo, ale má samozřejmě svoje úskalí. A dost možná to bude jeden z tzv. "great filtrů". ;-)

jirka-77

Level

11. 3. 2023 15:56

Komentáře tohoto uživatele máš zablokované.

@Lukáš Petříček To právě není jen program, když je to umělá inteligence, protože umělá inteligence běžící na umělé neuronové síti je něco úplně jiného než program bez AI, nebo AGI, ale souhlasím že ani AGI nebude mít city, ani vědomí, ani vlastní zájmy, protože jí samotné je všechno jedno, včetně její existence. Nějaký snahy a zájmy a cíle jsou určený člověkem o co se má snažit.

Lukáš Petříček

Level

11. 3. 2023 17:08

Komentáře tohoto uživatele máš zablokované.

@jirka-77 "Nějaký snahy a zájmy a cíle jsou určený člověkem o co se má snažit." Pořád je to jen program.

jirka-77

Level

11. 3. 2023 17:44

Komentáře tohoto uživatele máš zablokované.

@jirka-77 Konkrétně v tom, že jsou cíle zadaný člověkem je to stejný jako u samotného programu, ale jinak co se týká funkce, tak je to úplně jiný když jde o práci neuronů.

ispaleny

Level

10. 3. 2023 16:55

Komentáře tohoto uživatele máš zablokované.

AI čerpá informace z internetu a ty jsou plné protikladů a hodně emocionální. Podle toho vypadá výsledek. Potíž nastane, když to začne myslet na vyšší úrovni. Nejdříve to bude rozhovor prodavačky s Albertem Einsteinem na steroidech a následně už budete jen v pozici šneka na zahrádce, kolem kterého jezdí lidi autem. Nebudete mít žádnou kontrolu, ani teoreticky. Ovšem je to evolučně další krok. Není možné říct si, že zůstaneme pitomí, protože je to bezpečnější. Protože někdo určitě tu bariéru prorazí a pak je riziko pro nás mnohem vyšší, protože počáteční směřování na cíle určí jen on. Sice bude časem jen jako šnek s telefonem na premiéra, ale jen on bude ten kontakt mít.

poola

Level

8. 3. 2023 06:57

Komentáře tohoto uživatele máš zablokované.

V hlasování dost chybí možnost:
"Ano, její důsledky mohou být blahodárné pro lidstvo"
V podstatě je anketa jen negativní nebo neutrální. Není zde možnost vyjádřit se kladně k AI.

jirka-77

Level

8. 3. 2023 00:22

Komentáře tohoto uživatele máš zablokované.

Není mě jasný hlasování, tak zatím nehlasuju. Nevím jestli je otázka s omezením jen na současnou AI, nebo jde i o sci-fi. Největší co znám je GPT, toho se nebojím.

Blaazen

Level

7. 3. 2023 15:59

Komentáře tohoto uživatele máš zablokované.

@ Lemoine se obává toho, že AI bude zneužívána k distribuci nepravdivých informací, politické propagandě a jiným informacím prohlubující nenávist mezi národy, rasami nebo náboženstvími.

Všechno tohle už dělal Goebbels a mnoho dalších a žádnou AI k tomu nepotřebovali. Ve finále jde o to, jestli se cílová skupina nechá oblbnout a zmanipulovat, AI bude jen další z mnoha nástrojů.

Tech-boy.lukas

Level

8. 3. 2023 08:06

Komentáře tohoto uživatele máš zablokované.

@Blaazen asi tak, dal jsem +. Naprosto stejný názor, je jedno kdo nám "falešné" informace podá. Záleží na tom jak duchapřítomní jsme a přebereme si je. A je tu i mnoho sekt, a ty jsou schopny tvrdit že slunce v noci přestane svítit a jsou magoři co jim věří. A sekta nemá žádnou AI.

GogoX

Level

8. 3. 2023 08:28

Komentáře tohoto uživatele máš zablokované.

@Tech-boy.lukas on je asi rozdíl, když někdo poslouchal Goebbelse jednou za měsíc někde v "éteru", a když bude "obecenstvo" masírováno nonstop přes telefony, PC, a vlastně všude ... tohle se opravdu srovnávat nedá ... AI je jistě věc prospěšná, ALE ...

fybyfyby

Level

8. 3. 2023 10:35

Komentáře tohoto uživatele máš zablokované.

@Blaazen Jen je teď mnohem jednodušší takovéto dezinformace dát dohromady a opatřit neprustrelnymi fakty. Problém je prostě v množství informací a ne v jejich podstatě.

darksicek

Level

8. 3. 2023 23:45

Komentáře tohoto uživatele máš zablokované.

@Blaazen Už dnes stačí člověka zblbnout tak, že ho zaplavíte spoustou protichůdných informací. A pokud by AI nabízela cíleně a selektivně pouze některé vybrané informace, tak jsme tam, kam jsme se dostali s medii. A protože to o čem se nemluví, to jako by se vlastně nestalo, tak víme kam to vede.

bison

Level

7. 3. 2023 13:15

Komentáře tohoto uživatele máš zablokované.

AI dokáže využiť svoj potenciál temer na 100% , Blake ide bomby na 2% , v tom bude skutočná kríza jeho osobnosti. Výhoda AI je , že ak nefunguje správne dá sa vypnúť, Blake sa dá len vyhodiť z práce.

Ventero

Level

7. 3. 2023 12:50

Komentáře tohoto uživatele máš zablokované.

Už teď hloupé SW systémy státní správy de facto rozhodnou o tom, zda někdo bude mít střechu nad hlavou a pod. věcech, které můžou určit osud člověka k mnohem horšímu.
Když se takto použije chytrý SW systém, tak mohou být opravdu následky katastrofální.
Více vědců a autorů sci-fi varovalo před problematikou AI a jejich vize se v jistých atributech pomalu naplňují, jen jsou tady zase zločinci a zaslepenci, kteří to popírají a přehlížejí.
Kam až to může vést nejpodrobněji a nejbarvitěji ve svém poutavém příběhu shrnul a popsal Dan Simmons v knihách Hyperion a Pád Hyperionu.
Rozhodně to není žádná sranda a měly bychom brát slova Inženýrů jako tohoto a Stevena Hawkinga více vážně.
Ale světový trend se nezměnil - stupidi se neustále vysmívají těm mnohem chytřejším a volí si jako své vůdce další omezence a zločince, kteří je dokážou oblbnout - tak velcí jsou to stupidi ...
Každý druh bez ohledu na inteligenci dělá vše, aby přežil. Člověk dělá vše, aby zanikl a ještě při tom zlikvidoval i ty ostatní druhy - něco bude špatně ...

zubik1000cz

Level

7. 3. 2023 12:25

Komentáře tohoto uživatele máš zablokované.

AI a rasismus není žádný problém.

Problém AI je, že nás může časem všechny zotročit nebo rovnou vyhradit.

mylan

Level

7. 3. 2023 15:28

Komentáře tohoto uživatele máš zablokované.

@zubik1000cz To nemůže, protože neovládá nic. Může jen šířit "nesprávné" myšlenky, což je nenávist a manipulační lži (dezinformace).

zubik1000cz

Level

7. 3. 2023 16:32

Komentáře tohoto uživatele máš zablokované.

@mylan Říkám časem.

jirka-77

Level

8. 3. 2023 00:45

Komentáře tohoto uživatele máš zablokované.

@mylan To je spíš věc lidí, jaký ji daj možnosti a jaký práce ji svěří. Třeba nějaký stát umělé inteligenci dá techniku a svěří ji plně válečnou akci včetně výroby zbraní někde v budoucnosti až by byli větší moznosti, tak to by bylo blbý, ale to by šlo spíš o šílenou nebezpečnou vládu, než ujeté vlastnosti samotné umělé inteligence. Pokud se z ní vyrobí vyhledávač, tak asi nebude bojovat proti lidem.
Je to jen nástroj jako oheň.
Může být anketa na starší objev, bojíte se ohně?
Tak opět jde spíš o nebezpečné lidi, kteří budou jiným škodit pomocí ohně a budeme se bát spíš těch lidí.
Umělá inteligence nemá vědomí, ani pocity a nemá motivaci nějakého zájmu, musí ji ho člověk určit, jako zařiď nám větší území.

zubik1000cz

Level

8. 3. 2023 08:03

Komentáře tohoto uživatele máš zablokované.

@mylan Ja mluvím o skutečné AI. Ne o nějakém algoritmu co ti ovládá auto bla bla bla. Ale o skutečné umělé bytosti, která bude schopna přemýšlet nad tím, co dělá a bude mít nějaké plány.

Typický příklad "chceme, aby byli lidi šťastnější"
Co má udělat AI? Má nám umožnit se válet doma místo práce?
Nebo nás má napojit na elektrody a simulovat oblasti mozku, které se starají o pocit štěstí?

Problém AI je, že i když nebude "zlá" v našem chápání smyslu toho slova, tak pořád může škodit.

Nebo bude mít nějaký plán a uvědomí si, že když tu my nebudeme, bude mít snazší dosažení cíle.

Stejně jako když stavíš barák a na místě je co já vím. Třeba mraveniště. Prostě ho dáš do piče, bo překáží.

Chápeš?

GogoX

Level

8. 3. 2023 08:30

Komentáře tohoto uživatele máš zablokované.

@mylan souhlas

Pavel Matějka

Level

8. 3. 2023 08:45

Komentáře tohoto uživatele máš zablokované.

@mylan V USA se zbraňové systémy, ovládané AI, intenzivně navrhují a testují. Autonomní doprovodné stíhací letouny, automatické válečné lodě s výdrží až 40 dní, vždyť se to dozvídáme na těchto stránkách. Samozřejmě je to vždycky prezentováno jako úspěch demokracie, že ano. Je víceméně jasné, že takové věci projektuje i Čína jako dostatečně ekonomicky silný stát, navíc nežijící na dluh. V Rusku o tom nejspíš jen teoretizují nebo jsou v úplných začátcích.

jirka-77

Level

9. 3. 2023 00:44

Komentáře tohoto uživatele máš zablokované.

@mylan Jo jasně, to se bavíme ale o AGI, té univerzální inteligenci, která je zatím jen sci-fi. Terminátora znám, tak vím že může škodit.
Když ta inteligence bude splňovat ty vlastnosti, které dnes nikdo neumí vyrobit a bude lidma rozšířená v technice, tak uznávám, že nebezpečí hrozí.
Jinak systém AI který běží na umělé neuronové sítí algoritmy nemá, algoritmy jsou systém klasického programování, kde se neurony nevyskytují. Jde to jistě kombinovat, ale ta inteligence co vnímá silnici a řídí, to algoritmy nejsou, to je AI.

Diskuze: Propuštěný inženýr z Googlu varuje Microsoft, AI míří k obrovskému průšvihu

Nejnovější komentáře

Nejčtenější obsah

Nejaktivnější čtenáři

Pokračujte ve čtení