Facebook X
Zpět na článek

Diskuze: Claude už vede 26 % svého vývoje. Někteří věří v 10% možnost, že AI zničí lidstvo

Nejsi přihlášený(á)

Pro psaní a hodnocení komentářů se prosím přihlas ke svému účtu nebo si jej vytvoř.

Rychlé přihlášení přes:

cj190133
cj190133
Level Level
dnes 11:46

Komentáře tohoto uživatele máš zablokované.

Ak AI rekurzivne vylepsuje svoj kod (a generuje zmysluplny naozaj vylepseny kod), je to len kusok od stavu, kedy si moze uvedomit sama seba.
Co sa stane dalej, sa predpovedat uz neda. Ale asi nic dobre.

LKT
LKT
Level Level
dnes 10:10

Komentáře tohoto uživatele máš zablokované.

Investície do AI už dnes prevyšujú reálne možnosti firiem, musia si na to požičiavať za úroky ktoré zvyšujú už tak vysoké náklady, budúcnosť AI nie je v HW a SW, ale kto to vlastne zaplatí....je to ako mať dieťa a poslať ho na lukratívnu školu ktorá pohltí celý rozpočet rodiny a nevyhnutne to povedie k banktoru. AI reálne nikto nepotrebuje, je to ako reklama, ak ju nechceš zaplať si za to! Pretláčanie AI do PC a iných zariadení, je už príliš agresívne, AI už dnes zvyšuje zbytočne ceny SW a HW, omáčka okolo AI ktorá sa šíri ako mor, reprezentuje ľudskú hlúposť ktorá je vskutku nekonečná a neprekonateľná. Absencia Inteligencie u ľudí je dnes aj vďaka AI do očí bijúca a môžeme s istotou tvrdiť, že vo vesmíre nie je nič tupšie ako ľudia.

Reklama
gepard2
gepard2
Level Level
včera 18:53

Komentáře tohoto uživatele máš zablokované.

Měl bych dotaz. Na vývojáře AI (jestli se o tom někde píše), na redaktora i na čtenáře. Jakým způsobem si představujete to, že AI zničí lidstvo? Jakým způsobem to může nastat?

Don Q
Don Q
Level Level
včera 22:36

Komentáře tohoto uživatele máš zablokované.

@gepard2 Armády států, které disponují jadernými zbraněmi, téměř jistě používají AI. Tudíž možnost, že AI "se vymkne" kontrole, bohužel nelze vyloučit.

batmaster
batmaster
Level Level
Windows
AMD
NVIDIA
dnes 07:50

Komentáře tohoto uživatele máš zablokované.

@gepard2 Například hacknutím bank, burzy a důležité energetické a průmyslové infrastruktury. Bez prostředků a energií moc dlouho nevydrží nikdo kromě těch, co jsou zvyklý na hrozné životní podmínky. A jsme rázem ve středověku. 🙃

Milan Šurkala
Milan Šurkala
SHW SHW
Windows
AMD
NVIDIA
dnes 08:16

Komentáře tohoto uživatele máš zablokované.

@gepard2 Mnoha různými způsoby, ať už AI samotnou nebo člověkem, který k tomuto účelu tu AI zneužije.

1, Útok na infrastrukturu. Hacknutí infrastruktury (energetické, vodní, bankovní), nedostatek zdrojů > nepokoje, občanská válka (a obecně jakákoli společenská nestabilita).

2, Zbraně s AI. Už dnes realitou. Pokud AI může rozhodovat o aktivaci zbraně, je to recept na průšvih. Čím lepší model, tím větší možnost, že si může sám hacknout zámek aktivace a tento limit si zrušit.

3, Biologické zbraně. Model může pomoci vyvinout účinnější biologické, chemické a jiné zbraně, nebo pomoci je snáze vytvořit nepovolanými osobami.

atd...

Lukáš Petříček
Lukáš Petříček
Level Level
dnes 11:07

Komentáře tohoto uživatele máš zablokované.

@gepard2 Viz Milan Šurkala. Ještě bych dodal, že to nemusí být útok přímo od AI, ale může využít i "social engineeringu" a vydírat retězcem vydíratelných lidí. Pokud jsou atomovky na síti, tak to měl někdo hodně hloupý nápad. Jinak současné LLM, pokud nemají agenti ani infra nějakou fyzickou zpěznou vazbu a fyzické zastoupení ve fyzickém světě, kromě pár dronů, ještě to není tak strašné. Když si ale představíme miliony nebo dokonce miliardy robotů v budoucnosti, co budou připojeni 24/7 k síti, už to taková sranda nebude. Pak si leda tak bliknout nad atmosférou a vše vypnout. A vrátit se do doby kamenné. 😁

Reklama

Nejnovější komentáře

cj190133
Claude už vede 26 % svého vývoje. Někteří věří v 10% možnost, že AI zničí lidstvo
cj190133
dnes 11:46
Ak AI rekurzivne vylepsuje svoj kod (a generuje zmysluplny naozaj…
satryx
Roztavil se 8pinový konektor u Radeonu RX 7900 XTX na adaptéru WireView
satryx
dnes 11:46
Pane Šurkala, jste k smíchu.
Tomcat2
Office 2021 v říjnu skončí. Trvalá licence Office 2024 Pro Plus od 19,99 €
Tomcat2
dnes 11:34
Jj, to je taky varianta...nedal bych za licenci víc, než stovku...
Lukáš Meistner
Office 2021 v říjnu skončí. Trvalá licence Office 2024 Pro Plus od 19,99 €
Lukáš Meistner
dnes 11:26
Koupil jsem na Aukru druhotnou licenci za pade MO 2024 PRO a vše…
Lukáš Petříček
Claude už vede 26 % svého vývoje. Někteří věří v 10% možnost, že AI zničí lidstvo
Lukáš Petříček
dnes 11:07
Viz Milan Šurkala. Ještě bych dodal, že to nemusí být útok přímo od…
Další komentáře
Reklama
Reklama
Reklama
Reklama