V Jihoafrické republice se pokusili navrhnout zákony regulující AI pomocí systémů AI. Dopadlo to ale fiaskem.
Dobře víme, že AI je mocný nástroj schopný velmi dobrých věcí, ale také občas překvapí pořádnými nesmysly. S tímto měli nedávno problém v Jihoafrické republice. Vznikl zde totiž návrh pro regulaci AI systémů (Draft National Artificial Intelligence Policy), který měl definovat, jak bude vláda využívat AI, jaké nové úřady a komise v souvislosti s tím vzniknou, nicméně navrhovaný zákon byl poněkud paskvil. Vznikl totiž ve spolupráci s AI, kterou měl sám regulovat.
A tak se např. zjistilo, že minimálně 6 ze 67 citovaných zdrojů vůbec neexistuje. Zdroje se do návrhu zákona dostaly bez verifikace ze strany lidí. Falešné zdroje napovídají, že problémy může mít celý návrh jako takový, a tak byl stažen a půjde k přepracování. Vrátí se tak k ještě starší variantě návrhu, která měla být vytvořena ještě bez “pomoci” AI a jejích halucinací.
Znovu se tak ukazuje, že výstupy AI systémů je potřeba kontrolovat, obzvlášť jde-li o něco závažnějšího, což legislativa určitě je. Nejde o ojedinělé případy a podobné halucinace se v pracích ohledně zákonů a soudnictví stávají stále častěji (AI je totiž velmi užitečným nástrojem pro rychlé vytváření souhrnů nebo nalézání precedentů, nicméně už se několikrát také stalo, že si tyto systémy vymyslely případy, které se nestaly).
