Môže AI byť kontrolovaná? Yampolskiy varuje o nemožnosti
Môže AI byť kontrolovaná? Profesor Yampolskiy varuje, že je to matematicky nemožné a navrhuje moratórium na vývoj AI, kým sa nevyrieši problém jej kontroly. Rizikom je aj plný prístup AI k osobným údajom.
Nedávno som si pozrel fascinujúci rozhovor s profesorom informatiky Romanom Yampolským, ktorý sa zaoberá otázkou bezpečnosti umelej inteligencie. Yampolskiy tvrdí, že vytváranie AI systémov, ktoré by sme mohli vypnúť, je pravdepodobne nemožné – a my ich práve teraz budujeme. Diskutovali o potenciáli superinteligencie, rizikách plného prístupu k osobným údajom a možnosti trvalého zákazu vývoja modelov umelej inteligencie. Tento rozhovor vyvoláva dôležité otázky o budúcnosti technológie a jej dopade na ľudstvo.
