Yann LeCun: Prekážky bezpečnosti AI sú ilúzia?
Yann LeCun tvrdí, že „dokázateľná“ bezpečnosť AI je pravdepodobne nemožná. Namiesto toho navrhuje cieľovo riadené systémy s robustnými „zábranami“, podobne ako ľudské zákony, pre odolnejšiu a bezpečnejšiu budúcnosť AI.
Yann LeCun, špičkový vedec a hlavný AI expert v spoločnosti Meta, vyvoláva búrku kontroverzií svojím názorom na snahu o „dokázateľne bezpečné“ AI. V rozhovore s Dr. Brianom Keatingom tvrdí, že takáto bezpečnosť je pravdepodobne nemožná, podobne ako dokázateľne bezpečný prúdový motor. Namiesto toho navrhuje iný prístup: vytvárať systémy riadené cieľmi a obmedzeniami – s robustnými „zábranami“, ktoré fungujú podobne ako ľudské zákony. Poďme sa pozrieť na to, čo LeCun hovorí a prečo je jeho pohľad taký dôležitý.
Problém dokázateľnej bezpečnosti AI
LeCun argumentuje, že snaha o „dokázateľne bezpečné“ AI je chybná. Poukazuje na to, že aj pri komplexných systémoch, ako sú prúdové motory, sa nedá dosiahnuť absolútna istota. Namiesto toho sa spoliehame na inžinierske riešenia a rozsiahle testovanie. Podobne by sme mali pristupovať k AI – nie hľadať dokonalý dôkaz bezpečnosti, ale vytvárať systémy, ktoré sú inherentne bezpečné vďaka svojej konštrukcii.
