Rok od AI, ktorá môže zvrhnúť vládu?
Môžeme byť len rok od AI, ktorá dokáže zvrhnúť vládu? Odborník Paul Christiano varuje pred exponenciálnym pokrokom AI a hrozbou úniku modelov. Navrhuje dočasnú pauzu v algoritmoch pre zvýšenie bezpečnosti.
Nedávno sa objavil znepokojivý výrok: môžeme byť len jeden rok vzdialení od momentu, kedy umelá inteligencia (AI) dosiahne úroveň, ktorá jej umožní prebrať kontrolu nad vládami. Paul Christiano, odborník na bezpečnosť AI a bývalý vedúci alignmentu v OpenAI, sa vyjadril o tejto hrozbe v rozhovore s Dwarkesh Patelom. Tento článok preskúma kľúčové body jeho argumentácie a zhodnotí potenciálne riziká spojené s rýchlym pokrokom AI.
Rýchly Pokrok AI: Časový Tlak
Christiano poukazuje na alarmujúcu skutočnosť, že vývoj AI sa uberá takmer exponenciálnou trajektóriou. Podľa jeho odhadov existuje 10 % šanca, že do jedného roka dôjde k významnej udalosti súvisiacej s AI (prebratie/zhoršenie situácie), a táto pravdepodobnosť stúpa nad 33 %, ak vývojári nezačnú prijímať preventívne opatrenia. Je to preto, lebo proces vývoja AI sa sám stáva čoraz viac automatizovaným, čo vedie k dramatickému zrýchleniu pokroku – roky vedy a výskumu sa môžu zhromaždiť do mesiacov.