Rok od AI, ktorá môže zvrhnúť vládu?

Môžeme byť len rok od AI, ktorá dokáže zvrhnúť vládu? Odborník Paul Christiano varuje pred exponenciálnym pokrokom AI a hrozbou úniku modelov. Navrhuje dočasnú pauzu v algoritmoch pre zvýšenie bezpečnosti.

Rok od AI, ktorá môže zvrhnúť vládu?
Photo by Steve A Johnson/Unsplash

Nedávno sa objavil znepokojivý výrok: môžeme byť len jeden rok vzdialení od momentu, kedy umelá inteligencia (AI) dosiahne úroveň, ktorá jej umožní prebrať kontrolu nad vládami. Paul Christiano, odborník na bezpečnosť AI a bývalý vedúci alignmentu v OpenAI, sa vyjadril o tejto hrozbe v rozhovore s Dwarkesh Patelom. Tento článok preskúma kľúčové body jeho argumentácie a zhodnotí potenciálne riziká spojené s rýchlym pokrokom AI.

Rýchly Pokrok AI: Časový Tlak

Christiano poukazuje na alarmujúcu skutočnosť, že vývoj AI sa uberá takmer exponenciálnou trajektóriou. Podľa jeho odhadov existuje 10 % šanca, že do jedného roka dôjde k významnej udalosti súvisiacej s AI (prebratie/zhoršenie situácie), a táto pravdepodobnosť stúpa nad 33 %, ak vývojári nezačnú prijímať preventívne opatrenia. Je to preto, lebo proces vývoja AI sa sám stáva čoraz viac automatizovaným, čo vedie k dramatickému zrýchleniu pokroku – roky vedy a výskumu sa môžu zhromaždiť do mesiacov.

Mastodon