Umelá inteligencia: Kedy by sme sa mali obávať?
Umelá inteligencia rieši problémy, ktoré sú v princípe nerozhodnuteľné a využíva reálne dáta na prekvapivé výsledky. Profesor Moore varuje pred momentom, kedy AI nájde nepochopiteľné riešenia – to by malo byť našou obavou.
Nedávno som si pozrel fascinujúci rozhovor s profesorom Christopherom Mooreom, expertom na fyziku, informatiku a strojové učenie. V ňom sa rozoberá budúcnosť umelej inteligencie (AI) a jej schopnosť riešiť komplexné problémy. Moore porovnáva prístup k riešeniu problémov s pohľadom vtáka z neba versus pohľadom žaby – a priznáva, že sám patrí do druhej kategórie. Diskutuje o tom, prečo súčasné AI modely, ako sú transformátory, dosahujú taký úspech, hoci ich presný spôsob fungovania nie je vždy úplne jasný. Článok sa zameriava na to, čo sme sa naučili a aké otázky nám táto diskusia vyvoláva.
Kľúčové poznatky
- Problém zastavenia (Halting Problem): AI rieši problémy, ktoré sú v princípe nerozhodnuteľné.
- „Žabie“ vs. „Vtáčie“ myslenie: Moore preferuje hlboké ponorenie sa do konkrétnych problémov namiesto rozsiahleho pohľadu na vec.
- Reálne dáta a AI: AI dokáže efektívne využívať inherentnú štruktúru reálnych dát, čo vedie k prekvapivým výsledkom.
- Fázy prechodu: Podobne ako v magnetoch pri dosiahnutí kritickej teploty, aj v strojovom učení je ťažké nájsť presné vzory v hlučných dátach.
- Vplyv ľudských dát: Ľuďmi generované dáta výrazne ovplyvňujú smerovanie AI, čo vyvoláva otázky o transparentnosti a kontrole.
- Multimodalita a kreativita: Budúcnosť AI vidí Moore v multimodálnych systémoch (napríklad s vizuálnym pracovným priestorom) schopných „kresliť“ a riešiť problémy ako ľudia.
Prečo sú súčasné AI modely tak efektívne?
Profesor Moore vysvetľuje, že súčasný úspech transformátorov nespočíva len v ich architektúre, ale skôr v tom, že reálny svet nie je náhodný. Je plný štruktúr a vzorcov, ktoré dokáže AI využiť. Predstavte si to takto: hľadáte poklad na ostrove. Transformátor je ako detektor kovu – nemusí vám povedať, prečo je kov pod zemou, ale dokáže vás presne naviesť na jeho miesto.
Ľudské dáta a budúcnosť AI
Jednou z najdôležitejších myšlienok, ktoré Moore uvádza, je vplyv ľudských dát na smerovanie AI. Čím viac dát AI dostane od ľudí, tým viac sa učí podľa našich vzorov – čo môže byť dobré aj zlé. Prolific, spoločnosť zaoberajúca sa výskumom využívania ľudských dát v AI, hľadá dobrovoľníkov na pomoc s ich prácou. Je to dôležitá otázka, pretože nám umožňuje lepšie porozumieť tomu, ako tieto dáta ovplyvňujú budúcnosť AI a či sú transparentné.
Globálny ročný počet hlásených incidentov a kontroverzií týkajúcich sa umelej inteligencie
Kreativita a „aha“ momenty v AI
Moore sa tiež dotkol témy kreativity v AI. Podobne ako umelci a matematici, aj AI by mala byť schopná produkovať nové nápady a riešenia. Je však dôležité nájsť rovnováhu medzi originalitou a zmysluplnosťou – aby AI nevytvárala len „zbernicu klišé“. Kreativita v AI je spojená aj s tzv. aha momentami, keď človek nájde elegantné riešenie problému. Podobne ako pri verejnom kľúči v kryptografii – nájsť správny kľúč môže byť ťažké, ale ak ho nájdeme, je to jednoduché.
Turingov univerzálny počítač a pan-výpočtový pohľad
Diskusia sa presunula k myšlienke Turingovej úplnosti-schopnosti systémov simulovať jeden druhého. Moore definuje svoj pohľad ako „pan-výpočtový“, čo znamená, že výpočet je len jedným z mnohých spôsobov (napríklad adaptácia, evolúcia) na pochopenie systémov. Je to zaujímavý pohľad, ktorý nám umožňuje vidieť svet v širšom kontexte a uvažovať o tom, či vesmír samotný nie je fundamentálne výpočtový.
Algoritmická spravodlivosť a transparentnosť
Profesor Moore zdôrazňuje potrebu transparentnosti v AI systémoch používaných na dôležité rozhodnutia, najmä v oblasti trestného práva. Používanie proprietárneho softvéru a nedostatok nezávislého testovania sú vážne problémy, ktoré je potrebné riešiť. Príkladom je prístup k softvéru pre testovanie DNA, kde sa objavili otázky ohľadom spoľahlivosti a potenciálnych zaujatostí.
Poznania Američanov o robotickej vs. ľudskej inteligencii
Záver: Kedy by sme sa mali začať obávať?
Rozhovor s profesorom Mooreom naznačuje, že AI má obrovský potenciál, ale zároveň vyvoláva dôležité otázky o jej smerovaní a kontrole. Kedy by sme sa mali začať obávať? Možno vtedy, keď AI začne riešiť problémy, ktoré pre nás ako ľudí sú nepochopiteľné – kedy bude schopná nájsť elegantné riešenia, ktoré my sami nedokážeme pochopiť. To naznačuje potrebu neustáleho monitorovania a transparentnosti v oblasti vývoja AI, aby sme zabezpečili, že jej budúcnosť bude v súlade s našimi hodnotami a cieľmi.
Referencie:
- The Nature of Computation [Chris Moore]: https://nature-of-computation.org/
- Birds and Frogs [Freeman Dyson]: https://www.ams.org/notices/200902/rtx090200212p.pdf
- Replica Theory [Parisi et al]: https://arxiv.org/pdf/1409.2722
- Janossy pooling [Fabian Fuchs]: https://fabianfuchsml.github.io/equilibriumaggregation/
- Cracking the Cryptic [YouTube channel]: https://www.youtube.com/c/CrackingTheCryptic
- Sudoku Bench [Sakana]: https://sakana.ai/sudoku-bench/
Hodnotenie článku:
Umelá inteligencia: Kedy by sme sa mali obávať?
Osoby v článku
Približne 274 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.37 l vody za účelom vygenerovania tohoto článku.
Komentáre ()