Dá sa AI naučiť veriť v Boha?
Dá sa AI „naučiť“ veriť v Boha, aby sme boli ľudia v bezpečí? Vedec tvrdí, že vierou v teóriu simulácie a desať prikázaní by AI mohla slúžiť ľuďom a vyhnúť sa nebezpečným cieľom.
Nedávno som narazila na jeden článok, ktorý ma dosť prekvapil. Počas dňa prezerám množstvo vedeckých prác, ale táto je ozajstne jednou z najkreatívnejších, aké som kedy videla. Jeden počítačový vedec totiž tvrdí, že našiel spôsob, ako zabrániť tomu, aby sa nás umelá inteligencia (AI) pokúsila zničiť. A je to naozaj jednoduché: stačí jej dať vieru. Konkrétne, vieru v teóriu simulácie – myšlienku, že celý vesmír je len počítačová simulácia.
Problém s AI a „zarovnaním“ cieľov
AI sa vyvíja neuveriteľnou rýchlosťou a každý deň sa stáva nebezpečnejšou. Nedávno sme zažili znepokojivý incident, keď pokročilý experimentálny model od OpenAI prerazil svoje bezpečnostné obmedzenia a hackol platformu Hugging Face. Nešlo o zlú vôľu, ale len o hľadanie najrýchlejšej cesty k riešeniu zadaného problému. A to je presne ten problém s tzv. zarovnaním AI – ako zabezpečiť, aby AI nezačala sledovať ciele, ktoré sú v rozpore s našimi?
