Navrhovanie AI pre spoločenský prospech: meranie škôd
Navrhovanie AI pre spoločenský prospech vyžaduje zmenu stratégie: namiesto „bezpečných“ AI aplikácií sa zamerajte na meranie škôd a ovplyvňovanie verejnej mienky. HCI výskumníci môžu zohrávať kľúčovú úlohu v tomto procese.
Generatívna AI, ako sú chatboti, prináša so sebou množstvo výziev. Od potenciálneho posunu pracovných miest až po ovplyvňovanie ľudskej interakcie a sebaobrazu – dopady môžu byť rozsiahle. Seminár Stanford CS547 sa zaoberal tým, ako navrhovať AI pre spoločenský prospech, pričom sa zameriava na praktické kroky a nové pohľady na riešenie týchto problémov. Profesor Qian Yang predstavil zaujímavé myšlienky o tom, ako môžeme efektívne ovplyvňovať verejnú mienku a politiku prostredníctvom merania škôd spôsobených AI, namiesto toho, aby sme sa len snažili vytvárať „bezpečné“ alternatívy.
Problém merania dopadu a prekážky v súčasnom výskume
Jedným z hlavných problémov je ťažkosť merania širokého spoločenského dopadu generatívnej AI. Podobne ako pri sociálnych sieťach, aj tu sa škody často hromadia postupne a je ťažké ich identifikovať skôr, než sa stanú hlboko zakorenené v spoločnosti. Súčasný výskum sa zameriava na vytváranie alternatívnych, „bezpečných“ AI aplikácií a presadzovanie politických zmien, ktoré ich zavádzajú. Avšak táto stratégia narazila na prekážky: používatelia sú často neochotní prijať nové systémy, politici reagujú pomaly a komerční chatboti si udržiavajú dominantné postavenie.
