Zodpovedná inovácia: Etika a technológie pre budúcnosť

V poslednej prednáške Kráľovskej inštitúcie sa Jeroen van den Hoven zaoberal dôležitou otázkou – ako vyvážiť technologický pokrok a morálnu zodpovednosť. Podľa neho je kľúčové, aby sme pri vývoji nových technológií mysleli na to, aký dopad budú mať na spoločnosť a ako ich môžeme navrhnúť tak, aby slúžili ľuďom a riešili globálne problémy. Od zodpovednej inovácie sa očakáva, že bude spájať etiku a technológiu, pričom návrh – predstavovanie si toho, aký by svet mohol byť – je kľúčovým prvkom, ktorý často podceňujeme.

Kľúčové poznatky

Prednáška priniesla množstvo zaujímavých myšlienok a zistení:

• Zodpovedná inovácia: Kombinácia etiky a technológií, ktorá kladie dôraz na návrh a predvídanie dopadu nových technológií.
• Hodnoty v dizajne: Je potrebné preložiť etické princípy do konkrétnych požiadaviek pri vývoji technológií.
• AI ako meta-technológia: Umelá inteligencia ovplyvňuje všetky ostatné technológie a vyvíja sa neuveriteľnou rýchlosťou.
• Predbežné hodnotenie: Nové technológie by mali byť hodnotené pred ich rozsiahlym nasadením, aby sme predišli nežiaducim následkom.
• Dôležitosť ľudskej kontroly: Pri nasadzovaní AI systémov je nevyhnutná zmysluplná ľudská kontrola a zodpovednosť.

Etika a technológia: Spojenie, ktoré formuje budúcnosť

Van den Hoven zdôrazňuje, že európska komisia si uvedomila, ako prístup k AI definuje našu budúcnosť, čo vedie k geopolitickému boju o dominanciu. Európa sa snaží využiť príležitosti, ktoré AI ponúka, pričom kladie dôraz na ľudské hodnoty, etiku a bezpečnosť. Je to snaha o vytvorenie AI, ktorá bude v súlade s Chartou OSN a ľudskými právami.

Avšak, hrozby nie sú len teoretické. Výskumy ukazujú, že aj pokročilé AI systémy môžu predstavovať existenčné riziká. Je však dôležité venovať pozornosť aj bezprostredným škodám, ako je zaujatosť a diskriminácia v oblasti zdravotníctva alebo trestnej spravodlivosti.

Generatívna AI (napríklad ChatGPT) vyvoláva obavy z halucinácií, zaujatostí, porušovania súkromia a koncentrácie moci v rukách technologických spoločností. Niektorí odborníci dokonca hovoria o „rozpadajúcom sa mozgu“ spôsobenom nekvalitným výstupom generatívnych AI systémov.

Návrh ako nástroj pre zodpovednosť

Kľúčovým prvkom zodpovednej inovácie je návrh, ktorý integruje hodnoty už od začiatku. Van den Hoven uvádza príklady, ako môže vyzerať zodpovedný dizajn – napríklad Fairphone (mobilný telefón s modulárnym dizajnom a eticky získanými materiálmi) alebo autobusová zastávka so zberom dažďovej vody. Tieto projekty dokazujú, že je možné vytvárať produkty a služby, ktoré sú nielen funkčné, ale aj eticky zodpovedné.

Je dôležité si uvedomiť, že vyváženie rôznych hodnôt (napríklad bezpečnosť vs. efektivita alebo ochrana osobných údajov vs. zodpovednosť) je neustálou výzvou. V minulosti sme videli príklady, kedy zanedbanie etických aspektov viedlo k fiasku projektov – od explodujúceho autobusu až po nefunkčný systém elektronickej zdravotnej dokumentácie.

AI a budúcnosť: Od riešení pre spoločnosť k zodpovednému vývoju

Van den Hoven vyzýva na zameranie sa na vývoj AI, ktorý bude slúžiť na riešenie naliehajúcich problémov spoločnosti – ako je zdravotníctvo alebo prechod na udržateľnú energiu. Je potrebné zabezpečiť, aby bol vývoj AI v súlade s etickými princípmi a aby sa pri nasadzovaní systémov zabezpečila zmysluplná ľudská kontrola.

Zodpovedná inovácia nie je len o riešení problémov, ale aj o vytváraní nových možností. AI môže pomôcť zmieriť protichodné hodnoty, ako sú ochrana osobných údajov a bezpečnosť, tým, že vytvorí nové možnosti, ktoré predtým neboli dostupné.

Záverečné úvahy

Prednáška Jeroena van den Hovena nám pripomína, že technologický pokrok by mal ísť ruku v ruke s morálnou zodpovednosťou. Je na nás, aby sme navrhovali technológie tak, aby slúžili ľuďom a riešili globálne problémy, pričom sa vyhýbame nežiaducim následkom. Zodpovedná inovácia nie je len cieľ, ale aj cesta – cesta k budúcnosti, v ktorej technológia prispieva k zlepšeniu života všetkých ľudí.

Zdroje

• Originálne video
• Q&A: Responsible innovation in a digital world - with Jeroen van den Hoven - YouTube
• The Royal Institution - YouTube
• twitter.com
• Royal Institution of Great Britain | London
• TikTok – Zataj svoj deň
• Podcast Ri Vedy • Podcast na Spotify pre tvorcov
• Darujte | Kráľovská spoločnosť
• Úprava Rieči a moderovanie komentárov | Kráľovská spoločnosť

Približne 203 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 1.02 l vody za účelom vygenerovania tohoto článku.