Autonómne autá: Inklúzia a predsudky v AI
Autonómne autá sľubujú bezpečnejšiu dopravu, no súčasné systémy majú problémy s rozpoznávaním ľudí z rôznych skupín kvôli predsudkom v tréningových dátach. Jennifer Dukarski navrhuje „inclusivity by design“ – prístup, ktorý zohľadňuje potreby všetkých používateľov už od začiatku vývoja.
Sľub autonómnych vozidiel je lákavý – bezpečnejšia doprava, prístupnosť pre ľudí so zdravotným postihnutím a starších občanov. No realita sa ukazuje ako zložitejšia. Ako Jennifer Dukarski argumentuje v zaujímavej prednáške TEDxDetroit, súčasné autonómne systémy čelia zásadným výzvam, ktoré pramenia z nedostatočnej inkluzivity a predsudkov zakomponovaných do tréningových dát. Článok sa zaoberá týmito problémami a ponúka cesty k vytvoreniu skutočne inkluzívnej autonómnej budúcnosti.
Kľúčové poznatky z prednášky Jennifer Dukarski
- Predsudky v dátach: Autonómne systémy sa učia na obrovskom množstve dát, ktoré však často nereprezentujú celú populáciu. To vedie k situáciám, keď autá horšie rozpoznávajú ľudí s tmavou pokožkou alebo deti.
- Tesla a demografia: Autonómne systémy Tesly sú trénované na dátach od vodičov, ktorí sa väčšinou vyznačujú vysokým príjmom, mužským pohlavím a absenciou detí v domácnosti. To môže ovplyvňovať ich výkonnosť v rôznych situáciách.
- Dôležitosť inkluzívneho dizajnu: Dukarski navrhuje "inclusivity by design" – prístup, ktorý zohľadňuje potreby a rozmanitosť všetkých používateľov už od začiatku vývoja.
- Príklady z praxe: Prednáška uvádza príklady ako rozpoznávanie vozíčkarov a kačíc, neúmyselné zastavenie pri taco trucku a problémy s parkovaním autonómnych vozidiel v San Franciscu, ktoré ilustrujú potrebu širšieho pohľadu na dopad autonómnych systémov.
Problémy s rozpoznávaním: Predsudky v AI
Jedným z najväčších problémov je skreslenie dát, na ktorých sa trénujú autonómne systémy. Ak sú tréningové dáta nedostatočne reprezentatívne pre rôzne demografické skupiny, algoritmy môžu vykazovať predsudky. Štúdie ukázali, že systémy rozpoznávania tváre majú tendenciu horšie identifikovať ľudí s tmavou pokožkou a deti. To môže mať vážne dôsledky v reálnom svete, kde autonómne vozidlá musia byť schopné rozoznať všetkých účastníkov cestnej premávky bez ohľadu na ich vzhľad.
Dukarski poukazuje na príklad Tesly, ktorej autonómne systémy sú trénované na dátach od vodičov s určitým demografickým profilom. To môže viesť k situáciám, keď autá horšie reagujú v prostrediach, ktoré sa líšia od typického používateľského prostredia Tesly.
Inclusivity by Design: Cesta k lepšej autonómnej budúcnosti
Dukarski navrhuje prechod k "inclusivity by design" – prístupu, ktorý zohľadňuje potreby a rozmanitosť všetkých používateľov už od začiatku vývoja. Tento prístup sa inšpiruje konceptom "privacy by design", kde sú princípy ochrany osobných údajov zakomponované do systému už od návrhu.
Podľa Dukarski je inkluzívny dizajn založený na troch pilieroch:
- Identifikácia všetkých ľudí: Systémy musia byť schopné rozoznať a správne reagovať na rôzne demografické skupiny, vrátane ľudí s rôznym etnickým pôvodom, vekom a telesnou konštrukciou.
- Pozerať sa na širší obraz: Je potrebné zohľadniť dopad autonómnych vozidiel na komunitu ako celok, nielen na jednotlivých používateľov. Príkladom je problém s parkovaním autonómnych vozidiel v San Franciscu, ktoré rušilo susedné byty svojimi nočnými honiacimi sa zvukmi.
- Premýšľať o lokalite: Autonómne systémy musia byť schopné prispôsobiť svoje správanie rôznym prostrediam – mestským, vidieckym, suburbanálnym.
Odporúčania a úvahy do budúcnosti
Autonómne vozidlá majú potenciál zmeniť svet dopravy k lepšiemu, ale len ak sa vyriešia problémy s predsudkami v dátach a zabezpečí sa inkluzívny dizajn. Je potrebné:
- Diverzifikovať tréningové dáta: Zabezpečiť, aby tréningové dáta reprezentovali rôzne demografické skupiny a prostredia.
- Zaviesť štandardy pre inkluzívny dizajn: Vytvoriť jasné štandardy a smernice pre vývoj autonómnych systémov, ktoré zohľadňujú potreby všetkých používateľov.
- Vzdelávať inžinierov: Zahrnúť princípy inkluzívneho dizajnu do vzdelávania inžinierov a technikov.
- Zapojiť komunitu: Aktívne zapájať komunity do procesu vývoja autonómnych systémov, aby sa zabezpečilo, že ich potreby sú zohľadnené.
Zdroje a odkazy
- TEDxDetroit - Jennifer Dukarski
- Lending Tree: [Štatistiky o nehodách a autonómnych vozidlách](odkaz na štatistiky Lending Tree, ak je dostupný v popise videa)
- Georgia Tech štúdia o detekcii chodcov: [Odkaz na štúdiu Georgia Tech](odkaz na štúdiu Georgia Tech, ak je dostupný v popise videa)
- King's College London štúdia: [Odkaz na štúdiu King’s College London](odkaz na štúdiu King’s College London, ak je dostupný v popise videa)
Autonómne vozidlá predstavujú obrovský technologický pokrok. S dôkladným zameraním na inkluzívny dizajn a odstránenie predsudkov môžeme zabezpečiť, že budúcnosť dopravy bude bezpečnejšia, prístupnejšia a spravodlivejšia pre všetkých.
Približne 154 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.77 l vody za účelom vygenerovania tohoto článku.
Komentáre ()