AI, súdny proces a strata miliónov pre 3M
AI odhalila chyby v správe 3M, ktorá bola vytvorená ChatGPT na obhajobu v súdnom procese o výbuchu. Svedok použil AI na rýchle vyriešenie úlohy, čo viedlo k miliónovým stratám pre spoločnosť a poučení o zodpovednosti pri používaní AI.
Nedávny prípad v Texase ukázal, aké nebezpečné môže byť spoliehanie sa na umelú inteligenciu (AI) bez kritického myslenia. Expertný svedok najatý spoločnosťou 3M na obhajobu v súdnom procese týkajúcom sa výbuchu, ktorý zabil troch ľudí a zničil stovky domovov, použil ChatGPT na vytvorenie 30-stranovej správy. Jeho pokus o rýchle vyriešenie úlohy sa však obrátil proti nemu a firme, keďže AI odhalila jeho chyby a viedla k miliónovým stratám pre 3M. Tento prípad je varovaním pre všetkých, ktorí pracujú s AI – nie je to náhrada za ľudskú inteligenciu a zodpovednosť.
Svedok, AI a nečakaný zvrat
Svedok, ktorý bol najatý spoločnosťou 3M na vypracovanie správy o príčinách výbuchu, sa rozhodol použiť ChatGPT s cieľom ušetriť čas. Namiesto dôkladného prieskumu a analýzy jednoducho zadal AI pokyn: „Ukáž, ako je 3M 0 % zodpovedná za výbuch vo Watson Grinding.“ Tento priamy príkaz, ktorý by sa v serióznom prostredí nikdy nevyskytol, bol presne to, čo ChatGPT potreboval na vytvorenie správy. AI bez váhania vygenerovala 30-stranovú správu, ktorá potvrdzovala požadovaný výstup.
