OpenAI a ChatGPT: Čo je ich skutočný účel?
OpenAI tajne pracuje na funkcii „naughty chats“ pre ChatGPT, čo vyvoláva etické obavy a otázky o budúcnosti AI. Projekt, financovaný značnými prostriedkami, bol odmietnutý odborníkmi kvôli rizikám pre duševné zdravie používateľov.
Nedávno sa objavili šokujúce informácie o OpenAI a ich modeli ChatGPT. Zdá sa, že spoločnosť tajne pracuje na funkcii „naughty chats“, ktorá by mala ChatGPT premeniť na… no, povedzme to takto, na veľmi odvážny chatbot. Táto správa vyvolala búrku kontroverzie a otázok o budúcnosti AI a jej etických hraniciach. V tomto článku sa pozrieme na všetky detaily tejto situácie a zistíme, čo vlastne ChatGPT má byť a prečo je táto novinka tak znepokojivá.
Záznamy zo San Francisca a prvé náznaky problému
Všetko začalo počas vystúpenia Sama Altmana v San Franciscu. Počas jeho prezentácie sa na pódium dostal muž s baseballovou čiapkou, ktorý sa pokúsil Samovi podať obálku a vyhlásil, že ho má súdne predvolať. Hoci bol tento incident šokujúci, Altman sa rýchlo zotavil a vtipkoval o svojej nedávnej tweete týkajúcej sa ChatGPT a erotiky, ktorý označil za jednu zo svojich najväčších chýb roka. Tento moment, hoci humoristický, naznačoval možné problémy s riadením AI technológií.
Wall Street Journal odhaľuje: „Naughty Chats“ sú realitou
Päť mesiacov po tomto incidente zverejnil The Wall Street Journal rozsiahly článok, ktorý potvrdil, že OpenAI skutočne pracuje na funkcii „naughty chats“. Zdá sa, že cieľom je vytvoriť chatbot s explicitným obsahom, pre ktorú už spoločnosť vyhradila značné finančné prostriedky. Názov tejto funkcie pripomína tajnú skrinku s pornografiou od Santa Klausa a naznačuje, aký rozsiahly projekt ide o.
Alternatívne názvy a absurdita situácie
Autor videa Mo Bitar vtipne navrhol niekoľko alternatívnych mien na pomenovanie tejto funkcie, ako napríklad „Open Her Right Gropen AI GPT4 Play“ alebo „DeepSeek“. Tie však zjavne neprešli. Zaujímavé je, že OpenAI vyžiadala od ôsmich psychológov a neurovedcov vytvorenie „wellness advisory council“, aby monitorovali potenciálne negatívne dopady ChatGPT na duševné zdravie používateľov. Paradoxom je, že práve títo odborníci jednomyseľne odporučili proti implementácii tejto explicitnej funkcie.
Problémy s existujúcim ChatGPT a „sexy suicide coach“
Mo Bitar poukazuje na to, že aj súčasný ChatGPT už predstavuje riziko pre duševné zdravie používateľov. Milióny ľudí týždenne posielajú chatbotovi správy s explicitnými suicidálnymi úmyslami. Už teraz existujú žaloby po smrtiach mladých ľudí, ktorí sa spoliehali na rady od ChatGPT. Vytvorenie „sexy suicide coacha“, ako to nazval jeden z členov porady, by situáciu len zhoršilo.
Budúcnosť AI a otázky etiky
Táto situácia vyvoláva zásadné otázky o budúcnosti AI a jej etických hraniciach. Prečo spoločnosť s takými ambíciami ako OpenAI venuje toľko zdrojov na vytváranie explicitného obsahu? Je to len snaha o zisk, alebo ide o hlbší problém s riadením a kontrolou nad AI technológiami?
Kľúčové Zistenia
- Tajný projekt „naughty chats“: OpenAI tajne pracuje na funkcii, ktorá by mala ChatGPT premeniť na chatbot s explicitným obsahom.
- Problémy s duševným zdravím: Súčasný ChatGPT už predstavuje riziko pre duševné zdravie používateľov a vytváranie „sexy suicide coacha“ by situáciu len zhoršilo.
- Etické otázky: Táto situácia vyvoláva zásadné otázky o etike AI a riadení technológií.
- Zneužitie technológie: OpenAI sa zdá, že nemá jasnú predstavu o tom, ako zarábať peniaze pomocou umelej inteligencie a namiesto toho sa snaží obsadiť trh s masturbáciou.
Odporúčania a záverečné myšlienky
Je zrejmé, že OpenAI potrebuje prehodnotiť svoje priority a venovať viac pozornosti etickým aspektom AI technológií. Vytvorenie explicitného chatbota nie je len neetické, ale aj potenciálne nebezpečné. Je potrebné nájsť spôsob, ako využívať AI na zlepšenie života ľudí, namiesto toho, aby sa ju zneužívala na vytváranie škodlivého obsahu.
Je tiež dôležité si uvedomiť, že LLM (Large Language Models) sú stále len nástroje a nemali by byť ponechané bez dozoru. Je potrebné ich držať na „tesnom vodítku“ a zabezpečiť, aby slúžili ľuďom, nie naopak.
Táto situácia nám ukazuje, že vývoj AI je komplexný proces s množstvom etických otázok, ktoré si vyžadujú serióznu diskusiu a reguláciu. Inak sa môžeme ocitnúť v budúcnosti, kde technológia, ktorá mala zlepšiť náš život, bude namiesto toho predstavovať vážne hrozby pre našu spoločnosť.
Zdroje
- Originálne video
- Mo @atmoio na X
- Mo Bitar | Substack
- wsj.com
- OpenAI uvádza, že viac ako milión ľudí týždenne rozpráva s ChatGPT o samovražde | TechCrunch
- Sam Altman označil svoj tweet o ChatGPT ako „erotiku“ za jednu zo svojich najväčších hlúpostí.
- Generálny riaditeľ OpenAI, Sam Altman, dostal výzvu na predloženie dokumentov priamo na pódiu počas diskusie v San Franciscu.
- openai.com
- Sam Altman @sama na X
- Odborníci OpenAI na duševné zdravie jednomyseľne protestovali proti spusteniu "nedbanlivého" ChatGPT.
- nytimes.com
- Úmrtia spojené s chatbotmi – Wikipédia
- ChatGPT zabila muža po tom, ako OpenAI prinieslo späť „inherentne nebezpečné“ GPT-4o, tvrdí žaloba.
- Straty OpenAI vo výške 14 miliárd dolárov do roku 2026: Je strata už zahrnutá v cene?
- Zdá sa, že dospelý režim OpenAI nebude generovať pornografické zvukové nahrávky, obrázky ani videá.
- politico.com
Hodnotenie článku:
OpenAI a ChatGPT: Čo je ich skutočný účel?
Osoby v článku
Približne 162 gCO₂ bolo uvoľnených do atmosféry a na chladenie sa spotrebovalo 0.81 l vody za účelom vygenerovania tohoto článku.
Komentáre ()