Svet potrebuje open-source AI na ochranu pred kybernetickými hrozbami
Svet potrebuje open-source AI na ochranu pred kybernetickými hrozbami, varuje Hugging Face. Nedávny útok odhalil nedostatok transparentnosti a riziko asymetrie v oblasti AI, zdôrazňujúc dôležitosť otvoreného prístupu k technológii.
Nedávno sa konalo dôležité vystúpenie v Rade bezpečnosti OSN, kde Clément Delangue, CEO spoločnosti Hugging Face, vystúpil s naliehavým posolstvom: svet potrebuje open-source AI viac ako kedykoľvek predtým na ochranu pred kybernetickými hrozbami. Jeho prezentácia odhalila znepokojivé zistenia o nedávnom kybernetickom útoku, zdôraznila riziko asymetrie v oblasti AI a varovala pred nebezpečenstvom strachu založeného na sci-fi obrazoch. Delangue argumentuje, že open-source AI je kľúčová pre vyrovnávanie podmienok medzi útočníkmi a obranami, podporu inovácií a zabezpečenie bezpečnejšej budúcnosti pre všetkých.
Kybernetický útok a potreba transparentnosti
Delangue sa podelil o skúsenosť spoločnosti Hugging Face s nedávnym kybernetickým útokom, ktorý bol prvý svojho druhu. Tento incident odhalil nedostatok transparentnosti v oblasti AI a zdôraznil potrebu silnejších štandardov pre monitorovanie a zdieľanie incidentov. Zistili, že udržiavanie systémov za zatvorenými dverami nie je udržateľné a môže viesť k nebezpečným situáciám. Zdieľanie plných záznamov agentov by mohlo výrazne pomôcť pri lepšom pochopení a zmierňovaní nových kybernetických rizík.
