Gates varuje: AI povede k nárůstu kyberútoků příští rok

Bill Gates, spoluzakladatel Microsoftu, v nedávném rozhovoru pro Agence France-Presse uvedl, že v příštím roce pravděpodobně vzroste počet kyberútoků poháněných umělou inteligencí. „Oblast, kde pravděpodobně uvidíme nejviditelnější nárůst příští rok, budou kyberútoky,“ řekl a zdůraznil okamžité nebezpečí škodlivého využití spíše než nekontrolovatelných systémů.

Gates varoval, že sice vzdálenější, ale přesto významné riziko úniku AI z lidské kontroly zůstává aktuální, avšak jeho široké důsledky se podle něj zřejmě neprojeví ještě několik let. „Skutečné nebezpečí nyní není, že se AI vymkne kontrole. Na tom bychom měli pracovat, ale velké dopady jsou stále o několik let dál,“ řekl.

Jeho naléhavější obava je jiná: špatní aktéři, kteří zneužijí pokročilé modely a odstraní bezpečnostní omezení. „Právě teď je možné všechna tato bezpečnostní opatření odstranit,“ řekl Gates a upozornil, jak snadno dostupné úpravy mohou systémy učinit škodlivými.

Varoval, že kombinace škodlivého úmyslu, slabých nebo chybějících záruk a přístupu k nejnovějším modelům AI by mohla v příštím roce vyústit v nepředvídané negativní důsledky, zejména v oblasti kyberútoků.

Meze samoregulace odvětví

Gates také odmítl představu, že společnosti vyvíjející AI si mohou důvěryhodně samy dohlížet. Uvedl, že tento názor vyslovil i Donald Trump, prezident Spojených států. Gates tvrdil, že spoléhání se na dobrovolný dohled firem je nedostatečné u technologie s tak širokým dopadem.

„Myšlenka, že u nejnebezpečnější technologie v dějinách lidstva by měly mít firmy poslední slovo a že samotné firmy jsou jediným regulačním prvkem pro společnost, ukazuje, že naše kroky nejsou dostatečné.“