Rizík umelej inteligencie je veľa, malo by byť jasné, kto nesie zodpovednosť, hovorí spoluautor listu za pozastavenie AI
➡️ Počúvanie podcastov Denníka N je najpohodlnejšie v aplikácii Denníka N. Zvuk Vám nepreruší, ani keď zmeníte stránku, a počúvať môžete aj bez pripojenia na internet. Sťahujte kliknutím sem.
Tento text načítal neurálny hlas. Najlepšie sa počúva v aplikácii Denník N, aj s možnosťou stiahnutia na počúvanie offline. Našli ste chybu vo výslovnosti? Dajte nám vedieť.
Už dnes používajú ľudia umelú inteligenciu (AI) na výrobu škodlivého softvéru, či kybernetické útoky. Čím budú systémy umelej inteligencie schopnejšie, tým viac škôd môžu potenciálne spôsobiť, hovorí spoluautor výzvy na pozastavenie ďalšieho vývoja AI, Risto Uuk.
Namiesto pretekov medzi technologickými firmami, ktoré sa zrýchľujú, podľa neho treba riešiť bezpečnosť. Podľa Centra pre bezpečnosť umelej inteligencie môže AI predstavovať pre ľudstvo aj existenčné riziko, ktorého zmiernenie by malo byť rovnakou prioritou ako v oblasti nukleárnej vojny či pandémií.
O smerovaní vývoja však zatiaľ rozhodujú veľké technologické korporácie, vlády od Európy po USA sa snažia narýchlo vymedziť základné mantinely, aby AI spoločnosti neublížila. Lenže rýchly vývoj je pre nich ťažké dobehnúť. Preto sa spojili tisíce vzdelaných ľudí, ktorí tlačia na to, aby sa vývoj AI spomalil a reguloval.
„Firmy sa teraz snažia postupovať vo vývoji čo najrýchlejšie a potom regulátorom povedať: Pozrite sa, máme už na trhu toľko umelých inteligencií, ako ich chcete zastaviť?” komentuje situáciu na trhu výskumník z Future of Life inštitútu Uuk, ktorý sa na písaní listu priamo podieľal.
Vedci v ňom žiadajú polročné pozastavenie vývoja AI. Od konca marca ho podpísalo vyše 27-tisíc odborníkov. Iniciatíva dostala v médiách veľa negatívnej publicity najmä vinou jej najslávnejšieho signatára Elona Muska, ktorý pár týždňov po podpise ohlásil, že pracuje na vlastnej AI, ktorá by mohla generovať obsah. Autori listu však naďalej veria, že má zmysel.
Počas šesťmesačnej pauzy vo vývoji môžu podľa neho vzniknúť národné agentúry, ktoré by sledovali pokrok v oblasti umelej inteligencie a spôsoby jej využitia. Rovnako by sa mohli zaviesť pravidlá na reguláciu výpočtového výkonu, ak by ho AI firmy chceli použiť na škodlivé účely.
„Za šesť mesiacov by sme mohli urobiť veľký pokrok aj pri vytváraní rámca pre zodpovednosť za AI. Vďaka nemu by sme vedeli povedať, kto by niesol zodpovednosť a ako by sa o tejto zodpovednosti rozhodovalo, ak by systémy umelej inteligencie niekomu ublížili,“ hovorí Uuk.
V rozhovore s ním sa dočítate:
- ktorú oblasť vývoja AI chcú konkrétne vedci pozastaviť;
- aké pravidlá je za pol roka možné pripraviť;
- ako sa iniciatíva vyrovnáva so zlým svetlom, do ktorého ju uvrhol prístup Elona Muska.
Čo presne otvoreným listom žiadate?
