Denník N

Ako zabrániť robotom, aby nám na večeru upiekli mačku

Ilustrácia - JumpStory
Ilustrácia – JumpStory

Píše John Thornhill, text publikujeme s licenciou vydavateľa Financial Times

Ako dokážeme zabezpečiť, aby počítače robili to, čo chceme, keď čoraz viac toho robia samy?

Môže to znieť ako abstraktná filozofická otázka, ale podľa Stuarta Russella, profesora informatiky na Kalifornskej univerzite v Berkeley a jedného z popredných svetových odborníkov v oblasti umelej inteligencie, je to tiež naliehavá praktická výzva.

Je celkom jednoduché predstaviť si scenáre, v ktorých stále výkonnejšie autonómne počítačové systémy spôsobujú v skutočnom svete hrozivé škody, či už chybou z nepozornosti, alebo úmyselným zneužitím.

Mačacie frikasé na večeru

Predpokladajme napríklad, že niekedy v blízkej budúcnosti necháte robota, aby sa postaral o vaše deti. Budete chvíľu meškať, tak ho požiadate, aby pripravil večeru. Robot otvorí chladničku, nenájde v nej žiadne jedlo, tak vyráta výživovú hodnotu vašej mačky a spraví z nej mačacie frikasé.

Alebo si predstavte ešte hrozivejší prípad zneužitia, ktorý je dnes technicky možný. Teroristická skupina pošle do

Na čítanie potrebujete aspoň štandard predplatné.

Dnes na dennike.sk

Technológie

Umelá inteligencia

Ekonomika, Veda

Teraz najčítanejšie