Ako zabrániť robotom, aby nám na večeru upiekli mačku
Píše John Thornhill, text publikujeme s licenciou vydavateľa Financial Times
Ako dokážeme zabezpečiť, aby počítače robili to, čo chceme, keď čoraz viac toho robia samy?
Môže to znieť ako abstraktná filozofická otázka, ale podľa Stuarta Russella, profesora informatiky na Kalifornskej univerzite v Berkeley a jedného z popredných svetových odborníkov v oblasti umelej inteligencie, je to tiež naliehavá praktická výzva.
Je celkom jednoduché predstaviť si scenáre, v ktorých stále výkonnejšie autonómne počítačové systémy spôsobujú v skutočnom svete hrozivé škody, či už chybou z nepozornosti, alebo úmyselným zneužitím.
Mačacie frikasé na večeru
Predpokladajme napríklad, že niekedy v blízkej budúcnosti necháte robota, aby sa postaral o vaše deti. Budete chvíľu meškať, tak ho požiadate, aby pripravil večeru. Robot otvorí chladničku, nenájde v nej žiadne jedlo, tak vyráta výživovú hodnotu vašej mačky a spraví z nej mačacie frikasé.
Alebo si predstavte ešte hrozivejší prípad zneužitia, ktorý je dnes technicky možný. Teroristická skupina pošle do