Ako zabrániť robotom, aby nám na večeru upiekli mačku

Píše John Thornhill, text publikujeme s licenciou vydavateľa Financial Times

Ako dokážeme zabezpečiť, aby počítače robili to, čo chceme, keď čoraz viac toho robia samy?

Môže to znieť ako abstraktná filozofická otázka, ale podľa Stuarta Russella, profesora informatiky na Kalifornskej univerzite v Berkeley a jedného z popredných svetových odborníkov v oblasti umelej inteligencie, je to tiež naliehavá praktická výzva.

Je celkom jednoduché predstaviť si scenáre, v ktorých stále výkonnejšie autonómne počítačové systémy spôsobujú v skutočnom svete hrozivé škody, či už chybou z nepozornosti, alebo úmyselným zneužitím.

Mačacie frikasé na večeru

Predpokladajme napríklad, že niekedy v blízkej budúcnosti necháte robota, aby sa postaral o vaše deti. Budete chvíľu meškať, tak ho požiadate, aby pripravil večeru. Robot otvorí chladničku, nenájde v nej žiadne jedlo, tak vyráta výživovú hodnotu vašej mačky a spraví z nej mačacie frikasé.

Alebo si predstavte ešte hrozivejší prípad zneužitia, ktorý je dnes technicky možný. Teroristická skupina pošle do mesta kolóniu dronov prenášajúcich bomby a využije technológiu rozpoznávania obrázkov, aby zabili všetky osoby v policajných uniformách.

Ako tvrdí profesor Russell vo svojej najnovšej knihe Človek kompatibilný, potrebujeme lepší spôsob kontroly toho, čo počítače robia, aby sme im zabránili v neľudskom správaní. Aj keď to môže trvať mnoho rokov, ak nie desaťročia, musíme už teraz začať vážne uvažovať o tom, čo sa stane, ak niekedy vytvoríme nadľudskú umelú inteligenciu.

Ak by sme tento zásadný problém dokázali vyriešiť správne, znamenalo by to príchod zlatej éry blahobytu. Keby sme to však uchopili nesprávne, mohlo by to viesť k zániku ľudstva. Russell sa obáva, že kým v oblasti umelej inteligencie nenastane tragédia černobyľských rozmerov, nikto na zásadný význam zabezpečenia kontroly ani nepomyslí.

Čo ak zmeníme názor?

V súčasnosti je Russell jedným z mála z odbornej komunity, čo bije na poplach. Hoci bol spoluautorom učebnice o umelej inteligencii, ktorú používa väčšina univerzít po celom svete, kritizuje to, čo nazýva štandardným modelom umelej inteligencie, a nepáči sa mu ani popieračstvo mnohých ľudí z odboru.

Teraz pracuje spolu s ďalšími výskumníkmi a technologickými spoločnosťami na navrhovaní „preukázateľne prospešných“ systémov umelej inteligencie. Ich cieľom je vytvoriť citlivejšie programy, ktoré by sa pravidelne obracali na ľudí, aby sa uistili, že robia správnu vec, namiesto toho, aby len slepo dodržiavali stanovené úlohy. Takto by dokázali neustále optimalizovať ľudské preferencie.

Už od chvíle, ako sme začali myslieť, filozofi spochybňujú to, čo nás robí šťastnými. Kto by však rozhodoval o týchto preferenciách? Ako budeme porovnávať potreby starých a mladých? Alebo nenarodených? Čo sa stane, ak podobne ako kráľ Midas urobíme hlúpe rozhodnutie a potom zmeníme názor?

Stroj s ľudskými komponentmi

Experimenty s umelou stimuláciou mozgu tiež naznačujú, že s našimi preferenciami sa dá manipulovať. V nesprávnych podmienkach sa pripojení ľudia budú správať podobne ako laboratórne potkany, ktoré maniakálne stláčajú tlačidlo na uvoľnenie dopamínu, až kým neumrú.

Problémy optimalizácie ľudských preferencií sa samozrejme netýkajú len umelej inteligencie. Teoreticky, tento vznešený cieľ by mal každý deň poháňať demokratické vlády. Takisto by mal vysvetliť fungovanie trhu.

Avšak profesor Russell tvrdí, že akcionársky kapitalizmus je dobrým príkladom systému so zlou objektívnou funkciou alebo cieľom. Korporáciám sme dali pokyn, aby maximalizovali výnosy akcionárov a ignorovali pri tom ostatné spoločenské preferencie, ako je napríklad ochrana životného prostredia.

„Predstavte si priemysel s fosílnymi palivami ako systém umelej inteligencie. Nastavili sme ho s cieľom maximalizovať zisk, a preto sa mu tak darí,“ hovorí Russell. „Je to stroj, ktorý má ľudské komponenty, ale funguje stále ako stroj. Prekonal zvyšok ľudskej rasy, pretože je to typ superinteligentnej entity.“

Až príliš dôležitá

Rovnako ako environmentálni ekonómovia vytvárajú modely, aby dokázali ohodnotiť negatívne externality – napríklad uvalením uhlíkových daní, informatici budú musieť navrhnúť flexibilnejšie programy umelej inteligencie, ktoré budú zohľadňovať celý rad spoločenských preferencií.

Profesor Russell preto na Berkeley otvára informatický predmet za účasti katedry filozofie a ekonómie. Nové Centrum  pre umelú inteligenciu na University College v Londýne sa tiež rozhodlo využiť interdisciplinárny prístup.

Pri písaní manuálu pre našu budúcnosť budú musieť softvéroví inžinieri vytvárať nepretržitý dialóg medzi strojmi a ľuďmi. Umelá inteligencia je príliš dôležitá na to, aby bola ponechaná výlučne informatikom.