Odborníčka na umelú inteligenciu Mária Bieliková: Nebojím sa robotov, ale ľudí

Umelá inteligencia (AI) už je takou bežnou súčasťou našich životov, že sme si na ňu zvykli a často si ani neuvedomujeme, že je tu. Prekladá texty, naviguje autá, radí nám v e-shopoch či pomáha bankám rozhodovať o tom, komu prideliť úver…

AI však vyvoláva aj kontroverzné otázky týkajúce sa jej budúceho vývoja, uplatnenia či dosahu na pracovný trh. Profesorka Mária Bieliková je predsedníčkou Slovenského centra pre výskum umelej inteligencie – Slovak.AI a členkou expertnej skupiny pre AI pri Európskej komisii.

Rozprávali sme sa s ňou v rámci podcastu E-tika, ktorý je o spoločenských dosahoch digitálnych technológií.

Z rozhovoru sa okrem iného dozviete:

• kedy môžeme AI nechať voľnú ruku a kedy by sme na ňu mali dohliadať;
• ako by mohlo byť Slovensko relevantné vo svete AI;
• čo by mali študovať vaše deti, aby ich raz v práci nenahradili roboty;
• ako ďaleko sme od všeobecnej umelej inteligencie na úrovni človeka a či sa jej máme báť.

V akom stave je umelá inteligencia dnes a aké je jej miesto v budúcnosti?

Keď sa hovorí o budúcnosti, vždy je dobré pozrieť sa do minulosti. Ľudia odjakživa vytvárali pomôcky na uľahčenie práce. Vytvorili aj výpočtové stroje – počítače – a veľmi rýchlo sa snažili o to, aby boli lepšie a zvládali aj ťažšie úlohy: aby teda boli inteligentnejšie. Takto vznikla, už pred 60 rokmi, umelá inteligencia.

Jej vplyv v priebehu dejín kolísal, ale vždy súvisel s inými technológiami, ja preto ani nevnímam AI oddelene od iných digitálnych technológií.

Dnes aj v súvislosti s koronakrízou vidíme, že digitalizácia predstavuje obrovské príležitosti pre rôzne produkty a služby, pri ktorých je vždy dobré, keď sú inteligentné. Čím viac budeme používať výdobytky digitálnej doby pri riešení rôznych úloh, tým viac budeme napredovať v najrozličnejších oblastiach.

Takto bude neustále stúpať dôležitosť IT a aj umelej inteligencie. Až raz, a možno je to už veľmi blízko, umelá inteligencia s inými technológiami splynie a ani ju nebudeme špeciálne pomenúvať. Už dnes je v mnohých riešeniach náročné oddeliť umelú inteligenciu od zvyšku.

Preto verím, že AI bude zohrávať veľmi veľkú úlohu, a je len na nás, ako sa s ňou vyrovnáme.

Pod pojmom umelá inteligencia si ľudia predstavujú rôzne veci. Aj preto my zvykneme každú debatu o AI započať jej definíciou. Aká je tá vaša?

Táto otázka je skoro až chyták. V prvom rade je umelá inteligencia vedná disciplína. Preto je nesprávne ju zosobňovať a vravieť o nej ako o živej bytosti, napríklad že „ona“ nám niečo urobí alebo neurobí. Sama od seba neurobí nič.

To, že sa AI definuje rôzne, súvisí aj s tým, že tie opisy majú rôzny účel. Preto je napríklad v materiáloch z dielne Slovak.AI, ktoré slúžia na podporu zavádzania AI do slovenských firiem, opisovaná široko a jednoducho, ako schopnosť neživých strojov riešiť úlohy vyžadujúce istý stupeň inteligencie. Takáto definícia by však, samozrejme, vôbec nestačila pri zavádzaní nejakých pravidiel či legislatívy.

Definície AI sa zväčša zameriavajú na jej vlastnosti. Ako najzásadnejšiu vlastnosť AI ja vnímam schopnosť systému učiť sa, čiže aj v nečakaných situáciách, o ktorých nikto vopred neuvažoval, sa vhodne a prijateľne správať a slúžiť danému účelu.

Čiže napríklad systém na zavlažovanie trávnika, ktorý sa aj u nás predáva s prívlastkom „inteligentný“ a pritom len spustí polievanie v určitých časoch, ak je sucho, by ste za „smart“ nepokladali.

Ak by sme takýto systém mali pred štyridsiatimi rokmi, určite by sme ho vtedy nazvali inteligentným. Stačilo by na to zopár pravidiel typu IF – THEN.

Dnes už na zaradenie do tejto oblasti obvykle vyžadujeme zložitejšie usudzovanie. Ale je dobré uvedomiť si, že definícia AI sa akoby hýbe v čase a o pár rokov aj veľmi zložitý systém na zavlažovanie – ktorý bude predikovať počasie a spustí polievanie i v okamihu, keď by sme to my nespravili, pričom sa jeho rozhodnutie ukáže ako prekvapivo správne – bude už možno taký obyčajný, že mu žiaden osobitný prívlastok nedáme.

AI dnes plní rôzne úlohy azda v každom odvetví. Kde a kedy ju môžeme nechať konať či rozhodovať úplne bez dohľadu? 

V prvom rade je tu podobný problém ako s tým zavlažovačom trávnika: v zmysle, že nie je jednoznačné, či a aká jeho časť je ten inteligentný systém.

Ale ak to trochu preženiem, tak poviem, že človek by mal byť zapojený vždy a všade. Bez jeho dohľadu by sa nemalo diať v zásade nič. To, samozrejme, platí od istej úrovne daného systému. Sú úlohy, ktorých riešenie už akceptujeme. Zároveň, vzhľadom na komplexnosť, človek ani nedokáže všetko skontrolovať.

Hranice toho, kde nechať stroju väčšiu a kde menšiu voľnosť, sa dajú odvinúť od dvoch rozmerov. Prvý je ten, ako vývojovo ďaleko je daný AI systém a aká zložitá je úloha z jeho pohľadu. Pretože v niektorých oblastiach je dnes stroj slabší ako trojročné dieťa, inde je to naopak. Väčšiu voľnosť by som mu, pochopiteľne, pridelila v oblastiach, kde sa mu darí.

Druhý pohľad súvisí s tým, v nakoľko rizikovej oblasti sa daná úloha nachádza. Či môže mať výstup daného AI systému vplyv na nejaké naše základné etické zásady, hodnoty, alebo či môže niekomu spôsobiť ujmu. Preto, ak aj systém funguje technicky dobre, ale je tu riziko, že môže ohroziť človeka či nebodaj mu ublížiť, tak to, samozrejme, treba vziať do úvahy.

Existuje niečo, čo by ste vy vyslovene nechceli, aby za nás AI systémy robili? 

Tých červených čiar je viac. Takou najvýraznejšou je oblasť autonómnych zbraní a ja som rada, že aj naša expertná skupina pre AI v Európskej komisii to vo svojich usmerneniach uviedla.

Niekoľkí filozofi, ktorí sú členmi tejto skupiny, sa vyslovene bili za to, aby to tam bolo, a zároveň iní boli proti tomu, aby sa vôbec nejaká červená čiara zverejňovala, pretože sa boja, že sa potom následkom toho začne verejnosť umelej inteligencie báť.

Iná z môjho pohľadu červená čiara, o ktorej sa veľa hovorí, je informačná manipulácia, ktorá je tiež v istom zmysle zbraňou. Myslím tým veci, ako sú falošné správy či ovplyvňovanie volieb pomocou dezinformácií.

Ďalším z problémov AI je jej slabá transparentnosť. Niekedy sú tie systémy také komplexné, že nevieme vôbec pochopiť, ako sa rozhodujú. Pritom sa používajú aj vo veľmi vážnych oblastiach; napríklad niekde už rozhodujú o tom, akú má pacient diagnózu alebo ktorého väzňa je možné prepustiť. 

Transparentnosť AI je obrovský problém, ktorý si uvedomujeme od počiatku jej výskumu.

Akurát vtedy algoritmy AI pracovali priamo s nám známymi vlastnosťami a na základe explicitne vyjadrených znalostí, najčastejšie formou pravidiel. Napríklad systém, ktorý povedzme diagnostikoval pacienta, pracoval so vstupnými informáciami o jeho telesnej teplote, o tom, či má kašeľ, a podobne. Keď následne odporučil diagnózu, tak to urobil na základe explicitne zapísaných znalostí vo forme pravidiel, ktoré prepájali tieto príznaky s diagnózami, a tak bolo možné dopátrať sa, prečo a na základe čoho sa tak rozhodol.

Problém je v tom, že takéto systémy vedia riešiť len veľmi úzku skupinu úloh. Ak bolo treba pridať nové situácie, vznikali výnimky, bolo treba zložito a často ručne všetko konfigurovať. Preto výskumníci vymýšľali systémy, kde aj samotné pravidlá vytvára automaticky program na základe mnohých príkladov. Prípadne, a to je už dnes realita, dokáže stroj nielen vytvoriť pravidlá, ale aj parametre, na základe ktorých navrhne riešenie. Nuž a čím dávame počítaču väčšiu časť práce, tým má človek menšiu šancu reálne prekontrolovať jeho výstup.

Tento posun od zrozumiteľnosti k nezrozumiteľnosti v prípade umelej inteligencie bol doslova skokový. Explicitný prístup založený na zápise znalostí tak, že to nasleduje ľudskú logiku, sa zmenil na prístup hlbokého učenia založený na neurónových sieťach, kde výsledok vzniká na základe veľmi malých, rôzne poprepájaných a nám neinterpretovateľných hodnôt, ktoré vytvárajú výsledok. Ten je často dobrý, ale pre človeka veľmi ťažko vysvetliteľný.

Dnes sme v stave, že je nereálne požadovať plnú transparentnosť algoritmov umelej inteligencie v tom zmysle, aby koncový používateľ pochopil, prečo AI systém navrhol také alebo onaké riešenie. Viem, že to neznie dobre, ale skúste sa spýtať aj ľudského lekára, aby vám plne vysvetlil svoje rozhodnutie, keď môže ísť povedzme sčasti o intuíciu. To tiež nejde.

Aktuálne najrozumnejším prístupom k riešeniu slabej transparentnosti AI je akoby rozbiť tento problém na viaceré časti. Jednou časťou je snaha dokumentovať proces tak, aby bol replikovateľný. V druhej sa snažíme o maximálnu zrozumiteľnosť daného odporúčania vykonaného strojom, aspoň pre odborníkov. Do tretice ide o komunikáciu, čiže človek by mal byť napríklad informovaný o tom, ktoré akcie vykonal počítač, akú máva pri tom úspešnosť, aby aj sám človek potom mohol spraviť informované rozhodnutie.

Tieto témy sú kdesi na rozhraní technických a humanitných odvetví. Z ktorej strany je lepšie k nim pristupovať?

Naozaj sú na rozhraní a mojou srdcovou záležitosťou je snaha tieto dva svety prepájať. V dnešnej dobe sa veľmi presadzuje technika a môže sa zdať, že spoločenské vedy sú akoby v úzadí, no pritom sú, samozrejme, nesmierne dôležité.

Preto je dobré, aby technologické firmy zamestnávali ľudí s humanitným vzdelaním, aby sa tí združovali na rôznych platformách súvisiacich s technológiami, ako je povedzme Slovak.AI, aby boli na technických univerzitách, a teda aby sa všade pridávali do tímov s technikmi.

Technici sa pozerajú na veci inak, a keď sa tieto dva svety premiešajú, odrazu zistia, že sa navzájom potrebujú.

Sú názory, že umelá inteligencia vie dnes riešiť len veľmi úzke množstvo úloh. Bude mať raz široký okruh uplatnenia?

Ja si myslím, že umelá inteligencia už teraz má široký záber uplatnenia, aj keď jednotlivé systémy AI riešia každý len úzky okruh problémov.

Zásadný rozdiel medzi AI a klasickými IT systémami je v tom, že „neinteligentné“ systémy vedia poskytnúť len také riešenie, ktoré bolo vopred vymyslené a niekto ho naprogramoval. AI systémy vedia poskytnúť riešenie, či predikovať situáciu, alebo dokonca dať návrh na riešenie úloh, ktoré predtým vôbec neboli naplánované. Dáta napríklad prezradia súvislosti, ktoré nikto nepredpokladal. A to je veľmi veľká vec!

Dokáže byť Slovensko relevantné v oblasti AI?

Sme malá krajina, ale súčasná doba, a najmä obdobie po koronakríze, hrá do kariet práve malým hráčom. Máme šikovných ľudí a v prepočte na jedného človeka vieme hlavami priniesť výrazne vyššiu hodnotu ako povedzme v priemyselných odvetviach, kde je často žiaduca istá veľkosť podniku a fyzické zapojenie ľudí. Digitálne technológie vytvárajú obrovskú príležitosť a malá krajina môže podstatne flexibilnejšie určiť svoje priority a koncentrovaním sa na niekoľko málo tém sa presadiť.

Sú napríklad rebríčky, ktoré IT schopnosti Slovákov stavajú na popredné miesto vo svete. Čiže my máme dobrých ľudí, len sa treba chopiť príležitosti.

Digitalizácia sa u nás spomína najmä v súvislosti s verejnou správou. Tá je, samozrejme, dôležitá, ale v skutočnosti potrebujeme vyrábať komerčné produkty a poskytovať inovatívne služby, byť v niečom špičkou, aby sme mohli následne aj vo verejnej správe urobiť čo najväčší pokrok.

Čo potrebujeme spraviť, je vybrať jednu-dve oblasti a tieto seriózne podporiť – môže to byť aj úzka oblasť uplatnenia AI. Som o tom natoľko presvedčená, že podľa mňa by si mal niekto z vlády napísať na papierik šesť či sedem oblastí uplatnenia digitálnych technológií, kde by mohlo Slovensko uspieť, ako sú povedzme zdravotníctvo, doprava alebo finančníctvo, potom zavrieť oči, hodiť si šípkou a silno podporiť len tú jednu alebo dve oblasti, na ktoré to padlo. Samozrejme, nie tak, že o iné sa už nebudeme starať a tam dáme všetky peniaze, ale tak, že ich tam dáme viac, aby sme boli konkurencieschopní.

Inak budeme len veľmi ťažko konkurovať a náš IT sektor bude iba zavádzať veci zvonka. Tieto vybrané oblasti budú mať šancu presadiť Slovensko preto, lebo do nich dáme nadkritickú masu.

Je to podobné, ako keď sme sa stali dobrí vo výrobe áut a následne to podporilo aj rôzne iné súvisiace dodávateľské oblasti. Lenže my sa musíme zmeniť z výrobnej dielne na krajinu, ktorá žije najmä z výsledkov práce našich hláv.

Všetci citlivo vnímajú dosah AI na pracovný trh. U nás zarezonovala napríklad správa OECD, ktorá tvrdí, že Slovensko je spomedzi všetkých rozvinutých krajín úplne najohrozenejšie v počte zamestnaní, ktoré môže výrazne ovplyvniť či až ohroziť automatizácia a robotizácia. U nás je ich údajne až 70 %. Azda najpútavejšie sa dá táto problematika vyjadriť otázkou, ktorá je nanajvýš aktuálna pre všetkých už dnes: čo by mali študovať naše deti, aby ich raz nenahradili roboty?

Určite nepomôže postaviť sa k tomu spiatočnícky. Rovnako ako v minulosti nepomohlo rozbíjať palicami stroje, ani robotizáciu nespomalíme napríklad dodatočným zdaňovaním.

Je to vážna téma, ale ak sa môžem k otázke o deťoch postaviť trochu odľahčene – neberte ma, prosím, doslovne –, tak poviem toto: ak všetci budú študovať len matematiku a naučia sa používať abstrakciu riešením matematických úloh, k tomu sa naučia komunikovať a kriticky myslieť, tak potom sa vo svojom pracovnom živote poľahky naučia robiť hocičo.

Čiže v istom zmysle všetko, čo potrebujeme spraviť, je naučiť svoje deti riešiť problémy. To sa dá vtedy, keď niečo naozaj vedia – nestačí im len popozerať sa po povrchu. A je jedno, čo sa deti naučia – len to budú musieť vedieť robiť do hĺbky, poriadne. K tomu už potom stačí len hrsť iných zručností, medzi ktoré, samozrejme, už dnes patrí aj práca s počítačom.

Niektorých povolaní bude naozaj ubúdať. Ale tých nebude veľa. To dôležitejšie je, že mnohé povolania sa budú meniť. Už sa vlastne menia. Patria medzi ne aj tie, čo si vyžadujú vysokú kvalifikáciu, ktoré bežne nepovažujeme za ohrozené automatizáciou, ako sú napríklad právnici, pretože im napríklad odpadne potreba študovať všetky predpisy, analyzovať ich vzájomné prepojenia či hľadať slovká v zmluvách. V tomto pomôže inteligentná aplikácia.

Týka sa to aj programátorov?

Áno, rovnako môžu byť ohrození programátori. Teda nie toto povolanie ako také. Závisí to od toho, aká bude potreba spoločnosti. Je viac než isté, že efektivita programátorov bude ďalej stúpať. To, čo kedysi trvalo naprogramovať niekoľko dní, neskôr zabralo len pár hodín, potom pár minút a dnes to zvládne vytvoriť sám počítač.

Čiže ak nebude stúpať dopyt po digitálnych službách, tak aj programátori naozaj môžu byť ohrození.

Vývoj AI nebol lineárny: obdobia silného rozmachu boli prerušené mnohoročnými úsekmi, keď pokrok zdanlivo stagnoval a trh bol sklamaný z nenaplnených očakávaní. Dnes mnohí hovoria, že nás opäť čaká pribrzdenie vývoja AI – azda pre obavy z toho, že nám AI ublíži, alebo pre vážne výhrady k jej fungovaniu, medzi ktoré patrí napríklad spomínaná netransparentnosť. 

Je isté, že súčasný rozmach a popularita AI sa raz skončí. Otázka je len, kedy a ako sa to stane.

Ja si myslím, že AI tu zostane navždy, ale raz to naozaj môže prestať byť pre štáty či firmy strategická priorita. V Európskej komisii majú v nasledujúcom programovom období počítačová bezpečnosť a AI kľúčové priority, no to sa časom môže zmeniť.

Môže sa to stať pre prehnané očakávania a súhlasím s tým, že k tomu môže dôjsť aj pre stratu dôvery v AI. Ale nemyslím si, že potom sa už umelou inteligenciou nebude nikto zaoberať.

Bolo by veľkou chybou zastaviť vývoj AI preto, lebo ľudia sa boja, čo nastane. Ľudia sa vždy báli nepoznaného, preto musí naše poznanie napredovať, a tu má kľúčovú rolu základný výskum.

Obavy zo súčasnej úzkej AI, ktorá vie riešiť len vybrané úlohy, sú nič oproti strachu ľudí zo všeobecnej umelej inteligencie, ktorá raz azda doženie a pokorí človeka úplne vo všetkom. Ako ďaleko sme od tejto všeobecnej AI na úrovni človeka? A máme sa jej báť? Andrej Karpathy, slovenský šéf AI v Tesle, napríklad vo svojom blogu tvrdí, že všeobecnú umelú inteligenciu dokážeme vytvoriť aj dnes rozšíreným strojovým učením, čiže pomerne klasickými matematickými a štatistickými algoritmami pracujúcimi s veľkým množstvom odpozorovaných dát.

Od všeobecnej AI máme podľa mňa ešte veľmi ďaleko. Ale môže sa stať, že zvýšením výpočtovej kapacity a úpravou súčasných metód strojového učenia sa naozaj dostaneme do stavu, že nebudeme schopní overiť fungovanie strojov a že sa nám to v istom zmysle vymkne z rúk.

Ja si však myslím, že sa takéto niečo tak rýchlo nestane. Dnes napríklad systémy AI vedia prekvapivo dobre spracovávať prirodzenú ľudskú reč, ale stále nerozumejú podstate ľudského textu. Systém AI nechápe, čo robí, nevie, o čom je vlastne reč.

Systémy AI je dnes pomerne ľahké oklamať. Známe sú napríklad experimenty, v ktorých prilepením len malých štvorčekov na dopravnú značku došlo k tomu, že ich následne AI systém interpretoval ako niečo úplne iné, pričom ľudské oko si žiadnu zmenu nevšimlo.

Umelej inteligencie sa netreba báť. Treba sa báť ľudí. Len od človeka závisí, čo sa bude ďalej diať a ako sa bude AI využívať.

Potrebujeme kritickú masu vzdelaných, charakterných, podnikavých a angažovaných ľudí. Takí ľudia budú ochotne bojovať proti zlu, ak by sa napríklad začali nejaké AI systémy zneužívať. Okrem toho potrebujeme aj rozumne stanovené a dodržiavané pravidlá. Tie dve podmienky – ľudia a pravidlá – však musia platiť súčasne. Potom by sa ľudstvu nemalo stať nič zlé.