Denník N

Odborníčka na umelú inteligenciu Mária Bieliková: Nebojím sa robotov, ale ľudí

Mária Bieliková. Foto N – Tomáš Benedikovič
Mária Bieliková. Foto N – Tomáš Benedikovič

Umelá inteligencia (AI) už je takou bežnou súčasťou našich životov, že sme si na ňu zvykli a často si ani neuvedomujeme, že je tu. Prekladá texty, naviguje autá, radí nám v e-shopoch či pomáha bankám rozhodovať o tom, komu prideliť úver…

AI však vyvoláva aj kontroverzné otázky týkajúce sa jej budúceho vývoja, uplatnenia či dosahu na pracovný trh. Profesorka Mária Bieliková je predsedníčkou Slovenského centra pre výskum umelej inteligencie – Slovak.AI a členkou expertnej skupiny pre AI pri Európskej komisii.

Rozprávali sme sa s ňou v rámci podcastu E-tika, ktorý je o spoločenských dosahoch digitálnych technológií.

Z rozhovoru sa okrem iného dozviete:

  • kedy môžeme AI nechať voľnú ruku a kedy by sme na ňu mali dohliadať;
  • ako by mohlo byť Slovensko relevantné vo svete AI;
  • čo by mali študovať vaše deti, aby ich raz v práci nenahradili roboty;
  • ako ďaleko sme od všeobecnej umelej inteligencie na úrovni človeka a či sa jej máme báť.

V akom stave je umelá inteligencia dnes a aké je jej miesto v budúcnosti?

Keď sa hovorí o budúcnosti, vždy je dobré pozrieť sa do minulosti. Ľudia odjakživa vytvárali pomôcky na uľahčenie práce. Vytvorili aj výpočtové stroje – počítače – a veľmi rýchlo sa snažili o to, aby boli lepšie a zvládali aj ťažšie úlohy: aby teda boli inteligentnejšie. Takto vznikla, už pred 60 rokmi, umelá inteligencia.

Jej vplyv v priebehu dejín kolísal, ale vždy súvisel s inými technológiami, ja preto ani nevnímam AI oddelene od iných digitálnych technológií.

Dnes aj v súvislosti s koronakrízou vidíme, že digitalizácia predstavuje obrovské príležitosti pre rôzne produkty a služby, pri ktorých je vždy dobré, keď sú inteligentné. Čím viac budeme používať výdobytky digitálnej doby pri riešení rôznych úloh, tým viac budeme napredovať v najrozličnejších oblastiach.

Takto bude neustále stúpať dôležitosť IT a aj umelej inteligencie. Až raz, a možno je to už veľmi blízko, umelá inteligencia s inými technológiami splynie a ani ju nebudeme špeciálne pomenúvať. Už dnes je v mnohých riešeniach náročné oddeliť umelú inteligenciu od zvyšku.

Preto verím, že AI bude zohrávať veľmi veľkú úlohu, a je len na nás, ako sa s ňou vyrovnáme.

Pod pojmom umelá inteligencia si ľudia predstavujú rôzne veci. Aj preto my zvykneme každú debatu o AI započať jej definíciou. Aká je tá vaša?

Táto otázka je skoro až chyták. V prvom rade je umelá inteligencia vedná disciplína. Preto je nesprávne ju zosobňovať a vravieť o nej ako o živej bytosti, napríklad že „ona“ nám niečo urobí alebo neurobí. Sama od seba neurobí nič.

To, že sa AI definuje rôzne, súvisí aj s tým, že tie opisy majú rôzny účel. Preto je napríklad v materiáloch z dielne Slovak.AI, ktoré slúžia na podporu zavádzania AI do slovenských firiem, opisovaná široko a jednoducho, ako schopnosť neživých strojov riešiť úlohy vyžadujúce istý stupeň inteligencie. Takáto definícia by však, samozrejme, vôbec nestačila pri zavádzaní nejakých pravidiel či legislatívy.

Definície AI sa zväčša zameriavajú na jej vlastnosti. Ako najzásadnejšiu vlastnosť AI ja vnímam schopnosť systému učiť sa, čiže aj v nečakaných situáciách, o ktorých nikto vopred neuvažoval, sa vhodne a prijateľne správať a slúžiť danému účelu.

Čiže napríklad systém na zavlažovanie trávnika, ktorý sa aj u nás predáva s prívlastkom „inteligentný“ a pritom len spustí polievanie v určitých časoch, ak je sucho, by ste za „smart“ nepokladali.

Ak by sme takýto systém mali pred štyridsiatimi rokmi, určite by sme ho vtedy nazvali inteligentným. Stačilo by na to zopár pravidiel typu IF – THEN.

Dnes už na zaradenie do tejto oblasti obvykle vyžadujeme zložitejšie usudzovanie. Ale je dobré uvedomiť si, že definícia AI sa akoby hýbe v čase a o pár rokov aj veľmi zložitý systém na zavlažovanie – ktorý bude predikovať počasie a spustí polievanie i v okamihu, keď by sme to my nespravili, pričom sa jeho rozhodnutie ukáže ako prekvapivo správne – bude už možno taký obyčajný, že mu žiaden osobitný prívlastok nedáme.

AI dnes plní rôzne úlohy azda v každom odvetví. Kde a kedy ju môžeme nechať konať či rozhodovať úplne bez dohľadu? 

V prvom rade je tu podobný problém ako s tým zavlažovačom trávnika: v zmysle, že nie je jednoznačné, či a aká jeho časť je ten inteligentný systém.

Ale ak to trochu preženiem, tak poviem, že človek by mal byť zapojený vždy a všade. Bez jeho dohľadu by sa nemalo diať v zásade nič. To, samozrejme, platí od istej úrovne daného systému. Sú úlohy, ktorých riešenie už akceptujeme. Zároveň, vzhľadom na komplexnosť, človek ani nedokáže všetko skontrolovať.

Hranice toho, kde nechať stroju väčšiu a kde menšiu voľnosť, sa dajú odvinúť od dvoch rozmerov. Prvý je ten, ako vývojovo ďaleko je daný AI systém a aká zložitá je úloha z jeho pohľadu. Pretože v niektorých oblastiach je dnes stroj slabší ako trojročné dieťa, inde je to naopak. Väčšiu voľnosť by som mu, pochopiteľne, pridelila v oblastiach, kde sa mu darí.

Druhý pohľad súvisí s tým, v nakoľko rizikovej oblasti sa daná úloha nachádza. Či môže mať výstup daného AI systému vplyv na nejaké naše základné etické zásady, hodnoty, alebo či môže niekomu spôsobiť ujmu. Preto, ak aj systém funguje technicky dobre, ale je tu riziko, že môže ohroziť človeka či nebodaj mu ublížiť, tak to, samozrejme, treba vziať do úvahy.

Existuje niečo, čo by ste vy vyslovene nechceli, aby za nás AI systémy robili? 

Tých červených čiar je viac. Takou najvýraznejšou je oblasť autonómnych zbraní a ja som rada, že aj naša expertná skupina pre AI v Európskej komisii to vo svojich usmerneniach uviedla.

Niekoľkí filozofi, ktorí sú členmi tejto skupiny, sa vyslovene bili za to, aby to tam bolo, a zároveň iní boli proti tomu, aby sa vôbec nejaká červená čiara zverejňovala, pretože sa boja, že sa potom následkom toho začne verejnosť umelej inteligencie báť.

Iná z môjho pohľadu červená čiara, o ktorej sa veľa hovorí, je informačná manipulácia, ktorá je tiež v istom zmysle zbraňou. Myslím tým veci, ako sú falošné správy či ovplyvňovanie volieb pomocou dezinformácií.

Foto N – Tomáš Benedikovič

Ďalším z problémov AI je jej slabá transparentnosť. Niekedy sú tie systémy také komplexné, že nevieme vôbec pochopiť, ako sa rozhodujú. Pritom sa používajú aj vo veľmi vážnych oblastiach; napríklad niekde už rozhodujú o tom, akú má pacient diagnózu alebo ktorého väzňa je možné prepustiť. 

Transparentnosť AI je obrovský problém, ktorý si uvedomujeme od počiatku jej výskumu.

Akurát vtedy algoritmy AI pracovali priamo s nám známymi vlastnosťami a na základe explicitne vyjadrených znalostí, najčastejšie formou pravidiel. Napríklad systém, ktorý povedzme diagnostikoval pacienta, pracoval so vstupnými informáciami o jeho telesnej teplote, o tom, či má kašeľ, a podobne. Keď následne odporučil diagnózu, tak to urobil na základe explicitne zapísaných znalostí vo forme pravidiel, ktoré prepájali tieto príznaky s diagnózami, a tak bolo možné dopátrať sa, prečo a na základe čoho sa tak rozhodol.

Problém je v tom, že takéto systémy vedia riešiť len veľmi úzku skupinu úloh. Ak bolo treba pridať nové situácie, vznikali výnimky, bolo treba zložito a často ručne všetko konfigurovať. Preto výskumníci vymýšľali systémy, kde aj samotné pravidlá vytvára automaticky program na základe mnohých príkladov. Prípadne, a to je už dnes realita, dokáže stroj nielen vytvoriť pravidlá, ale aj parametre, na základe ktorých navrhne riešenie. Nuž a čím dávame počítaču väčšiu časť práce, tým má človek menšiu šancu reálne prekontrolovať jeho výstup.

Tento posun od zrozumiteľnosti k nezrozumiteľnosti v prípade umelej inteligencie bol doslova skokový. Explicitný prístup založený na zápise znalostí tak, že to nasleduje ľudskú logiku, sa zmenil na prístup hlbokého učenia založený na neurónových sieťach, kde výsledok vzniká na základe veľmi malých, rôzne poprepájaných a nám neinterpretovateľných hodnôt, ktoré vytvárajú výsledok. Ten je často dobrý, ale pre človeka veľmi ťažko vysvetliteľný.

Dnes sme v stave, že je nereálne požadovať plnú transparentnosť algoritmov umelej inteligencie v tom zmysle, aby koncový používateľ pochopil, prečo AI systém navrhol také alebo onaké riešenie. Viem, že to neznie dobre, ale skúste sa spýtať aj ľudského lekára, aby vám plne vysvetlil svoje rozhodnutie, keď môže ísť povedzme sčasti o intuíciu. To tiež nejde.

Aktuálne najrozumnejším prístupom k riešeniu slabej transparentnosti AI je akoby rozbiť tento problém na viaceré časti. Jednou časťou je snaha dokumentovať proces tak, aby bol replikovateľný. V druhej sa snažíme o maximálnu zrozumiteľnosť daného odporúčania vykonaného strojom, aspoň pre odborníkov. Do tretice ide o komunikáciu, čiže človek by mal byť napríklad informovaný o tom, ktoré akcie vykonal počítač, akú máva pri tom úspešnosť, aby aj sám človek potom mohol spraviť informované rozhodnutie.

Tieto témy sú kdesi na rozhraní technických a humanitných odvetví. Z ktorej strany je lepšie k nim pristupovať?

Naozaj sú na rozhraní a mojou srdcovou záležitosťou je snaha tieto dva svety prepájať. V dnešnej dobe sa veľmi presadzuje technika a môže sa zdať, že spoločenské vedy sú akoby v úzadí, no pritom sú, samozrejme, nesmierne dôležité.

Preto je dobré, aby technologické firmy zamestnávali ľudí s humanitným vzdelaním, aby sa tí združovali na rôznych platformách súvisiacich s technológiami, ako je povedzme Slovak.AI, aby boli na technických univerzitách, a teda aby sa všade pridávali do tímov s technikmi.

Technici sa pozerajú na veci inak, a keď sa tieto dva svety premiešajú, odrazu zistia, že sa navzájom potrebujú.

Sú názory, že umelá inteligencia vie dnes riešiť len veľmi úzke množstvo úloh. Bude mať raz široký okruh uplatnenia?

Ja si myslím, že umelá inteligencia už teraz

Na čítanie potrebujete aspoň štandard predplatné.

Dnes na dennike.sk

Človek

Technológie

Umelá inteligencia

Ekonomika, Slovensko, Veda

Teraz najčítanejšie