Denník E

Najnovšie články© N Press s.r.o.

Odborníčka na umelú inteligenciu Mária Bieliková: Nebojím sa robotov, ale ľudí

Foto N – Tomáš Benedikovič
Foto N – Tomáš Benedikovič

Umelá inteligencia (AI) už je takou bežnou súčasťou našich životov, že sme si na ňu zvykli a často si ani neuvedomujeme, že je tu. Prekladá texty, naviguje autá, radí nám v e-shopoch či pomáha bankám rozhodovať o tom, komu prideliť úver…

AI však vyvoláva aj kontroverzné otázky týkajúce sa jej budúceho vývoja, uplatnenia či dosahu na pracovný trh. Profesorka Mária Bieliková je predsedníčkou Slovenského centra pre výskum umelej inteligencie – Slovak.AI a členkou expertnej skupiny pre AI pri Európskej komisii.

Rozprávali sme sa s ňou v rámci podcastu E-tika, ktorý je o spoločenských dosahoch digitálnych technológií.

Z rozhovoru sa okrem iného dozviete:

  • kedy môžeme AI nechať voľnú ruku a kedy by sme na ňu mali dohliadať;
  • ako by mohlo byť Slovensko relevantné vo svete AI;
  • čo by mali študovať vaše deti, aby ich raz v práci nenahradili roboty;
  • ako ďaleko sme od všeobecnej umelej inteligencie na úrovni človeka a či sa jej máme báť.

V akom stave je umelá inteligencia dnes a aké je jej miesto v budúcnosti?

Keď sa hovorí o budúcnosti, vždy je dobré pozrieť sa do minulosti. Ľudia odjakživa vytvárali pomôcky na uľahčenie práce. Vytvorili aj výpočtové stroje – počítače – a veľmi rýchlo sa snažili o to, aby boli lepšie a zvládali aj ťažšie úlohy: aby teda boli inteligentnejšie. Takto vznikla, už pred 60 rokmi, umelá inteligencia.

Jej vplyv v priebehu dejín kolísal, ale vždy súvisel s inými technológiami, ja preto ani nevnímam AI oddelene od iných digitálnych technológií.

Dnes aj v súvislosti s koronakrízou vidíme, že digitalizácia predstavuje obrovské príležitosti pre rôzne produkty a služby, pri ktorých je vždy dobré, keď sú inteligentné. Čím viac budeme používať výdobytky digitálnej doby pri riešení rôznych úloh, tým viac budeme napredovať v najrozličnejších oblastiach.

Takto bude neustále stúpať dôležitosť IT a aj umelej inteligencie. Až raz, a možno je to už veľmi blízko, umelá inteligencia s inými technológiami splynie a ani ju nebudeme špeciálne pomenúvať. Už dnes je v mnohých riešeniach náročné oddeliť umelú inteligenciu od zvyšku.

Preto verím, že AI bude zohrávať veľmi veľkú úlohu, a je len na nás, ako sa s ňou vyrovnáme.

Pod pojmom umelá inteligencia si ľudia predstavujú rôzne veci. Aj preto my zvykneme každú debatu o AI započať jej definíciou. Aká je tá vaša?

Táto otázka je skoro až chyták. V prvom rade je umelá inteligencia vedná disciplína. Preto je nesprávne ju zosobňovať a vravieť o nej ako o živej bytosti, napríklad že „ona“ nám niečo urobí alebo neurobí. Sama od seba neurobí nič.

To, že sa AI definuje rôzne, súvisí aj s tým, že tie opisy majú rôzny účel. Preto je napríklad v materiáloch z dielne Slovak.AI, ktoré slúžia na podporu zavádzania AI do slovenských firiem, opisovaná široko a jednoducho, ako schopnosť neživých strojov riešiť úlohy vyžadujúce istý stupeň inteligencie. Takáto definícia by však, samozrejme, vôbec nestačila pri zavádzaní nejakých pravidiel či legislatívy.

Definície AI sa zväčša zameriavajú na jej vlastnosti. Ako najzásadnejšiu vlastnosť AI ja vnímam schopnosť systému učiť sa, čiže aj v nečakaných situáciách, o ktorých nikto vopred neuvažoval, sa vhodne a prijateľne správať a slúžiť danému účelu.

Čiže napríklad systém na zavlažovanie trávnika, ktorý sa aj u nás predáva s prívlastkom „inteligentný“ a pritom len spustí polievanie v určitých časoch, ak je sucho, by ste za „smart“ nepokladali.

Ak by sme takýto systém mali pred štyridsiatimi rokmi, určite by sme ho vtedy nazvali inteligentným. Stačilo by na to zopár pravidiel typu IF – THEN.

Dnes už na zaradenie do tejto oblasti obvykle vyžadujeme zložitejšie usudzovanie. Ale je dobré uvedomiť si, že definícia AI sa akoby hýbe v čase a o pár rokov aj veľmi zložitý systém na zavlažovanie – ktorý bude predikovať počasie a spustí polievanie i v okamihu, keď by sme to my nespravili, pričom sa jeho rozhodnutie ukáže ako prekvapivo správne – bude už možno taký obyčajný, že mu žiaden osobitný prívlastok nedáme.

AI dnes plní rôzne úlohy azda v každom odvetví. Kde a kedy ju môžeme nechať konať či rozhodovať úplne bez dohľadu? 

V prvom rade je tu podobný problém ako s tým zavlažovačom trávnika: v zmysle, že nie je jednoznačné, či a aká jeho časť je ten inteligentný systém.

Ale ak to trochu preženiem, tak poviem, že človek by mal byť zapojený vždy a všade. Bez jeho dohľadu by sa nemalo diať v zásade nič. To, samozrejme, platí od istej úrovne daného systému. Sú úlohy, ktorých riešenie už akceptujeme. Zároveň, vzhľadom na komplexnosť, človek ani nedokáže všetko skontrolovať.

Hranice toho, kde nechať stroju väčšiu a kde menšiu voľnosť, sa dajú odvinúť od dvoch rozmerov. Prvý je ten, ako vývojovo ďaleko je daný AI systém a aká zložitá je úloha z jeho pohľadu. Pretože v niektorých oblastiach je dnes stroj slabší ako trojročné dieťa, inde je to naopak. Väčšiu voľnosť by som mu, pochopiteľne, pridelila v oblastiach, kde sa mu darí.

Druhý pohľad súvisí s tým, v nakoľko rizikovej oblasti sa daná úloha nachádza. Či môže mať výstup daného AI systému vplyv na nejaké naše základné etické zásady, hodnoty, alebo či môže niekomu spôsobiť ujmu. Preto, ak aj systém funguje technicky dobre, ale je tu riziko, že môže ohroziť človeka či nebodaj mu ublížiť, tak to, samozrejme, treba vziať do úvahy.

Existuje niečo, čo by ste vy vyslovene nechceli, aby za nás AI systémy robili? 

Tých červených čiar je viac. Takou najvýraznejšou je oblasť autonómnych zbraní a ja som rada, že aj naša expertná skupina pre AI v Európskej komisii to vo svojich usmerneniach uviedla.

Niekoľkí filozofi, ktorí sú členmi tejto skupiny, sa vyslovene bili za to, aby to tam bolo, a zároveň iní boli proti tomu, aby sa vôbec nejaká červená čiara zverejňovala, pretože sa boja, že sa potom následkom toho začne verejnosť umelej inteligencie báť.

Iná z môjho pohľadu červená čiara, o ktorej sa veľa hovorí, je informačná manipulácia, ktorá je tiež v istom zmysle zbraňou. Myslím tým veci, ako sú falošné správy či ovplyvňovanie volieb pomocou dezinformácií.

Foto N – Tomáš Benedikovič

Ďalším z problémov AI je jej slabá transparentnosť. Niekedy sú tie systémy také komplexné, že nevieme vôbec pochopiť, ako sa rozhodujú. Pritom sa používajú aj vo veľmi vážnych oblastiach; napríklad niekde už rozhodujú o tom, akú má pacient diagnózu alebo ktorého väzňa je možné prepustiť. 

Transparentnosť AI je obrovský problém, ktorý si uvedomujeme od počiatku jej výskumu.

Akurát vtedy algoritmy AI pracovali priamo s nám známymi vlastnosťami a na základe explicitne vyjadrených znalostí, najčastejšie formou pravidiel. Napríklad systém, ktorý povedzme diagnostikoval pacienta, pracoval so vstupnými informáciami o jeho telesnej teplote, o tom, či má kašeľ, a podobne. Keď následne odporučil diagnózu, tak to urobil na základe explicitne zapísaných znalostí vo forme pravidiel, ktoré prepájali tieto príznaky s diagnózami, a tak bolo možné dopátrať sa, prečo a na základe čoho sa tak rozhodol.

Problém je v tom, že takéto systémy vedia riešiť len veľmi úzku skupinu úloh. Ak bolo treba pridať nové situácie, vznikali výnimky, bolo treba zložito a často ručne všetko konfigurovať. Preto výskumníci vymýšľali systémy, kde aj samotné pravidlá vytvára automaticky program na základe mnohých príkladov. Prípadne, a to je už dnes realita, dokáže stroj nielen vytvoriť pravidlá, ale aj parametre, na základe ktorých navrhne riešenie. Nuž a čím dávame počítaču väčšiu časť práce, tým má človek menšiu šancu reálne prekontrolovať jeho výstup.

Tento posun od zrozumiteľnosti k nezrozumiteľnosti v prípade umelej inteligencie bol doslova skokový. Explicitný prístup založený na zápise znalostí tak, že to nasleduje ľudskú logiku, sa zmenil na prístup hlbokého učenia založený na neurónových sieťach, kde výsledok vzniká na základe veľmi malých, rôzne poprepájaných a nám neinterpretovateľných hodnôt, ktoré vytvárajú výsledok. Ten je často dobrý, ale pre človeka veľmi ťažko vysvetliteľný.

Dnes sme v stave, že je nereálne požadovať plnú transparentnosť algoritmov umelej inteligencie v tom zmysle, aby koncový používateľ pochopil, prečo AI systém navrhol také alebo onaké riešenie. Viem, že to neznie dobre, ale skúste sa spýtať aj ľudského lekára, aby vám plne vysvetlil svoje rozhodnutie, keď môže ísť povedzme sčasti o intuíciu. To tiež nejde.

Aktuálne najrozumnejším prístupom k riešeniu slabej transparentnosti AI je akoby rozbiť tento problém na viaceré časti. Jednou časťou je snaha dokumentovať proces tak, aby bol replikovateľný. V druhej sa snažíme o maximálnu zrozumiteľnosť daného odporúčania vykonaného strojom, aspoň pre odborníkov. Do tretice ide o komunikáciu, čiže človek by mal byť napríklad informovaný o tom, ktoré akcie vykonal počítač, akú máva pri tom úspešnosť, aby aj sám človek potom mohol spraviť informované rozhodnutie.

Tieto témy sú kdesi na rozhraní technických a humanitných odvetví. Z ktorej strany je lepšie k nim pristupovať?

Naozaj sú na rozhraní a mojou srdcovou záležitosťou je snaha tieto dva svety prepájať. V dnešnej dobe sa veľmi presadzuje technika a môže sa zdať, že spoločenské vedy sú akoby v úzadí, no pritom sú, samozrejme, nesmierne dôležité.

Preto je dobré, aby technologické firmy zamestnávali ľudí s humanitným vzdelaním, aby sa tí združovali na rôznych platformách súvisiacich s technológiami, ako je povedzme Slovak.AI, aby boli na technických univerzitách, a teda aby sa všade pridávali do tímov s technikmi.

Technici sa pozerajú na veci inak, a keď sa tieto dva svety premiešajú, odrazu zistia, že sa navzájom potrebujú.

Sú názory, že umelá inteligencia vie dnes riešiť len veľmi úzke množstvo úloh. Bude mať raz široký okruh uplatnenia?

Ja si myslím, že umelá inteligencia už teraz

Na čítanie potrebujete aspoň štandard predplatné.

Dnes na DennikE.sk

  • Ekonomický newsfilter: Jančura Matovičovi pripomenul, ako jeho ľudí kollárovci na doprave ponížili
  • Inflácia: Tempo rastu cien sa v júli spomalilo na 1,7 %, čo je najmenej od októbra 2017

Ako sú na tom počas pandémie španielske železiarne Sotákovcov? Prekvapivo ešte celkom dobre

Predseda Klubu 500 Vladimír Soták. Foto - TASR
Predseda Klubu 500 Vladimír Soták. Foto – TASR

Španielska dcérska fabrika Železiarní Podbrezová Transmesa síce leží v koronavírusom obzvlášť sužovanom Katalánsku, no s výsledkami je na tom ešte dosť dobre. Za prvý polrok produkcia medziročne klesla len o štvrtinu a udržala sa v zisku.

Minúta po minúte

Medzi rizikové profesie budú podľa nového pandemického plánu patriť aj veterinári, ošetrovatelia zvierat a pracovníci v potravinárskom priemysle. Upozornilo na to ministerstvo pôdohospodárstva. Získajú nárok na lepšie ochranné pomôcky či prednostné vyšetrenia.

Spotrebiteľské ceny v Nemecku v júli klesli medziročne o 0,1 %, znížili sa prvý raz za vyše 4 roky. Dôvodom bol pokles dane z pridanej hodnoty, v júni ešte medziročná inflácia dosiahla 0,9 %.

Konečné dáta o vývoji inflácie v júli zverejnil spolkový štatistický úrad Destatis na internetovej stránke. Ceny sa naposledy medziročne znížili v apríli 2016, a to rovnako o 0,1 %.

Od júla platí v Nemecku nižšia DPH, základná sadzba klesla z 19 % na 16 % a znížená sa posunula na 5 % z predchádzajúcich 7 %. Zvýhodnenie s cieľom stimulovať spotrebu zasiahnutú koronakrízou má platiť do konca roka. (tasr, n)

Medziročná inflácia na Slovensku sa v júli zvoľnila na 1,7 %, čo je najpomalšie tempo od októbra 2017. Rast spotrebiteľských cien poľavil piaty mesiac za sebou, medzimesačne stúpli o 0,1 %.

Údaje o júlovej inflácii zverejnil štatistický úrad na internetovej stránke. V medziročnom porovnaní ceny stúpli vo všetkých sledovaných kategóriách s výnimkou dopravy, kde sa znížili o 3,9 %.

Vplyv na úroveň inflácie v júli mal podľa štatistikov najmä medzimesačný pokles cien potravín (ovocie, zelenina, mäso) a zlacnenie odevov a obuvi o 0,4 %.

Napriek spomaľovaniu inflácie patrí Slovensko v rámci eurozóny ku krajinám s najrýchlejším medziročným rastom cien. Medziročná inflácia v eurozóne v júni dosiahla 0,3 %, na Slovensku bola najvyššia (1,8 %).

Podcast ekonomického newsfiltra: Jančura Matovičovi pripomenul, ako jeho ľudí ponížili na doprave kollárovci. Tradične asertívny šéf RegioJetu využil zlú povesť politikov Sme rodina.

Ekonomický newsfilter: Jančura Matovičovi pripomenul, ako jeho ľudí kollárovci na doprave ponížili +

  • Štátna IT, a. s., bude, má definitívny súhlas koaličnej rady.
  • V potravinárskej firme v Sládkovičove našli 24 nakazených.
  • Slovenský startup Sensoneo rozbehne v dvoch veľkých európskych mestách veľkoplošné riadenie odpadov cez senzory.

Americké akcie v stredu posilnili, index S&P 500 sa blíži k rekordu 3386,15 bodu z 19. februára, ktorý v priebehu obchodovania aj prekonal. Rast ťahali najmä technologické tituly spoločností Microsoft, Amazon a Apple.

Dow Jonesov index si dnes pripísal 1,05 percenta a uzavrel na 27 976,84 bodu. Index S&P 500 vzrástol o 1,4 percenta na 3380,35 bodu a index Nasdaq sa zvýšil o 2,13 percenta na 11 012,24 bodu.

Najvýraznejšou podporou indexu Nasdaq boli akcie amerického výrobcu elektrických áut Tesla, ktoré stúpli o 13,12 percenta.

Spoločnosť predtým oznámila, že rozdelí svoje akcie v pomere päť ku jednej. Podnik, ktorý sa už teraz teší veľkému záujmu investorov, tak chce ich držanie sprístupniť ešte väčšiemu množstvu záujemcov. Akcie Tesly od začiatku roka pridali vyše 200 percent. (reuters, čtk)

Oslabovanie ekonomickej aktivity v USA bude pravdepodobne pokračovať, lebo mnohé štáty opäť začínajú prijímať sprísnené opatrenia na zmiernenie šírenia koronavírusu a spotrebitelia sú stále príliš opatrní. Uviedol to šéf bostonskej pobočky americkej centrálnej banky Eric Rosengren.

„Prognóza vývoja americkej ekonomiky v jesenných mesiacoch je do veľkej miery nejasná, podľa môjho názoru však oslabovanie ekonomickej aktivity bude pokračovať,“ povedal.

Ako dodal, keďže je nepravdepodobné, že vakcína bude dostupná už v najbližšej budúcnosti, firmy a spotrebitelia budú potrebovať plán na zvládanie rizík spojených s koronavírusom počas jesenných a zimných mesiacov. (reuters, tasr)

Najväčší armádny podnik je v problémoch. Väčšina jeho ľudí nemá prácu, hovorí Naď

Letecké opravovne Trenčín nezachránilo ani know-how v oblasti opráv ruských vrtuľníkov Mi-17. Foto – TASR
Letecké opravovne Trenčín nezachránilo ani know-how v oblasti opráv ruských vrtuľníkov Mi-17. Foto – TASR

Najväčší podnik ministerstva obrany – Letecké opravovne Trenčín, má problémy. Chýbajú mú zákazky a väčšina jeho zamestnancov tak nemá na čom pracovať, hovorí minister obrany Jaroslav Naď.

Za vaše predplatné

Predplaťte si informačného asistenta o ekonomike

Kúpiť predplatné

Aktivujte si ranný Ekonomický Newsfilter

Pozrite si ukážkuAktivovať