Denník N

Umelá inteligencia bude za nás rozhodovať čoraz častejšie. Máme jasno v tom, čo všetko jej povolíme?

Ilustračné foto - Jumpstory
Ilustračné foto – Jumpstory

Autor je filozof a IT manažér

Je čas si vážne klásť otázku, čo z toho, čo je vďaka digitálnym technológiám technicky možné, je aj morálne správne alebo dobré.

Provokujme naše morálne intuície a rozmýšľajme, čo všetko sme v rámci digitálnej revolúcie ešte ochotní obetovať a aké je naše miesto v pretechnizovanom svete.

Citlivejšie vnímame napríklad otázku súkromia či svojej závislosti od technológií.

Všímame si, že o nás počítače už neraz priamo rozhodujú – o tom, či dostaneme v banke úver, koho prijať a koho prepustiť alebo pri diagnostike onkologických ochorení.

Pýtame sa, do akej miery môžeme tieto rozhodnutia prenechať len na ne a do akej miery by sme im mali rozumieť aj my sami.

Ako rodičia rozmýšľame nad tým, ako a kedy digitálnemu svetu vystaviť nielen nás samotných, ale aj svoje deti.

Etika informačných technológií si všíma podobné morálne problémy, ktoré však súvisia nielen s používaním moderných technológií, ale aj s ich dizajnom a vývojom. A aj keď na Slovensku stále väčšinu technológií len dovážame, pre našu budúcnosť bude dôležité, aby sme sa na tieto otázky pripravili v dostatočnom predstihu a so všetkou vážnosťou.

Aktuálne sa vášnivé debaty vedú predovšetkým okolo využívania umelej inteligencie, teda AI. I keď súčasné implementácie AI ešte zďaleka nie sú všestranne rozumné, už dnes nám dokážu pomáhať v špecifických oblastiach, kde pracujú efektívnejšie ako človek.

Za všetky príklady uveďme rozpoznávanie obrazu používané v autonómnych autách, hľadanie asteroidov na hviezdnej oblohe či predpovedanie zemetrasení.

AI nevidno pod kapotu

Jedným zo zásadných etických problémov s AI je slabá transparentnosť a vysvetliteľnosť jej rozhodnutí. Ak umelá inteligencia pochybí, často o tom buď vôbec nevieme, alebo nedokážeme pochopiť dôvod zlyhania.

Keď napríklad v USA stroj posudzoval pravdepodobnosť, s akou odsúdení kriminálnici budú páchať ďalšie nekalosti, ukázalo sa, že jeho rozhodnutia sú diskriminačné a rasovo orientované.

Jednou z možných príčin je, že sa algoritmus učil podľa predošlých rozhodnutí súdu,

Na čítanie potrebujete aspoň štandard predplatné.

Dnes na dennike.sk

Ekonomika, Komentáre

Teraz najčítanejšie