Ako mení umelá inteligencia našu prácu? Rozhovor s odborníčkou na AI, Minou Saidze
Mina Saidze, medzinárodne uznávaná odborníčka na umelú inteligenciu, chce, aby bol pracovný svet budúcnosti spravodlivý a ľudský. V rozhovore nám porozprávala o tom, čo všetko si takýto stav vyžaduje.
Môže vyplniť daňové priznanie, podľa pokynov vytvoriť pútavú reklamu alebo dokonca zachrániť život tým, že pomôže s rýchlou a presnejšou diagnózou na pohotovosti: Umelá inteligencia (AI) ponúka ľudstvu mnoho možností. Napríklad tým, že prevezme neobľúbené alebo monotónne úlohy alebo preloží do niekoľkých sekúnd text do angličtiny. AI má však aj nevýhody. V médiách sa znova a znova objavujú správy o plánovanom prepúšťaní, od daňových pracovníčok až po inžinierky – postretnúť to môže naozaj každého. Odborníčka na technológie Mina Saidze so svojou spoločnosťou Inclusive Tech radí organizáciám a spoločnostiam v oblasti etiky a rozmanitosti, čo sa umelej inteligencie týka. Tridsaťjedenročná Saidze si praje, aby zmeny spojené s používaním umelej inteligencie boli humánne a spravodlivé. Na tomto poli sa zaoberá najmä právami žien.
Je umelá inteligencia nespravodlivá?
Umelá inteligencia sama osebe nie je ani spravodlivá, ani nespravodlivá, zrkadlí spoločnosť. Technológie nikdy nie sú neutrálne, pretože ich vytvárajú ľudia. To my sme zodpovední za to, aké hodnoty technológie nesú. A musíme začať od seba, vysporiadať sa so svojimi predsudkami a zaujatosťou. V opačnom prípade môže mať umelá inteligencia skutočne diskriminačný rozmer.
Veľké spoločnosti využívajú nástroje AI napríklad v rámci svojich personálnych oddelení, ktoré vyhľadávajú vhodných kandidátov na pracovné pozície v rámci spoločnosti po celom svete. Hovorí sa, že výhodou využívania AI v tomto smere je, že algoritmus dokáže poňať rozmanitejší výber a pracovné miesta sú obsadzované spravodlivejšie a sú aj vo vyššej miere obsadzované ženami. Súhlasíte s tým?
Ja to vidím celé inak. Na konci dňa je to dvojsečná zbraň. Boli sme svedkami nejedného prípadu, keď veľká technologická spoločnosť interne zaviedla náborový softvér s podporou umelej inteligencie, ktorý potom jednoznačne uprednostňoval mužských uchádzačov pred ženskými. Systém pracoval na základe historických tréningových údajov a v minulosti boli na tieto pozície neúmerne často prijímaní muži.
Takže platí, že algoritmus upevňuje diskrimináciu?
Keď je náborový softvér naprogramovaný tak, aby bol inkluzívny, etický, zodpovedný a transparentný, môže pomôcť pri prijímaní lepších personálnych rozhodnutí. V praxi sa to však deje len zriedka, čo súvisí s tým, že etika v oblasti umelej inteligencie sa považuje za skôr luxusnú tému. V súčasnosti sa okolo generatívnej AI odohráva niečo ako preteky v zbrojení. Ide predovšetkým o maximalizáciu zisku, napríklad byť prvý na trhu s inováciou alebo ako prvý zautomatizovať procesy.
Existujú príklady, ktoré hovoria, ako to urobiť lepšie?
Napríklad švajčiarske vydavateľstvo Ringier integrovalo do svojho systému content managementu funkciu v rámci svojej iniciatívy „EqualVoice“: Pri písaní článku sa napríklad redaktorom zobrazí, aké percento citovaných odborníkov tvoria ženy. Ženské hlasy sú na verejnosti zastúpené stále v príliš nepatrnej miere. AI tu môže zabezpečiť väčšiu spravodlivosť jednoduchým spočítaním a vizualizáciou rozdelenia. Novinári tak môžu lepšie zohľadniť znevýhodnené skupiny ľudí. Existuje niekoľko pozitívnych príkladov.
Máte záujem prečítať si niečo o inovatívnych myšlienkach? Objavte náš článok "Vegánska koža: Čo dokážu materiály budúcnosti".
Avšak stále sú tu aj nejaké výnimky, je tak?
Etika by mala v zásade zohrávať dôležitejšiu úlohu. Musíme si oveľa častejšie klásť aj iné otázky než len ekonomické: Koľko životov môžeme pomocou tejto technológie zlepšiť alebo dokonca zachrániť? Ako môžeme zabezpečiť, aby z digitalizácie profitovali všetci ako ctihodní občania? Ako sa môže svet práce stať rozmanitejším a spravodlivejším?
To je teraz poslaním vašej poradenskej organizácie Inclusive Tech, prvej európskej organizácie pre AI etiku a rozmanitosť v technologickom priemysle. Ako táto organizácia vznikla?
Počas prvej vlny lockdownov počas pandémie koronavírusu som mala čas položiť si niekoľko základných otázok. Za čo sa chcem postaviť? Uvedomila som si, že keď som bola súčasťou technických tímov, vždy som sa cítila v súbore údajov akosi cudzo, či už v kancelárii, na stretnutiach alebo na konferenciách: Zvyčajne som bola jediná žena a person of color. Napríklad v Rakúsku alebo Nemecku je v IT profesiách len približne 19 percent žien, v Európe je to 23 percent. A ja nechcem žiť vo svete, ktorý tvoria muži opäť len pre mužov. Chcem budúcnosť, v ktorej budú technológie tvoriť všetci rovnako. Pretože umelá inteligencia bude určovať našu budúcnosť, už teraz sme s ňou konfrontovaní každý deň. Napríklad, keď vezmem do ruky mobilný telefón a pozriem sa na news-feeds, zobrazujú sa mi články, ľudia v zoznamovacích aplikáciách alebo sa mi pri online objednávaní núkajú odporúčania na produkty: To všetko má niečo dočinenia s umelou inteligenciou.
Takže ste sa rozhodli, že sa budete venovať vzdelávaniu?
Poskytujeme poradenstvo rôznym organizáciám, od združení a nadácií až po spoločnosti. Oslovujeme aj politikov a médiá. Politicky sa zvyčajne iniciuje niekoľko malých podporných programov pre ženy v profesiách MIPaT (matematiky, informatiky, prírodných vied a techniky). To však nestačí. Bezpodmienečne sa musíme usilovať o reformu digitálneho vzdelávania v celej Európe, čo napríklad znamená, že už od tretieho ročníka by sa mal v školách vyučovať predmet, ako je dátová veda. Na vysokých školách potrebujeme povinné moduly z etiky umelej inteligencie a dátové analýzy, aby sme celú budúcu generáciu pripravili na digitálny trh práce. A potrebujeme kvalifikovať ľudí, aby mohli pokračovať vo svojej profesii alebo si nájsť uplatnenie v nových pracovných oblastiach.
Mnohé profesie zaniknú a zmenia sa, ale vznikne aj veľa nových. Mohla by to byť príležitosť pre ženy v IT sektore?
Áno, vďaka svojmu osobnému profilu vidím veľa príležitostí pre ženy. IT sektor mi priniesol sociálnu mobilitu, spoločenské uznanie a účasť. Chcela by som, aby túto výsadu malo viac ľudí v Európe. Na vlastnej koži som zažila, že v IT priemysle nezáleží na tom, či mám titul alebo čo som vyštudovala. Ide len a len o moje zručnosti. To neznamená, že sa každý musí naučiť programovať, ale že môžete pracovať aj vo funkcii rozhrania. Ak máte základné znalosti technológií, môžete pracovať na pozíciách orientovaných na obchod, napríklad v oblasti komunikácie alebo riadenia zainteresovaných strán. Vďaka empatii a organizačnému talentu majú ženy schopnosti, ktoré sú v súčasnosti žiadané. Okrem toho technologický priemysel ponúka skvelé podmienky, ženy môžu pracovať na čiastočný úväzok bez ohľadu na lokalitu a nováčikovia sa prijímajú neustále.
Sama si presedlala na iný fach. Ako sa ti to podarilo?
Študovala som ekonómiu. Okolo roku 2015 som začala pozorovať, že v Berlíne vzniká jeden start-up za druhým. Došlo mi to: Digitalizácia nie je len trend, ale dlhodobý vývoj, ktorým sa budeme zaoberať my všetci. A kto maká, ten bude aj profitovať. Preto som sa rozhodla, že začnem na sebe makať. V tom čase som skončila v zásuvke, v médiách: Migračná a integračná politika, napíšte o tom niekedy. Napriek tomu, že som sa narodila a vyrastala v Nemecku a nemčina je môj materinský jazyk! Necítila som sa na to, radšej by som sa zaoberala obrannou politikou alebo digitalizáciou. Ale tieto témy patrili vždy výhradne do sveta mužov.
Potom ste sa naučili programovať...
... a špecializujem sa na sektor big data analytics. Dnes ju vyučujem na univerzitách. Na to, aby som sa stala uznávanou odborníčkou, som potrebovala počas mnohých rokov veľa disciplíny, iniciatívy a reziliencie. Absolvovala som IT kurzy, aby som získala technické základy, navštevovala som hosťujúce prednášky z informatiky na Technickej univerzite v Berlíne a popri všetkej tej teórii som naberala aj praktické skúsenosti v IT priemysle, prostredníctvom kníh, online kurzov a univerzitných prednášok. Vstup do dátovej analýzy a dátovej vedy v súkromnom sektore bol pre mňa oslobodzujúcou zmenou - na mojom veku, pohlaví ani pôvode už nezáležalo. Konečne záležalo len na jedinej veci: Čo dokáže?
AI: Naozaj si ju treba vyskúšať!
Umelú inteligenciu používame všetci už nejaký čas. Keď sa Siri alebo Alexy spýtame na recept, je za tým program na rozpoznávanie reči a keď sa Firefoxu spýtame na hotel v Grécku, algoritmus prehľadá web. Umelá inteligencia nám však môže v každodennom živote pomôcť oveľa viac - stačí si ju len vyskúšať. V súčasnosti je veľa rozruchu okolo takzvanej generatívnej AI s nástrojmi, ako sú ChatGPT alebo Google Gemini. Tie dokážu napríklad kódovať programy alebo vytvárať webové stránky. Pri správnych informáciách dokáže ChatGPT v priebehu niekoľkých sekúnd navrhnúť pozvánku na narodeninovú oslavu alebo napísať slávnostný prejav pri príležitosti výročia firmy. Prinajmenšom dostanete na ruku pekný návrh, ktorý si potom môžete sami upraviť a možno ho vyšperkovať tak, aby bol ešte emotívnejší. Umelej inteligencii totiž chýba empatia. Prekladateľské nástroje, ako napríklad DeepL alebo translate.google zvládnu preložiť všetky jazyky, ale nie všetky zvládnu rovnako dobre. Angličtina v súčasnosti funguje najlepšie pravdepodobne kvôli tomu, že s týmto jazykom pracuje nástroj už naozaj dlho. Vždy však platí: výsledok by mal aj tak dôkladne skontrolovať človek, pretože aj umelá inteligencia sa môže pomýliť.
Über die KI-Expertin Mina Saidze
Dcéra rodičov, ktorí utiekli z Afganistanu, sa narodila v Nemecku a ako prvá v rodine začala študovať na univerzite. Po vyštudovaní ekonomiky najprv pracovala ako novinárka, dnes je 31-ročná dáma na odborníčkou na umelú inteligenciu, je to autorka a zakladateľka spoločnosti, ktorá získala viacero ocenení. V tech brandži sa zameriava najmä na nestranné algoritmy a inkluzívne technológie alebo jednoducho na to, aby z digitálneho pokroku mohol profitovať každý. Osobitne jej záleží na rovnosti práv žien. V roku 2020 založila Inclusive Tech ako prvú európsku organizáciu na podporu a poradenstvo v oblasti etiky AI a diverzity v technológiách. Medzi jej klientov patria renomované spoločnosti ako Intel, Yelp či IBM a neziskové organizácie, napríklad nadácie Körber a Heinrich Böll. Mina Saidze bola okrem iného hlavnou rečníčkou na Forbes Women Summit a Google. Na jeseň roku 2023 vydala svoju knihu s názvom „FairTech: Prehodnotenie digitalizácie pre spravodlivú spoločnosť“.
