Vatikán 15. júla (TK KBS) V rozhovore pre Vatican News odborník na umelú inteligenciu Artur Kluz, tvorca konceptu „Virtue Tech“ (Technológie čnosti) a rečník na globálnom summite AI for Good v Ženeve, uvádza, že encyklika pápeža Leva XIV. „Magnifica humanitas“ posunula globálnu diskusiu o umelej inteligencii od samotnej technológie k ľudskej osobe. Dodáva, že AI by mala „rozširovať ľudský úsudok, a nie ho nahrádzať,“ slúžiť mieru a humanitárnym účelom a že technické vzdelávanie by malo sprevádzať formovanie morálky.
„Pápež Lev XIV. posunul globálnu diskusiu o umelej inteligencii od samotnej technológie k ľudskej osobe.“ V rozhovore pre Vatican News tento postreh vyslovil odborník na technológie a umelú inteligenciu Artur Kluz, keď sa zamýšľal nad prvou encyklikou pápeža Leva XIV. Magnifica humanitas: o ochrane ľudskej osoby v ére umelej inteligencie, ako aj nad nedávnym posolstvom Svätého Otca na globálnom summite AI for Good v Ženeve.
Tento technologický investor a podnikateľ je zakladateľom a generálnym riaditeľom globálnej investičnej spoločnosti Kluz Ventures, ktorá sa zameriava na umelú inteligenciu, výskum vesmíru a ďalšie prelomové technológie. Vyvinul koncept „Virtue Tech“ – myšlienku, že zakladatelia, technológovia a investori potrebujú popri technických znalostiach aj morálne formovanie.
Kluz bol jedným z rečníkov na tomto významnom summite v Ženeve, ktorý je hlavnou platformou Organizácie Spojených národov pre umelú inteligenciu a zaoberal sa tým, ako AI formuje svet a ako môže prispieť k riešeniu globálnych výziev. O pápežskej encyklike uvažoval spolu s ďalšími odborníkmi z odvetvia a zástupcami Svätej stolice. Založil tiež cenu Kluz Prize for PeaceTech, jednu z popredných svetových iniciatív venovanú rozvoju AI a iných technológií, ktoré slúžia ľudstvu, budujú mier a chránia ľudskú dôstojnosť. Za posledné štyri roky táto iniciatíva prilákala žiadosti od tvorcov technológií a inovátorov z 82 krajín sveta.
Pán Kluz, čo považujete za najväčší prínos encykliky Magnifica humanitas pre ochranu ľudskej osoby v ére AI?
Verím, že najväčším prínosom encykliky Magnifica humanitas je to, že pápež Lev XIV. posunul globálnu diskusiu o umelej inteligencii od samotnej technológie k ľudskej osobe. Z pohľadu niekoho, kto investuje do prelomových technológií a buduje na nich firmy, sa domnievam, že pápež Lev XIV. ponúka niečo, čo v diskusiách o AI často chýba: kompas namiesto obmedzení. Pápež Lev nie je proti podnikaniu, inováciám ani zodpovednej návratnosti kapitálu. Skôr nás vyzýva, aby sme si kládli hlbšie morálne otázky predtým, než sa rozhodneme, čo budeme stavať, ako to budeme stavať a prečo to staviame. Podnikatelia by sa mali usilovať nielen o vytváranie inteligentnejších strojov, ale aj o vývoj technológií a inštitúcií, ktoré pomôžu ľudstvu stať sa múdrejším, mierumilovnejším a schopnejším spoločne prosperovať.
Diskusie o AI sa príliš často zameriavajú na technologické možnosti, investície a konkurenciu. Magnifica humanitas nám pripomína, že dôležitejšou otázkou je, akému druhu ľudstva tieto technológie v konečnom dôsledku slúžia. Ako investor a tvorca technológií verím, že pápež Lev XIV. vyzdvihuje tri praktické princípy: technológia nie je nikdy morálne neutrálna; technológia musí vždy slúžiť ľudskej osobe; a múdrosť a cnosť musia rásť ruka v ruke s inováciami. Našou najväčšou výzvou nie je len vytvárať inteligentnejšie stroje, ale stať sa dostatočne múdrymi na to, aby sme ich správne používali. Pápežova výzva k morálnemu a duchovnému rozlišovaniu je podľa môjho názoru jedným z najpraktickejších odporúčaní encykliky. Technológie nám môžu pomôcť stavať rýchlejšie, ale nedokážu nám povedať, čo by sme mali stavať. Rozlišovanie sa pýta: Mali by sme to postaviť? Komu to bude slúžiť? Posilní to ľudskú dôstojnosť, mier a spoločné dobro?
Nedávno som sa v Silicon Valley a vo Washingtone, D.C., zúčastnil na komorných stretnutiach s mladými inžiniermi, programátormi a výskumníkmi z popredných firiem v oblasti AI. Očakávalo sa, že budeme diskutovať o väčších modeloch, autonómnych agentoch, všeobecnej umelej inteligencii (AGI) a nových trendoch. Namiesto toho sa však mnohé otázky týkali toho, ako aplikovať princípy encykliky v každodennej práci, pri písaní kódu a v osobnom živote: Ako budovať charakter, aby sme mohli vytvárať lepšiu AI? Ako chápeme Boha? Ako zabezpečiť, aby technologický pokrok sprevádzal aj ľudský rast? To mi potvrdilo dôležitú vec: technológia je zrkadlom svojich tvorcov. Technológie, ktoré vytvárame, nakoniec odrážajú to, kým sme, aké hodnoty vyznávame a aký charakter v sebe pestujeme.
Najväčším prínosom encykliky Magnifica humanitas nie je nový súbor pravidiel, ale pripomenutie správneho východiskového bodu. Ľudská dôstojnosť, a nie len samotná efektivita či výkonnosť, musí byť meradlom, podľa ktorého posudzujeme akúkoľvek technológiu vrátane AI. Pre Cirkev to nie je nová myšlienka. Pokračuje v tradícii encyklík ako Rerum novarum, Centesimus annus a Laudato si’. Nová je jej aplikácia na technológiu, ktorá sa dotýka otázok pravdy, vzťahov a moci súčasne. Pre mňa osobne táto encyklika nepriniesla úplne nový smer, ale skôr potvrdila to, čomu verím už roky: otázky, ktoré AI prináša, sú síce nové, no morálny rámec potrebný na ich riešenie – dôstojnosť, spoločné dobro, solidarita, subsidiarita a spravodlivosť – tu existuje už dlho. Z môjho pohľadu v encyklike vynikajú tri praktické body.
Aké sú to body?
Po prvé, encyklika uznáva, že technológia nie je nikdy morálne neutrálna. AI odráža hodnoty, kultúru a morálny stav tých, ktorí ju vytvárajú. Ak chceme AI zameranú na človeka, potrebujeme, aby ju vyvíjali ľudia orientovaní na dobro.
Po druhé, redefinuje moc, a nielen inovácie, ako kľúčovú otázku. Vývoj technológií dnes často poháňajú súkromní, nadnárodní aktéri, ktorých zdroje môžu prevyšovať zdroje vlád. To vyvoláva vážne otázky týkajúce sa zodpovednosti.
A po tretie, pristupuje k pravde ako k spoločnému dobru. V ére algoritmického výberu obsahu a generatívneho obsahu je ochrana zdieľaného základu pravdy sama osebe spôsobom, ako chrániť ľudskú dôstojnosť. Spoločnosť, ktorá sa už nedokáže zhodnúť na tom, čo je skutočné, len ťažko dokáže spoločne konať v prospech spoločného dobra a budovať mier.
Ako niekto, kto sa sám intenzívne venuje umelej inteligencii, čo považujete za kľúčové pre zabezpečenie zodpovedného používania AI, ktoré chráni ľudí, ich dôstojnosť a prácu? Ako možno AI eticky využívať v službách ľudstva?
Ľudia, ktorí AI vytvárajú, systémy, ktoré ju usmerňujú, a kultúra, ktorá ju prijíma, musia zostať prepojení. Nemyslím si, že dokážeme vytvoriť skutočne ľudsky orientované systémy AI, ak sa ľudia, ktorí ich navrhujú, nebudú snažiť pestovať čnosti, ktoré si tieto systémy vyžadujú. Ako som už spomínal, technológia je v skutočnosti zrkadlom svojich tvorcov. Preto som vyvinul koncept „Virtue Tech“: myšlienku, že zakladatelia, technológovia a investori potrebujú popri technických znalostiach aj morálne formovanie. To, čo dnes potrebujeme viac, nie sú len väčšie technické znalosti, ale aj väčšia múdrosť a duchovná inteligencia.
Sú potrebné mantinely (tzv. guardrails), aby sa zabezpečilo, že sa AI nestane príliš mocnou alebo škodlivou?
Pokiaľ ide o riadenie a mantinely, o viacerých oblastiach sa nedá vyjednávať. Po prvé, ľudské rozhodovanie a dohľad musia zostať kľúčové. Všade tam, kde AI ovplyvňuje rozhodnutia týkajúce sa života a smrti, právnych procesov, zamestnania alebo vývoja detí, musí zostať zmysluplne zapojený človek – a to nielen formálne na papieri.
Ďalej potrebujeme pravdivé a dôveryhodné informácie. Systémy AI sú len také spoľahlivé, nakoľko spoľahlivé sú dáta a stimuly, ktoré za nimi stoja. Ochranné bariéry proti manipulácii, deepfakes a erózii zdieľanej faktickej reality sú čoraz naliehavejšie.
A nakoniec musíme riešiť koncentráciu moci. Keď malý počet súkromných aktérov dokáže formovať výsledky v obrovskom meradle, spoločnosť potrebuje skutočné štruktúry zodpovednosti a nemôže sa spoliehať výhradne na samoreguláciu.
Ako sa dá AI eticky využívať a slúžiť ľudstvu?
AI môže slúžiť ľudstvu vtedy, keď je zameraná na zmierňovanie reálneho utrpenia, rozširovanie prístupu k zdravotnej starostlivosti, urýchľovanie vedeckých objavov, pomoc pri detekcii nášľapných mín a podporu budovania mieru, a nie len na maximalizáciu sledovanosti, ťažbu dát alebo kontrolu. To musí byť vedomé rozhodnutie prijaté na samotnom začiatku tými, ktorí tieto systémy financujú, navrhujú a stavajú.
Pápežovo usmernenie ovplyvnilo otázky, ktoré si kladiem pri hodnotení firiem. Okrem technológií, trhov a realizácie sa pýtam: Bude táto technológia slúžiť človeku? Zachráni životy? Posilní mier? Prispeje k ľudskému rozkvetu? Pre podnikateľov to predstavuje zodpovednosť aj príležitosť. Inovácie by mali ľudskú dôstojnosť posilňovať, nie oslabovať. AI by mala ľudský úsudok rozširovať, nie ho nahrádzať, podporovať spoluprácu namiesto polarizácie a posilňovať komunity namiesto koncentrácie moci.
Táto zodpovednosť presahuje samotný softvér AI. Vstupujeme do éry, v ktorej AI čoraz viac závisí od fyzickej infraštruktúry vrátane satelitov, dátových systémov, komunikačných sietí a autonómnych technológií. Tieto infraštruktúry sa stávajú súčasťou morálnej architektúry spoločnosti. Mali by byť preto navrhované nielen s ohľadom na efektivitu a komerčný úspech, ale aj na posilnenie odolnosti, transparentnosti, humanitárnej reakcie a mieru. Technológie, ktoré ľudstvo spájajú, by sa nikdy nemali stať nástrojmi, ktoré ho rozdeľujú.
Pápež Lev varuje aj pred technokratickou paradigmou, v ktorej sa efektivita, kontrola a zisk stávajú cieľom samým o sebe. Efektivita je mimoriadny nástroj, ale nikdy sa nesmie stať konečným cieľom. Líderstvo v oblasti technológií poháňané čnosťami je preto čoraz dôležitejšie.
Mohli by ste to bližšie objasniť?
Spoločnosti, ktoré si zakladajú na rámci služby ľudstvu, môžu získať niečo oveľa cennejšie ako trhový podiel – môžu si získať dôveru verejnosti. AI môže vytvárať dojem neobmedzených vedomostí, ale nemá svedomie ani prežitú ľudskú skúsenosť. Morálny charakter sa preto stáva strategickou výhodou, pretože technológia v konečnom dôsledku odráža ľudí, ktorí ju vytvárajú a riadia.
Posolstvo pápeža Leva pre globálny summit AI for Good uvádza, že encyklika Magnifica humanitas sa zrodila z nádejného počúvania vedcov, lídrov, rodičov a učiteľov, ale aj z obáv pred zneužitím a stratou ľudskej slobody rozhodovania. Aké sú kľúčové spôsoby, ktorými môžu vývojári AI na tieto obavy reagovať?
Myslím si, že napätie, ktoré Svätý Otec opisuje – keď nádej a obavy existujú vedľa seba – je presne ten správny postoj. Je to tiež niečo, čo vnímam z rozhovorov so zakladateľmi a inžiniermi. Vývojári a investori môžu podniknúť niekoľko konkrétnych krokov.
Napríklad ľudský dohľad by mal byť do architektúry systémov AI zabudovaný od samého začiatku, a nie pridávaný dodatočne. Systémy potrebujú premyslené body, kde sa od človeka vyžaduje, aby urobil rozhodnutie, a nie kde sa mu to iba umožňuje.
Nevyhnutné sú aj investície do infraštruktúry dôveryhodných informácií. Jedným z najjasnejších ponaučení tejto éry je, že systémy AI sú len také spoľahlivé, nakoľko spoľahlivé sú informácie, na ktorých sú postavené. Podpora integrity dát je rovnako dôležitá ako zlepšovanie schopností modelov.
Ďalším krokom by malo byť, aby sa morálne formovanie považovalo za integrálnu súčasť technického vzdelávania. Inžinierske tímy potrebujú zmysluplný kontakt s etickou a teologickou reflexiou, namiesto toho, aby sa etika vnímala len ako záverečný schvaľovací krok na konci vývoja produktu. Vývojári potrebujú schopnosť uplatňovať zdržanlivosť ako profesionálnu disciplínu. Nastanú situácie, keď budú musieť povedať nie určitým aplikáciám, aj keď ich komerčný tlak bude nútiť ísť vpred.
Mohli by ste uviesť niekoľko konkrétnych príkladov alebo osvedčených postupov z odvetvia?
Technológie slúžiace ľudstvu môžu mať rôzne podoby. Jedna z iniciatív, ktorú som založil, Kluz Prize for PeaceTech, a dvaja z jej nedávnych ocenených ukazujú, ako sa dajú prelomové technológie využiť na humanitárne účely.
Projekt Common Space vyvíja nezávislú satelitnú misiu zameranú na budovanie mieru a humanitárnu činnosť. Spoločnosť Aerobotics7 zasa využíva drony s umelou inteligenciou na vyhľadávanie a zneškodňovanie nášľapných mín v konfliktných zónach vrátane Ukrajiny. Oba príklady ukazujú, ako možno pokročilé technológie nasmerovať na ochranu ľudského života a nie na zvyšovanie utrpenia.
Ďalšou dôležitou oblasťou je formovanie samotných technológov. Technická excelentnosť musí ísť ruka v ruke s morálnym a ľudským formovaním.
Ako sa to dá dosiahnuť?
Potrebujeme ľudí, ktorí sa skutočne orientujú tak v technologických inováciách, ako aj v morálnych tradíciách, ktoré pomáhajú usmerňovať ich používanie. V Ríme podporujem výskum, ktorý skúma vzťah medzi teológiou a kvantovou fyzikou, a snažím sa tiež podporovať príležitosti pre zakladateľov firem, inžinierov a programátorov, aby sa zapájali do dialógu s katolíckymi univerzitami a intelektuálnymi tradíciami.
Cieľom je pomôcť formovať ľudí s hlbokými odbornými znalosťami v oblasti AI a iných prelomových technológií, ako je výskum vesmíru a kvantové počítače, a zároveň rozvíjať seriózne pochopenie katolíckeho sociálneho a morálneho učenia. Tieto otázky sú príliš dôležité na to, aby sa nimi zaoberali špecialisti, ktorí rozumejú len jednej strane mince. Potrebujeme ľudí schopných vnímať tak technické možnosti, ako aj hlbšie ľudské otázky, ktoré s tým súvisia. Niektorí z nich môžu neskôr radiť inštitúciám, vládam a lídrom, ktorí týmto výzvam čelia.
Pri pohľade do budúcnosti môže vzniknúť potreba širšej komunity kresťanských technológov – podnikateľov, inžinierov, programátorov, investorov, akademikov, tvorcov politík, filozofov a teológov, ktorí spájajú technické schopnosti s presvedčením, charakterom a zodpovednosťou. Prelomové inovácie musia byť spojené s morálnym formovaním a inštitucionálnou zodpovednosťou. Ani jedno samo osebe nestačí. Oblasťou, kde sa tento prístup stáva obzvlášť viditeľným, sú vesmírne technológie.
Ako v tomto smere fungujú vesmírne technológie?
Satelity už nie sú len nástrojmi na navigáciu a komunikáciu. Stávajú sa súčasťou humanitárnej infraštruktúry 21. storočia. Môžu poskytovať včasné varovania pred prírodnými katastrofami, monitorovať potravinovú neistotu, podporovať overovanie prímeria, dokumentovať útoky na civilistov, asistovať pri pátracích a záchranných operáciách a zlepšovať humanitárnu pomoc.
Ak sa vesmírne technológie používajú zodpovedne, môžu sa stať infraštruktúrou pre mier, a nie iba nástrojom konkurenčného boja. Tie isté technológie sa dajú použiť na predpovedanie katastrof, ochranu civilistov a poskytovanie humanitárnej podpory, alebo sa dajú použiť na sledovanie a nátlak. Rozdiel nespočíva v samotnej technológii, ale v správe, stimuloch a morálnych rozhodnutiach.
Preto sú iniciatívy ako Common Space také významné. Rozvoj nezávislých satelitných kapacít určených na humanitárne účely, rozvoj a budovanie mieru predstavuje úsilie o vytvorenie infraštruktúry navrhnutej vo verejnom záujme. Namiesto spoliehania sa len na občasný prístup ku komerčným snímkam alebo súperenia s komerčnými a obrannými prioritami sa tieto prístupy snažia vybudovať systémy, ktorých prvoradým poslaním je slúžiť humanitárnym potrebám. Kľúčom k tomu je model riadenia založený na nezávislosti, otvorenom prístupe pre humanitárnych aktérov a zodpovednom správcovstve.
Zdroj: VaticanNews, anglická redakcia
