Možná si to nepřipouštíme, ale umělá inteligence námi manipuluje prakticky denně. Doporučuje nám, co si koupit, jaké číst zprávy, jak si vytvořit názor, doporučuje nám, koho volit. „Může vámi dobře manipulovat, když toho o vás hodně ví. Když toho moc neví, může s vámi manipulovat asi tak jako billboard u dálnice,“ říká Michal Pěchouček, kybernetik a patrně jeden z nejrespektovanějších odborníků na umělou inteligenci v Česku.

Související článek

Věřit už se nedá ani tomu, co vidíte. Jaká je odvrácená strana umělé inteligence?

Umělá inteligence rozpozná v davu lidí teroristu, ale také odhalí skutečnou identitu studentky, která si před lety přivydělala erotikou. Fake news prověří lépe než tým odborníků, ovšem stejně tak zvládne zavádějící zprávu sama sepsat lépe než kdokoliv z masa a kostí. Je bezpečné podporovat rozvoj technologií, o kterých už víme, že se snadno obrátí proti nám?

Michal Pěchouček si kromě vedení katedry počítačů Fakulty elektrotechnické na ČVUT a řízení firmy Avast z pozice technického ředitele vytvořil ještě jeden úkol, na jehož splnění pracuje. Prostřednictvím iniciativy prg.ai, kterou spoluzakládal, hodlá z Prahy udělat světové centrum umělé inteligence. Má mu s tím pomoct i pět až deset zahraničních profesorů na umělou inteligenci, které se snaží do české metropole přilákat. Úkol to není snadný. Už jen proto, že náklady na jednoho takového specialistu a jeho tým ročně představují zhruba pět milionů korun. „Každý zahraniční profesor udělá ohromnou změnu. Každý jeden mění ČVUT nebo Karlovu univerzitu. Dělá ji méně provinční, více kosmopolitní, přináší zkušenosti, informace ze zahraničí,“ říká Pěchouček, který během rozhovoru namísto výrazu umělá inteligence v naprosté většině případů používá anglickou zkratku AI.

Co je vlastně prg.ai?

Formálně to je zapsaný spolek. Fakticky jde o vehikl pro spolupráci mezi Univerzitou Karlovou, ČVUT, Ústavem informatiky Akademie věd ČR a pražským magistrátem. Spolupracuje na tom, aby v Praze rostla AI ekonomika, aby se tu umělé inteligenci dařilo. Myslíme si, že umělá inteligence vytváří dobrá pracovní místa, pokrok a pro město bohatství.

Prg.ai je založena na několika programech, které mají za cíl stejně rychlý rozvoj ve třech sektorech – korporátním, startupech a akademickém. Nechceme, aby jeden z těch segmentů dominoval a utlumil ty ostatní.

Je v Česku některý z uvedených sektorů nějak víc vpředu, nebo to je spíš prevence?

Je to prevence. Hlavním cílem prg.ai ale není prevence, ale hlavně snaha podpořit růst. Snaží se vytvářet podmínky pro to, aby do Prahy přicházeli zahraniční profesoři, startupy, aby v Praze investovali velcí hráči ze světa AI a založili tu vlastní centra. Hlavní cíl je zajistit růst AI v Praze.

Čína hraje v AI jednoho z předních hráčů. A stejné to může být v Praze. Je ale otázka, kolik peněz se podaří získat.

Chcete k nám dostat pět až deset hostujících profesorů specializujících se na umělou inteligenci. Co je pro to potřeba udělat?

Musíte ho zaplatit a musíte mu vytvořit zázemí. To se dělá všude. Například v Číně před deseti lety zavedli veliký program, kdy zvali vědce zaměřené na AI, aby si tam založili své laboratoře. Podařilo se je Čína v AI jedním z předních hráčů. A stejné to může být v Praze. Je ale otázka, kolik peněz se podaří získat. Budeme oslovovat veřejný i soukromý sektor, abychom hostující profesory zaplatili. Pravda je, že soukromý sektor v tom nemá v Česku úplně velkou tradici.

Související článek

„Umělá inteligence ve skutečnosti neexistuje, stroje potřebují lidský mozek,“ říká nejznámější český neurolog Vladimír Beneš

Málokdo u nás ví o lidském mozku víc než profesor Vladimír Beneš, přednosta Neurochirurgické kliniky Ústřední vojenské nemocnice Praha a 1. lékařské fakulty Univerzity Karlovy. Z podstaty své práce se zabývá i otázkou umělé inteligence a názor na ni má celkem jednoznačný. „Počítač neumí myslet,“ říká chirurg, jehož pracovna připomíná spíš než nemocniční místnost kabinet ředitele Brumbála z Harryho Pottera.

Je v některém z těch tří segmentů Česko v AI vpředu?

Máme tu skvělé výsledky, máme zajímavé startupy. Ale v Evropě se nejvíc ví o našich vědcích. Nemáme tu mnoho AI korporací. Některé velké americké firmy tu mají vlastní vývojová centra – třeba Cisco, ale že bychom tu měli takové centrum Google nebo Amazonu, to ne. V korporacích se toho zatím děje méně. Třeba Škoda Auto se snaží používat AI pro modernizaci, ale není to původce AI, je to konzument. Takže si myslím, že nejlépe na tom jsme ve vědě.

A prg.ai je způsob, jak dotáhnout i ty další dva segmenty?

Prg.ai je platforma a doufám, že hráči, pro které je AI důležitá, ji využijí. Jestli tu je velký průmyslový hráč, který si myslí, že pro sebe bude za tři roky potřebovat sto AI inženýrů, měl by teď trochu přispět a investovat do pražského AI ekosystému. Pomoci těm, kdo mu je vychovají. Česká republika, Praha, je ve výchově AI odborníků efektivní, ale stojí to pot. Pokud někdo chce, aby AI odborníků v Praze bylo víc, musí trochu zatopit pod kotlem.

Prg.ai by mělo být centrem aktivit vedoucích k získání evropského hubu umělé inteligence do Prahy.

Přesně tak. Jestli se v Praze budou věci dařit, má to obrovský dopad na okolí. Brno, Vídeň, Drážďany, Krakov. Už teď spolupracujeme s Masarykovou univerzitou a VUT v Brně.

Michal Pěchouček

Profesor a vědec v oblasti umělé inteligence se zájmem o aplikace
a přenos technologií. Studoval a působil na zahraničních univerzitách.
Vedl vědecké projekty financované americkými obrannými agenturami FAA
a NASA. Spoluzakladatel a investor několika úspěšných start-upů z
oblasti umělé inteligence. Působí jako vedoucí katedry počítačů Fakulty elektrotechnické ČVUT a je ředitel centra umělé inteligence AI Center. Zároveň je i technickým ředitelem společnosti Avast.

Prahu jsem vybral proto, že umělá inteligence vzniká v kosmopolitních místech. Do Brna, Ostravy, Plzně sice lidé ze zahraničí přicházejí také, ale Praha je z českých měst zdaleka nejkosmopolitnější a má největší potenciál přitáhnout lidi ze zahraničí.

Jeden z bodů, které má prg.ai v cílech, je zastavit odliv mozků. Je to opravdu problém? Kolik lidí vlastně z AI odchází pryč?

Myslím si, že termín „zastavit odliv mozků“ jsem nikdy nepoužil. Myslím, že když lidi odcházejí z Česka, je to dobře. Jsem i učitel a cílem každého učitele by mělo být udělat maximum pro svého žáka. Když má můj absolvent talent dělat v nejlepších laboratořích na světě, chci, aby odešel, protože to je pro něj výhodné. A navíc – v Praze se skvěle žije, je to atraktivní, bezpečné, bohaté město, tak se sem lidé vracejí. Zpětný příliv je ohromná vlna. Nemusíme se bát, že lidi odcházejí, protože se zase jednou vrátí.

Běžný plat AI expertů je mezi 200 000 a 300 000 dolary ročně.

Jiná věc je odliv do průmyslu. Ten je masivní, inženýři AI jsou zapotřebí. Nekritizuju to. Je dobré, aby lidé přecházeli mezi průmyslem a akademickou sférou. Ale když bude akademická práce dlouhodobě výrazně méně honorovaná, může se stát, že na univerzitách zůstanou méně kvalitní lidé, než jací budou v internetových firmách.

Špičkový profesor AI prý stojí tolik, co špičková hvězda NHL. Je to pravda?

To je spíš bonmot. Na nejlepších školách v Silicon Valley je takový boj o talenty, že špičkám opravdu platí částky, které my vědci jako platy hvězd NHL vnímáme. Ve skutečnosti to ale jsou platy, které jsou pro špičky v oboru přiměřené. Běžný plat AI expertů je mezi 200 000 a 300 000 dolary ročně (pozn. red.: 4,7 až 7 mil. Kč). Pokud chce velká firma špičkového vědce z Berkeley nebo Stanfordu přetáhnout k sobě, musí nabídnout vyšší částku.

S jakým rozpočtem počítáte pro hostující profesory v Praze?

Když to počítáme včetně jeho týmu, chtěli bychom získat zdroje ve výši zhruba pět milionů na rok. To rozhodně nejsou americké peníze.

Související článek

Petr Baudiš: Možná si budeme muset projít něčím špatným, abychom začali regulovat umělou inteligenci

Využití umělé inteligence může být prospěšné, ale i hodně nebezpečné. Jak to chtějí odborníci na umělou inteligenci řešit? Jak umělá inteligence pracuje s předsudky a jak nás ovlivní v budoucnu? 

Stačí to?

Vedu tady špičkové pracoviště v oblasti AI, takže vím, že peníze nejsou pro vědce hlavní hodnotou. Chtějí mít dostatek zdrojů na to, aby mohli v klidu bádat a měli výsledky. Chtějí ale být obklopeni špičkovými lidmi, mít špičkové výsledky. Chtějí být ve své oblasti nejlepší na světě. A když na stejném pracovišti bude světová hvězda, bude to pro ně výhodné.

Protože věda je týmová hra?

Primárně je to hra o úspěch. Vědci přemýšlejí stylem „Co můžu udělat pro to, abych v AI uspěl?“ A když budou pracovat v oddělení, kde je nějaká hvězda, jejich šance na úspěch se mnohonásobně zvětšuje.

Co dělají vědci, kteří dělají AI? Pracují na velké centrální inteligenci, kterou kdysi dávno popisoval Asimov, nebo řeší dílčí problémy?

Řeší problémy. Snaží se nacházet problémy, které lidstvo neumí algoritmicky řešit, zkoumají je, popisují a navrhují nějaké řešení. Vytvářejí programy, které dovedou, co dříve lidstvo neumělo. A pak o tom, co zjistili, píší články. Posunou tak hranici poznání. Ještě před měsícem lidstvo nevědělo, jakým způsobem se dá ze sítnice oka předpovědět, že dotyčný za deset let dostane zákal. Dnes víme, že to jde. Někdo může predikovat, jak rychle zabírají konkrétní antidepresiva. Někdo jiný z toho pak udělá aplikaci, startup a dostane to k lidem.

Mluví se o tom, že Evropa bude vyvíjet vlastní umělou inteligenci, která bude jiná než americká a čínská. Jaký mezi nimi může být rozdíl?

Rozdíl mezi evropským, americkým a čínským přístupem k této umělé inteligenci coby vědní disciplíně je daný několika věcmi. Jednak Evropská komise tento trend dlouho podceňovala a investovala do jiných oblastí. V Americe se obranný průmysl, DARPA (pozn. red.: agentura amerického ministerstva obrany, zodpovědná za vývoj nových vojenských technologií. Vznikl zde např. předchůdce internetu), umělé inteligenci stále věnuje. To je důvod, proč se AI dostala na dnešní úroveň. Evropa teď trochu dohání to, co zmeškala.

Související článek

Demonstranti v Hongkongu ničí věže na rozpoznávání tváře a snaží se zmást kamery

Protivládní protesty v Hongkongu už trvají několik týdnů. Jejich součástí se stal i boj proti všudypřítomným policejním kamerám s technologií na rozpoznávání tváří, které dokáží zjistit identitu protestujících.

Amerika má velkou tradici ve strojovém učení a symbolické umělé inteligenci, Evropa má větší tradici v metodách automatického uvažování, symbolických metod, plánování. To je úplně tradiční AI. Rozdíl mezi Evropu a Čínou je v datech. Jde o fundamentální problém v etice AI. Evropa otevírá diskusi o etice AI, která je pro ni důležitá. Evropa je demokratická, takže se tu lidé víc zabývají tím, co znamená monopol, manipulace, privátnost dat. Jak se dá zaručit privátnost dat, jak se chránit před jejich zneužitím. Co znamená, že někdo někoho sleduje, jestli na to má nebo nemá právo. Evropu v AI primárně zajímají zájmy člověka, humanismus, demokracie a privátnost dat. To v Číně nemá tradici a dodnes se o to vlastně nezajímala ani Amerika.

Může námi umělá inteligence manipulovat?

Může a manipuluje. Doporučuje nám, co si koupit. Doporučuje, jaké číst zprávy, jak si vytvořit názor, doporučuje nám, koho volit. Často doporučuje volit někoho, koho byste normálně nevolil, mění vám názor. Proto se teď lidé zabývají tím, jak se dá regulovat práce s daty.

Umělá inteligence vámi může dobře manipulovat, když toho o vás hodně ví. Když toho moc neví, může s vámi manipulovat asi tak jako billboard u dálnice. Tím to končí. Když ví, co máte rád, co děláte, co vás zajímá, předloží vám takovou reklamu, která na vás zabere. Když po vás chce, abyste volil nějakou stranu, dává vám pro to argumenty, které jsou pro vás důležité, bez ohledu na to, jestli jsou koherentní s jejím volebním programem.

Čím víc se toho bude dít v Praze, tím víc bude veřejný sektor tlačený k tomu, aby bylo digitální celé Česko.

Dá se tomu bránit?

Facebook přejímá některá evropská omezení v práci s privátními daty. Snaží se, aby se data, která sbírá, a profily uživatelů, které vytvořil, nedostaly někam, kam se dostat nemají. Chce si je držet. Aby nebyla žádná další Cambridge Analytica, která je koupí, na jejich základě udělá mikrokampaně a v zemi, která je v nějaké otázce rozdělená padesát na padesát – a to jsou dneska skoro všechny země –, jednoduše zmanipuluje těch rozhodujících deset tisíc, kteří pak volí toho, kdo dal více peněz.

Etika a manipulace pomocí AI je velké téma. I Facebook se snaží, vytváří metody, jak zvyšovat bezpečí AI. Jde o výzkumné problémy, které se snaží řešit univerzity, debatují o nich lidé. Jako velký problém to vnímá Evropská komise. První velký krok v tomto směru je GDPR.

Prg.ai by měla pozvednout úroveň Prahy. Dokážeme ale výsledky výzkumu zdejších špičkových vědců rovnoměrně rozdělit? Nezvýší tohle centrum digitální propast mezi Prahou a ostatními částmi Česka, kde není kvalitní digitální infrastruktura?

Nemíchejte umělou inteligenci a digitalizaci. Nekonkurují si. Velké investice do AI neznamenají, že se o to méně bude investovat do digitalizace. Naopak si myslím, že by to mohlo digitalizaci prospět. Čím víc se toho bude dít v Praze, tím víc bude veřejný sektor tlačený k tomu, aby bylo digitální celé Česko.

Související článek

Včely nezabíjí a telefon vám zůstane. Technologie 5G – mýty a realita

Technologie 5G. Převratná novinka, na kterou čeká celý svět, ale také něco jako pověstná paní Columbová – všichni o ní mluví, ale v Česku ji (skoro) nikdo nikdy neviděl. A jak bývá mýtickým bytostem vlastní, víří kolem ní spousta neověřených zpráv a pověr… Podívali jsme se na to, co je a co není pravda.

Co se týká výsledků, nejde o místo, kde vzniknou, ale kde jejich užívání dává smysl. Autonomní auta můžete vymyslet kdekoliv, ale nejdřív se začnou používat ve velkých aglomeracích. Na malých městech to nemá smysl. Tam budou lidé jezdit vlastními auty ještě řadu let, není tam poptávka. Aplikovatelnost je daná tím, jestli geografie umožňuje z umělé inteligence čerpat výhody.

Jaká je vlastně návratnost investic do AI?

To se obecně vůbec nedá říci. Záleží to na konkrétní aplikaci. Když zrobotizujete prodavačky v supermarketu, můžete to spočítat. Při dnešních velmi nízkých cenách robotů se může vrátit rychle. Když ale budete investovat do vývoje autonomního auta, vrátí se vám investice za hodně let, protože autonomní vozy budou ještě dlouho dražší než klasické.

Nedávno jsem viděl graf, který ukazoval věkovou strukturu lidí na českém trhu práce. Pomalu budou odcházet takzvané Husákovy děti, a naopak nastupovat populačně velmi slabé ročníky ze začátku devadesátých let. V následujících letech tak z pracovního trhu zmizí stovky tisíc lidí. Nemůže být jedním z řešení tohoto problému právě AI?

Nezáleží jen na množství lidí na trhu práce. Jistě, množství je důležité, protože lidé platí daň z příjmu, a to má vliv na státní rozpočet, ale klíčová je povaha práce. Budou mizet práce s malou přidanou hodnotou.

Třeba pokladní v Albertu?

Ne. Ta paní se sice dá nahradit robotem, ale vytváří hodnotu. Ale ve státní správě je hrozně moc práce, která tam nemusí být, která je tam jen kvůli neefektivitě systému. Ve velkých korporacích, i v těch super skvělých firmách, je spousta tuku, který tam být nemusí. Umělá inteligence ten tuk vysaje.

A záleží na tom, jestli lidi, kteří na trhu práce zůstanou, budou ti, kdo dokáží pracovat jen v tuku, nebo zvládnou i něco jiného. Umělá inteligence vyčistí trh, zruší neefektivní práci. Když lidi na trhu nebudou umět nic jiného než práci neužitečnou, bude tu problém.

Potřebujete práci, která bude vydělávat. Když bude země chudá, bude vám robot míchat hamburger. Když bude bohatá, budete mít kuchaře.

Práce bude dvojího druhu. Jedna bude něco vytvářet, ta druhá bude něco stát, budete za ni muset něco platit. Vytvářet práci, kterou musí platit, umí každý. Na trhu bude spousta poptávky po lidech ve zdravotnictví, v péči o starší lidi, v práci člověk na člověka. Budou fungovat číšníci, doktoři. Ale to bude fungovat jen tehdy, když jim někdo zaplatí. Potřebujete práci, která bude vydělávat.
Když bude země chudá, bude vám robot míchat hamburger. Když bude bohatá, budete mít kuchaře. Takže země musí mít hodně práce, která peníze vydělává, abyste si mohl dovolit práci, která peníze spotřebovává.

Související článek

Revoluce, nebo balancování na hranici etiky? Mozkové mikročipy jsou blíž, než si myslíme

Kdo dnes žije běžný život v civilizovaném světě, nechává za sebou obrovskou digitální stopu. Přes mobil sdílíme svoji polohu, na Instagram a Facebook dáváme neuvěřitelné množství fotek ze svého soukromí, banka ví, kde a za kolik nakupujeme… Jediné soukromí tak prakticky zůstává v naší hlavě. Tedy alespoň zatím, protože útok se chystá už i na naše myšlenky.

A když v Česku bude pracovat čtvrt milionu lidí, kteří budou vyvíjet umělou inteligenci pro trhy celého světa, řešit komplikované problémy, vytvářet extrémně velkou přidanou hodnotu, tak uživí celou zemi. Když budeme pokroková, kultivovaná demokratická země, kde se bude transparentně a strategicky pracovat s naším rozpočtem, můžeme se takovou zemí stát. Když ale budeme pasivní, je velká šance, že na nás zůstanou jen místa, která nebudou hodnotu vytvářet.

A prg.ai tuhle práci zařídí?

Prg.ai chce maximalizovat práci, která bude vydělávat peníze.

Stačí na to prg.ai, nebo jsou zapotřebí hlubší změny v systému vzdělávání?

Systém vzdělávání je u nás frontální a učí znalosti. Nepatřím mezi ty, kdo říkají, že znalosti nejsou zapotřebí, protože všechno můžete najít na internetu. Myslím si, že znalosti je zapotřebí učit. Ale český vzdělávací systém nijak zvlášť nepodporuje kreativitu a kritické myšlení. A to je zapotřebí pro práci budoucnosti. V práci budoucnosti budou klíčovými komponenty kreativita, kritické myšlení a sociální inteligence. Dohromady s matematikou, programováním, robotizací a statistikou. Ale bez kultury, která podporuje kritické myšlení, která podporuje ověřování textů, které čtete na internetu, to nepůjde.

Je AI zapotřebí učit už na středních školách, nebo stačí obecný základ – kritické myšlení, kreativita, matematika?

Až se něco změní na středních školách, tak se slovo AI už nebude používat. Ale základní principy umělé inteligence je nutné učit už na základní škole. Už tam děti musí vědět, co se děje, když klikají na nějakém e-shopu. Jak vzniká cena, kterou jim obchod nabízí, proč jim doporučuje tuhle, a ne jinou věc.

Související článek

Digitalizaci? Ne! Miloš Zeman raději propaguje technologie moderní před dvěma stovkami let

Miloš Zeman, neúnavný propagátor teletextu, telefonů Aligátor a dalších strhujících výdobytků moderní techniky, už řadu let sní o velkém infrastrukturním plánu. Kanálu, který propojí Dunaj, Odru a Labe, překlene evropské rozvodí a učiní z České republiky centrum moderní logistiky. Velkorysost plánu nechybí. Náklady ve výši 585 miliard jsou úžasná suma. Jen jeho načasování není ideální. Přichází se zpožděním. Přibližně dvě stě let.

To je ale schopnost porozumět světu, ve kterém žijeme.

Ano. Dnes to lidi neumějí. Proto jsou hodně ovlivnitelní, když jim někde vyskočí nějaká reklama.