Foto: Tomáš Hejzlar

„Sociální sítě jsou budoucnost lidstva. Ty dnešní ale přinášejí chaos,“ říká Karel Janeček

Stát chytřerozhovor 7 a více min čtení

Když se řekne Karel Janeček, ozvěna vrátí slova umělá inteligence. Jenže tenhle geniální matematik se silně angažuje i společensky, takže s umělou inteligencí se u něj spojuje i politika a společnost.

Líbí se vám článek? Sdílejte ho:

Když se řekne Karel Janeček, ozvěna vrátí slova umělá inteligence. Jenže tenhle geniální matematik se silně angažuje i společensky, takže s umělou inteligencí se u něj spojuje i politika a společnost.

Související článek

„Sci-fi filmaři se trefili, mýlili se vědci,“ říká nejlepší český vědec, který vyvíjí nanoroboty

Jsou nanotechnologie požehnáním, nebo naopak skrytou hrozbou? Dokážou léčit nemoci, jak to prorokoval Karel Zeman a jak o tom zpívali Tata Bojs, nebo se jich máme bát, jak radil spisovatel Michael Crichton, autor například Jurského parku?

Na otázku, jestli můžeme umělé inteligenci důvěřovat, odpovídá, že ano, jenže vzápětí dodá, že ani kdybychom měli tu nejlepší možnou umělou inteligenci,  rozhodně bychom se neměli vzdávat své svobodné vůle. Věří tomu, že budoucností lidstva je intenzivní digitální komunikace a o současných sociálních sítích si nemyslí nic dobrého. „Rozhodně bychom se neměli bránit pokroku. Nemůžeme se tvářit jako dělníci, kteří v osmnáctém století rozbíjeli stoje. To je absurdní. V budoucnosti bude zapotřebí umělou inteligenci využívat pro naše účely, pro to, co děláme,“ říká Karel Janeček, a dodává: „Samozřejmě jsou tam obrovská nebezpečí.“

Jak poznáme umělou inteligenci, která nám chce pomoci, od umělé inteligence, která nám není přátelská?

V tuto chvíli existují jednotlivé specializované systémy, například umělá inteligence, která umí hrát hry typu go. Je ale jen otázka času, kdy se objeví mocná umělá inteligence. K tomu, aby nám pomáhala, aby se jednou počítače nerozhodly, že člověk je zastaralý a že je třeba ho vyhladit, je třeba ji dobře nedesignovat. Jednou z možností je zakotvit do umělé inteligence kladné hodnoty. Vytvořil jsem projekt Hodnoty 21, v němž formulujeme hodnoty, tak, aby se neprolínaly. Mohly by tedy být jako axiomy vloženy do umělé inteligence.

Pokud se nám podaří tyto axiomy naprogramovat, je velká šance, že nám umělá inteligence bude pomáhat a budeme jí moci důvěřovat. Samozřejmě ale nikdy nebudeme mít stoprocentní jistotu. Vždycky musíme být pozorní a opatrní, ale vidím to jako dobrou perspektivu.

„Čína je z mého pohledu příklad totálního zneužití moderních technologií k omezení svobody lidí a k jejich kontrole.“

Máme v Evropě sílu takové pojetí umělé inteligence prosadit například proti Číně?

Čína je z mého pohledu příkladem totálního zneužití moderních technologií k omezení svobody lidí a k jejich kontrole. To je strašné. Nicméně se nemusíme bránit tomu, aby každý člověk, pokud chce, mohl být hodnocen. Takovou myšlenku můžeme převést do užitečné aplikace. Můžeme vytvářet sítě, kde se lidé dobrovolně sdruží a tyto sítě budou decentralizovaně udržovat objektivní informace o svých členech.

Jak to bude vypadat konkrétně?

Představuji si, že každý z nás si bude moci vytvořit osobní komunity lidí, kterým důvěřuje, například pomocí open source aplikace, která může běžet v řadě verzí. Úroveň důvěry bude nastavena na základě nějakého algoritmu. Například nově příchozí může být důvěryhodný, pokud jej doporučí alespoň tři členové, kteří mají důvěru. A důvěra nemusí být jen binární, nula nebo jednička, ale může být vyjádřená v procentech – 90 procent, 75 procent. Můžeme pak vytvářet sítě důvěry. Takové sítě mohou být i celosvětové – když pojedete do zahraničí a budete členem nebo uživatelem takové sítě, kliknete a uvidíte, kdo vám danou službu poskytne, jaké má hodnocení a podobně. A to je velký potenciál, který nám moderní technologie a decentralizovaná výpočetní technika dávají. Podobné sítě už dnes existují, ale jsou centralizované a nejsou objektivní. Vezměte si například profesní sdružení, kde jsou jeho členové hodnoceni na základě nějakých pravidel.

Související článek

Petr Baudiš: Možná si budeme muset projít něčím špatným, abychom začali regulovat umělou inteligenci

Využití umělé inteligence může být prospěšné, ale i hodně nebezpečné. Jak to chtějí odborníci na umělou inteligenci řešit? Jak umělá inteligence pracuje s předsudky a jak nás ovlivní v budoucnu? 

Dnes na Instagramu máte hvězdy, které mají miliony fanoušků…

Ale nevidíte do střev hodnotícího algoritmu. Díky open source si bude moci každý ověřit, jak pravidla fungují a kde se vliv influencerů vzal. Můžeme mít celé portfolio nejrůznějších sítí, třeba software typu guru s jedinou centrální autoritou. Jiní lidé ale dají přednost spíš decentralizované síti a pro ni přizpůsobenému softwaru, který bude důvěru upravovat v čase na základě reakcí celé sítě. Některé sítě mohou být větší, některé mohou být menší početně nebo geograficky. To vše je možné udělat poměrně jednoduše. Na jejich základě budou moci lidé cestovat nebo dělat byznys s mnohem větší důvěrou a zároveň se oslabí fake news, protože bude existovat objektivní hodnocení.

Říkáte, že decentralizované je objektivní. Co ale když v takové síti vznikne velká skupina těch, kteří budou vysoce důvěryhodní vůči sobě navzájem a přitom to, co říkají, není objektivní pravda – například budou tvrdit, že Země je plochá? Jde o objektivní důvěru, nebo o důvěru v objektivní fakta?

Každý člověk si bude moci objektivně ověřit pravidla klubu, v němž se pohybuje. A na základě toho může rozhodnout, jakou dává důvěru. Pokud budu vidět, že ti, kdo poskytují informace jsou důvěryhodní, mohu s tím nějak pracovat. Jistě, může vzniknout například skupina náboženské sekty, která si bude svá zprávy vzájemně podporovat. Ale člověk, který přijde zvenku, uvidí, jak jsou nastaveny algoritmy v téhle skupině a že žádnou objektivitu negarantují.

„Vždycky budou lidi, kteří chtějí být dobrovolně někým řízeni.“

To ale neznamená, že v ní nebude hodně lidí.

Myslím si ale, že situace bude nesrovnatelně lepší, než je dnes. Lidé budou mít možnost najít si informační zdroje, které mají kvalitní algoritmy, a nebude to stát velké úsilí a čas. Vždycky budou lidi, kteří chtějí být dobrovolně někým řízeni. Jsem přesvědčený, že to bude menší část než dnes. Myslím si, že velkou část lidí stojí zjišťování faktů příliš úsilí. Když to zjednoduším: než se člověk stane ovcí, bude mít možnost si jednoduše najít kvalitní informace – a ovcí se tak stát nemusí. Dnes ho to stojí příliš úsilí, které ne každý vyvine.

Karel Janeček: „Vždycky budou lidi, kteří chtějí být dobrovolně někým řízeni.“ -

Když se dívám na historii, open source se masivně prosadil až ve chvíli, kdo ho do svého řešení zabudovala nějaká komerční firma – RedHat, Android. Naproti tomu Libre Office proti Microsoft Office nevítězí. Proč by v tomto případě měla vyhrát open source varianta? Představme si situaci, kdy by vláda mocnosti, která není přátelská vůči Česku nebo EU, navrhne nějakou sociální síť a za to, že se budu účastnit činnosti této sítě, budu mít nějakou finanční výhodu, například budu získávat kredity na nákup v e-shopu, spřízněném s touto mocností.

Ale to by byla katastrofa. Korupce ve velkém. Státní správa by korumpovala občany. V Číně to moc občanům nařizuje. Pokud by šlo například o získání daňových výhod, bylo by to strašlivé.

Myslím to trochu jinak. Na území Česka by působila síť, kterou by vyvinul někdo jiný v zahraničí a prosazoval by skrze ni své zájmy, protože by to pro něj bylo lacinější než otevřený konflikt. Zároveň by v dlouhodobém čase dosáhl svého. Představte si třeba chatboty, které identifikují pozitivní ohniska v sociálních sítích a začnou s nimi diskutovat o podružných tématech. Tím zaplní jejich kapacitu.

Ale tomu se dá zabránit tím, že sítě, které si důvěřují, nebudou zcela otevřené. Může tu být třeba pravidlo, že kdo se chce stát jejich členem, musí mít doporučení od dvou současných členů.

Související článek

Josef Šlerka: Čínský skóring jsou komunistické domovnice, které mají k dispozici internet

Tisíce lidí se denně nechávají ovlivnit fake news, na které nejčastěji narazí prostřednictvím sociálních sítí, obvykle Facebooku. Jak je možné, že vymyšlené zprávy mají takový úspěch? Jak vlastně vznikají fake news, které jsou uvěřitelné? Ohrožují nás? A jak má tedy člověk poznat falešnou zprávu v době podvrhů vytvářených mnohdy i umělou inteligencí? O tom jsme si povídali s Josefem Šlerkou. Známe se už řadu let a tykáme si. A platí to i pro tento rozhovor.

Nebude to elitářský klub?

Nebude. Může to být řada různých aplikací. To, co říkáte, se nedá uhlídat, když jsou sítě chaotické. Musí být pravidla, ale pokud budou decentralizovaná, nikdo tu síť neovládne. Entit bude příliš mnoho na to, aby bylo možné je ovládnout. Jakmile bude portfolio dostatečně bohaté, nikdo nebude moci manipulovat.

Takže umělá inteligence nám nepomůže sama o sobě, ale pomůže nám orientovat se ve světě a vyhodnotit, kdo je hodný důvěry?

Umělá inteligence dokáže zpracovat informace a vyhodnotit je. Pokud v sobě bude mít zabudované klíčové axiomy: svobodu, respekt a zodpovědnost, pak budeme mít garantováno, že nám chce pomáhat. Ano, je riziko, že někdo zkonstruuje jinou umělou inteligenci, s jinými hodnotami. Ten boj tu vždycky může být. A bude.

Budu tedy vědět, kdo z lidí je důvěryhodný. Jak tuto informaci přetavím do politického rozhodování?

Umělá inteligence určitě nemůže rozhodovat o tom, kdo může kandidovat. My sami se svobodně rozhodneme, koho zvolíme. Budeme ale mít informace o tom, kdo lže a manipuluje, a nemyslím si, že by významná část lidí dobrovolně volila lháře. Být populistou bude v budoucnosti mnohem těžší než dnes. Populismus ale určitě bude dál, jen jiného druhu.

„Máme sice moderní technologie, ale se špatnými funkcemi.“

Nepatří ale k podstatě politika chuť okolím manipulovat?

Ne nutně. V dnešní době to je obrovská konkurenční výhoda. Ale je to dané tím, že nemáme informace. Máme sice moderní technologie, ale se špatnými funkcemi. Sociální sítě jsou optimalizované na získávání lajků. V budoucím systému se nechá zmanipulovat mnohem méně lidí než dnes. Konkurenční výhoda lidí, kteří se jsou dlouhodobě konzistentní a nebojí se prosazovat svou vizi i za cenu nějaké kontroverze, se zvýší.

A jak budou vypadat volby?

Věřím, že budeme postupně konvergovat k decentralizovanému rozhodování. Nebude to tak, že každý člověk má jen jeden hlas. Navíc – ne každý z nás je odborník na všechno. Ne každý z nás musí vybírat politiky. Můžete své rozhodování svěřit někomu jinému, může vznikat stromová struktura. Tomu, kdo se o politiku zajímá a orientuje se v ní, svěří členové jeho sítí rozhodovací pravomoci a on je uplatní. Takovému principu se říká liquid democracy.

Věřím tomu, že nás čeká dynamická demokracie. Představme si, že dnes volíme prezidenta. Volby ale probíhají delší dobu a během nich mohu měnit svůj názor. Dám své hlasy některým lidem, ale svou volbu mohu měnit. A pak nastane rozhodné období; hlasy se zafixují a vítěz se stane prezidentem. Ale stále tu mohou být pojistky – kdyby se člověk opravdu znelíbil, mohl by být odvolán.

Karel Janeček: „Máme sice moderní technologie, ale se špatnými funkcemi.“ -

Není to totéž jako referendum?

Ne. Systém referend nefunguje. To, co mám na mysli, je princip férového demokratického rozhodování s prvky přímé demokracie. Proběhnou dlouhodobé volby tak, jak jsem o nich mluvil a pak se část politického systému zafixuje. Proběhne třeba volba prezidenta nebo parlamentu. Subjekt ale nebude uzavřený. Pokud se něco začne kazit, může se volit znovu. Nemusí být fixní volební období na pět let. Tuto možnost máme díky tomu, že jsme online propojeni. V minulosti to principiálně nešlo, dnes to ale možné je.

Související článek

Ondřej Veselý: Čech, který v Bruselu hlídá, aby nás umělá inteligence nezničila

Etika a umělá inteligence. Téma, které roky řeší vědci po celém světě. Stačí totiž překvapivě málo a roboti můžou změnit fungování světa tak, jak ho známe dnes. Jedním z odborníků na etiku a technologie je i Ondřej Veselý, jenž je členem skupiny Evropské komise, která posuzuje, jestli firmy vývojem technologií neohrožují lidskou společnost.

Představme si, že jako jednotliví lidé jsme mozkové buňky velkého mozku – lidstva. Jednotlivé buňky mohou stále komunikovat s mozkem. V této společnosti – říkám jí Human 21 – budeme neustále připojeni a podpoříme to, co se nám líbí. To, co se nám nelíbí, nepodpoříme. A pokud se nám bude něco nelíbit opravdu silně, můžeme vyvolat akci. Když se k ní připojí dostatečný počet ostatních, změnu prosadíme.

Nemůže to v politice vést k absenci vizí? Někde jsem slyšel, že když se v šedesátých letech Američani dostávali na Měsíc, věnovali v některých letech na kosmický program až pět procent HDP – to je dnes naprosto nepředstavitelná suma. Co kdyby někdo v roce 64 nebo 65 přišel a řekl – pět procent HDP? To je moc! Za to můžeme mít spoustu dálnic!

Když by se to ale mělo stát, tak to je osud lidstva. Pokud by ale byla lidská nátura opravdu taková, pak bychom ve vývoji už dávno ustrnuli a zdegradovali. Jestliže by v šedesátých letech takovou možnost lidé měli, mohli by kosmický program zamítnout. S posunem komunikace se ale bude posouvat i vědomí lidí, víc budou chápat, že jsou součástí celku a že štěstí souvisí s tím, co tvořím, a ne s tím, koho ošidím a okradu. A pak bude mnohem víc lidí, kteří budou chápat, že má smysl investovat třeba i do základního výzkumu, který nepřinese výsledky ihned. Toto uvědomění už nebude jen hodnotou elity.

Co se v takovém systému stane s lidmi, kteří nebudou online?

Každý si bude moci vybrat, jestli být součástí celku, nebo se odpojit. A mohu si zvolit, s kolika lidmi budu propojen – diskusi mohu vést jen s jediným člověkem nebo s kroužkem 21 lidí. Bude záležet jen na mé svobodné vůli. A samozřejmě mohou být lidé, kteří budou většinu času offline.

Nebudou ze společnosti vyloučeni?

Myslím, že ne. Vždycky budou mít možnost se připojit. Mohou ale být lidé, kteří se stanou poustevníky. Myslím ovšem, že jich nebude mnoho.

Kdy tahle změna nastane?

Myslím, že celkem brzy. Máme dvě možnosti. Ta horší je totální ekologická devastace. Sucha v Africe, obrovské migrační krize. Takový kolaps nám hrozí, pokud budeme pokračovat pořád stejně.

Související článek

Nová škodovka bude hlídat únavu a zdraví řidiče. V případě potřeby sama zastaví

Vozy mladoboleslavské automobilky budou v blízké budoucnosti hlídat řidiče mnohem více než dosud. V případě potřeby zastaví a samy mu přivolají pomoc. Těmito funkce představil koncept elektromobilu Vision iV, který automobilka představila na autosalonu v Ženevě.

Druhá možnost je radikální změna našich životů. Posuneme se na jiný level odpovědnosti vzhledem ke společenským i osobním hodnotám. Díky technologiím tuto příležitost máme. Máme k dispozici naduvěřitelné technologie. Jsme schopni vyřešit problém vody, ale musíme změnit své myšlení a vědomí. Nic jiného nám nezbývá. Dolní hranice globální změny může začít už za pár let. Hezké datum by bylo třeba 21. 12. 2021. A myslím si, že změna proběhne dříve než v roce 2112.

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama