Zdroj: TEDx

Věřit už se nedá ani tomu, co vidíte. Jaká je odvrácená strana umělé inteligence?

Stát chytřetéma 5 min čtení

Umělá inteligence rozpozná v davu lidí teroristu, ale také odhalí skutečnou identitu studentky, která si před lety přivydělala erotikou. Fake news prověří lépe než tým odborníků, ovšem stejně tak zvládne zavádějící zprávu sama sepsat lépe než kdokoliv z masa a kostí. Je bezpečné podporovat rozvoj technologií, o kterých už víme, že se snadno obrátí proti nám?

Líbí se vám článek? Sdílejte ho:

Umělá inteligence rozpozná v davu lidí teroristu, ale také odhalí skutečnou identitu studentky, která si před lety přivydělala erotikou. Fake news prověří lépe než tým odborníků, ovšem stejně tak zvládne zavádějící zprávu sama sepsat lépe než kdokoliv z masa a kostí. Je bezpečné podporovat rozvoj technologií, o kterých už víme, že se snadno obrátí proti nám?

Související článek

Čínská umělá inteligence umí odhalit identitu pornohereček. Mají se vaše spolužačky začít bát?

Na čínské sociální síti Weibo se objevila zmínka o softwaru, který dokáže spárovat aktéry porna s jejich profily na sociálních sítích. Rozpoznat prý měl už sto tisíc pornoherců a pornohereček. Co existence takového softwaru pro herce a herečky z pornoprůmyslu znamená?

Filmové scény, v nichž umělá inteligence vyhodnotí lidstvo jako hrozbu a obrátí proti němu všechny dostupné zbraně, vážně patří do říše fantazie. A ještě dlouho tam zůstanou. Přesto ale existují různé jednoúčelové neuronové sítě, které se hrozbou pro lidstvo mohou klidně stát.

Porno i projevy politiků

Vědci z Washingtonské univerzity si vytkli za cíl vyvinout umělou inteligenci pro odhalování fake news. Ve svém snažení byli úspěšní a jejich neuronová síť Grover je v odhalování falešných zpráv nejlepší na světě. Přesvědčit se o tom můžete sami na webu grover.allenai.org. Jak se ale ukázalo, stejná neuronová síť je také nejlepší v přesně opačné roli. Umí podle zadaných parametrů napsat falešnou zprávu tak dobře, že ji od skutečnosti nerozezná ani mediální odborník.

Nejedná se rozhodně o první případ, kdy je moderní technologie „dobrým sluhou, ale zlým pánem“. Například rozpoznávání obličejů mělo původně sloužit pro rychlejší odbavování lidí při nejrůznějších kontrolách dokladů. Poté bylo vylepšeno na odhalování hledaných zločinců. A dnes? Pokud o to má vláda zájem, policie vás na místech pokrytých kamerami najde během pár minut. Zejména v Číně jsou na to specialisté.

Související článek

Petr Baudiš: Možná si budeme muset projít něčím špatným, abychom začali regulovat umělou inteligenci

Využití umělé inteligence může být prospěšné, ale i hodně nebezpečné. Jak to chtějí odborníci na umělou inteligenci řešit? Jak umělá inteligence pracuje s předsudky a jak nás ovlivní v budoucnu? 

Objevují se i pokusy, jak automatizovaně propojit tváře pornoherců a pornohereček s jejich soukromými profily na sociálních sítích. Kolika dnes již spořádaným matkám od rodin zničí jejich mladická nerozvážnost po letech život, o tom můžeme jen spekulovat. Obrovský zájem pak vzbudila videa označovaná jako deep fakes. Ta spočívají v tom, že autoři videí využijí umělou inteligenci k tomu, aby naprosto reálně dokázali nahradit tvář původní osoby ve videu obličejem kohokoliv jiného. Už tedy nestačí počítat s tím, že nelze stoprocentně věřit tomu, co čteme, ale ani tomu, co vidíme. Důkazem je například kompletně falešné video s proslovem předposledního amerického prezidenta Baracka Obamy (video pod článkem), které svojí dokonalostí vzbudilo obrovský rozruch. Ještě předtím to byl porno snímek s herečkou Emmou Watson.

Jedním z autorů deep fakes je i identitu tající Slovák žijící v Brně. Jeho zábavná videa na YouTube kanálu nazvaném Ctrl Shift Face si od listopadu 2017 pustilo už skoro třicet milionů lidí. Můžete na nich vidět například Sylvestra Stalloneho v roli Terminátora nebo herce Billa Hadera, který se v jednom videu mění na Toma Cruise, v dalším pak na Arnolda Schwarzeneggera.

Na zneužívání moderních technologií není nic nového. To se s lidstvem táhne od dob prvního pazourku schopného skolit nejen chutnou večeři, ale také příslušníka sousedního kmene. Dlouhé debaty se vedly o prospěšnosti a nebezpečnosti automobilu, které se nyní přelili v diskuse o automobilech samořiditelných, raketové technice nebo třeba využití jaderné energie. Proč by zrovna umělá inteligence měla být výjimkou.

Umělá inteligence má všechny vlastnosti digitálních věcí, takže se snadno přenáší a kopíruje, případně vystavuje na internetu. Sebrat nebezpečný pazourek a opracovat ho do podoby pěstního klínu, to vyžadovalo dost času a energie. Otevřít na webu generátor falešných fake news zvládne každý během pár sekund. Vliv má i potenciálně velký dosah výsledků zneužití umělé inteligence. Zatímco pazourkem ohrozíte své nejbližší okolí a automobilem lidi ve svém městě, vygenerovanou falešnou zprávou lze okamžitě zasáhnout obecenstvo na druhé straně světa.

Opomenout nesmíme ani možnost automatizace. V době nedávno minulé přišli hackeři s nápadem distribuovaných útoků – nejprve napadli tisíce počítačů, které pak v jednom okamžiku donutili útočit na cílový server. No a ten nevěděl, kterým směrem napnout svou ochranu dříve.

Velké riziko generátoru dokonalých falešných zpráv není v tom, že si jeden proruský troll vygeneruje svou zprávu, kterou se pak pokusí protlačit do českých médií. Problém nastane v okamžiku, kdy se takové zprávy začnou generovat a publikovat automaticky na objednávku rychlého počítačového systému, takže člověk nebude mít šanci poznat, co je ještě pravda.

Utajit, nebo nechat na pospas?

Udělali tedy vědci z Harvardské univerzity správně, když svůj generátor fake news zveřejnili na internetu? Situace je bohužel taková, že i kdyby to neudělali, nejspíš by se v dohledné době objevil sám. Technologie stojící za umělými neuronovými sítěmi je všeobecně známá. Potřebná výpočetní kapacita je k dispozici bez větších nákladů.

Související článek

„Umělá inteligence ve skutečnosti neexistuje, stroje potřebují lidský mozek,“ říká nejznámější český neurolog Vladimír Beneš

Málokdo u nás ví o lidském mozku víc než profesor Vladimír Beneš, přednosta Neurochirurgické kliniky Ústřední vojenské nemocnice Praha a 1. lékařské fakulty Univerzity Karlovy. Z podstaty své práce se zabývá i otázkou umělé inteligence a názor na ni má celkem jednoznačný. „Počítač neumí myslet,“ říká chirurg, jehož pracovna připomíná spíš než nemocniční místnost kabinet ředitele Brumbála z Harryho Pottera.

Nejslabším místem zůstává dostatek materiálu k tréninku neuronové sítě. To je ale problém velmi snadno překonatelný lidskou silou. Lidské trollí farmy prostě chvíli budou psát na zakázku neuronové sítě, která se na jejich produkci natrénuje. Navíc, jak ukazují první pokusy s jasně definovanými hrami, jako jsou šachy či Go, počítače už se umí ledasco naučit samy.

 

Líbí se vám článek? Sdílejte ho:
link odkaz
Reklama