Proč tak dlouho trvalo pátrání po násilnících, kteří za bílého dne zmlátili číšníka v centru Prahy prošpikovaném kamerami? Jak zařídit, aby samořiditelná auta nebourala? A kde už za sedm let budou autonomní vozy běžnou součástí provozu?

Odpovědi na tyto otázky zná Igal Raichelgauz, spoluzakladatel izraelské společnosti Cortica, která patří ke světové špičce mezi vývojáři umělé inteligence a zaměřuje se na autonomní dopravu a chytrá města. Byl také jedním z hostů Týdne inovací v pražském Karlíně.

Igal Raichelgauz podstatu činnosti své firmy vysvětluje vcelku jednoduše. „Vezměte si všechny možné chytré systémy, které vidíte kolem sebe, a představte si je jako organismy. Mají oči, což jsou nejrůznější kamery, senzory nebo radary, a pak mají mozek – a ten vytváříme my. Konkrétně u dopravních systémů vyvíjíme komplexní řešení, díky kterým autonomní auto pochopí a ve zlomku vteřiny správně vyhodnotí i složité dopravní situace a dokáže na ně správně zareagovat. A nejen to. Dokáže se také, jako skuteční řidiči, postupně učit z praxe. Zabýváme se tím od založení firmy už deset let, takže se dá říct, že jsme v tom docela daleko.“

Deset let? Přiznám se, že už si nevzpomínám, jak si lidé představovali samořidící auta před deseti lety…

Je pravda, že když jsme firmu zakládali, ještě nebylo vůbec jasné, jak bude v praxi autonomní doprava vypadat. Ale bylo jasné, že se v ní nějakým způsobem musí využívat umělá inteligence a strojové učení. Proto jsme se dali tímto směrem. Čas představit naši technologii veřejně přišel mnohem později, konkrétně loni.

Veřejnost zatím samořidící auta vnímá spíš přes nejrůznější incidenty než jako regulérní budoucí způsob dopravy. Nedávno proběhla médii zpráva o smrtelné nehodě, kterou ve Spojených státech způsobil  autonomní vůz služby Uber. Proč k ní došlo?

Z toho, co bylo vidět v médiích, bych jednoznačně řekl, že se jednalo o chybu softwaru. Senzory na autě zachytily signál správně a včas, ale software nerozeznal chodkyni. Nás to samozřejmě hodně zajímá. Zkoumali jsme video zveřejněné policií, prohnali jsme ho našimi systémy a ty dokázaly jen na základě tohoto záznamu identifikovat tu nešťastnou paní mnohem dřív než systém auta, které ji srazilo.

Takže stačí použít lepší softwarový systém a podobné situace přestanou hrozit?

Takhle jednoduché to bohužel není. Pokud se samořidící auta prosadí ve velkém, což se dá v blízké budoucnosti očekávat, rozhodně je nutné počítat s rizikem, stejně jako dnes za volantem. Důvodem je především zatím nevyřešená slabina všech systémů hlubokého strojového učení obecně – pořád na ně musí dohlížet někdo živý, což znamená, že do hry vstupuje lidský faktor. My se to proto snažíme změnit a vytvářet systémy, které přímou kontrolu nevyžadují a budou skutečně autonomní. To strojové učení výrazně usnadní a zrychlí.

Kdy myslíte, že se vám to povede uplatnit v praxi?

Za dva až tři roky by tyto systémy mohly začít reálně fungovat v běžných autech.

Na firemním webu píšete, že vaše platforma umožní předvídat jakoukoli situaci a bezpečně na ni reagovat. Jenže ono občas může dojít k nepravděpodobné, ale reálné situaci, kdy prostě dobré řešení neexistuje – třeba když bude třeba se rozhodnout, jestli narazit do auta v protisměru nebo chodců, kteří se objeví před vozem, který už nepůjde zastavit. Samozřejmě za předpokladu, že jiná možnost, kam auto nasměrovat, není. Jak se má v takové situaci umělá inteligence rozhodnout?

Ale tohle není technická otázka, ale etická. Tohle musí rozhodnout lidé, případně legislativa.

Takže prostě systém naprogramujete, aby se v podobných situacích rozhodl jedním nebo druhým způsobem?

Ano, přesně tak. Když technika nemá možnost vyřešit situaci tak, aby k žádné kolizi nedošlo, nastupuje strategie nebo nějaký obecný postoj. A o tom rozhodují lidé – je potřeba předem vyhodnotit, co je správné, a podle toho umělé inteligenci sdělit, jak se má v podobných situacích chovat. Ale jak sám říkáte, je to hodně nepravděpodobné.

Kde se podle vás samořidící auta prosadí nejdříve?

Už teď jich někde pár jezdí, třeba v té Arizoně, kde došlo k oné vzpomínané nehodě Uberu. Ve větším měřítku má nová technologie podle mě šanci nejdřív v menších zemích, v nichž funguje centralizovaná státní správa. Ale pak je tu taky Čína, kde se v tomto ohledu hodně snaží. Takže kdybych měl tipovat, mám dva horké kandidáty: Čínu a Singapur.

A kdy k tomu dojde?

Ono se to samozřejmě bude zavádět postupně, ale v masovějším měřítku se podle mého v těchto prvních zemích začne v samořidících autech jezdit tak za pět až sedm let.

To znamená v podstatě za chvilku. Co se během této doby musí ještě, kromě umělé inteligence, změnit, aby se ten masový nástup podařil?

Spousta věcí. Především auta jako taková – umělá inteligence, to je opravdu jen mozek, a vozy potřebují senzory, kamery a další zařízení, aby inteligenci mohly využívat. A potřebují jich spoustu, aby se přístroje mohly vzájemně vykrývat a zastupovat, když třeba jeden z nich přestane správně fungovat. To pochopitelně není zadarmo, takže se výrobci musejí snažit držet ceny na minimu – když budou autonomní auta stát balík, nikdo si je nebude kupovat. A taky bude nutné přestavět některé silnice, hlavně ve městech.

Tím se dostáváme k druhému tématu, k chytrým městům. V této oblasti jste ještě dál než v samořídicích autech, co se uvedení do praxe týče – nedávno jste například spustili systém prevence kriminality v Indii. Jaké jsou první výsledky?

O tom bohužel nemůžu konkrétně mluvit, protože to jsou důvěrné informace, ale obecně jsme dál proto, že využíváme již existující a funkční infrastrukturu – třeba zrovna Indie je doslova protkaná hustou sítí kamer, které zabírají prakticky každičké místo ve městech a každou vteřinu produkují obraz, který se skládá do velkých dat. My tato data umíme zpracovat tak, aby v nich bylo možné vyhledávat.

Dobrá, tak to pojďme pojmout obecněji – k čemu tento výstup velkých dat slouží?

Dá se využít pro dva hlavní účely – bezpečnost a vyšší efektivitu. Současné systémy dokážou poměrně dobře předvídat vznik nebezpečných situací. Rozeznají projevy rizikového chování, a pokud si nějakého člověka vyhodnotí jako potenciálního pachatele něčeho nekalého, dovedou ho souvisle sledovat z kamery na kameru a nespustí ho z očí. A co se týče toho druhého účelu, tam jde hlavně o sledování dopravy ve městech.

Sledování je založené na kamerových systémech, nebo i na jiných zdrojích dat, třeba na signálu z BTS?

Většinou na kamerách. Využíváme toho, že jich je v ulicích opravdu spousta, takže vzniká hodně hustá síť zdrojových záběrů. Nic jiného víceméně nepotřebujeme.

Systémy tohoto typu jsou hodně citlivé téma i z politického hlediska. Máte nějaké interní zásady, do jakých zemí je ochotně dodáte a kam byste je naopak nenabídli?

Ano, samozřejmě. Tou dělicí čarou jsou obecně uznávané rysy demokracie. V praxi jsme ovšem tuto otázku zatím řešit nemuseli – kromě domovského Izraele působíme hlavně v USA, ve zmíněné Indii a v podobných zemích, které dané kritérium splňují. Ovšem do Severní Koreje nebo třeba do Venezuely bychom žádnou technologii neprodali – tedy ne že by ji tam po nás někdo chtěl, alespoň zatím.

Před pár týdny došlo tady v Praze k případu, kdy skupina sedmi mužů zmlátila číšníka na restaurační zahrádce a chytili je až na druhý den na letišti. Incident se stal ve dne v centru Prahy, kde jsou kamery na každém rohu, a přesto se mužům málem povedlo odletět, prošli i několika kamerovými systémy přímo v letištní hale. Kde se stala chyba a co dělat lépe?

Tady zase narážíme na lidský faktor. Kamer je opravdu dost, s tím není problém, ale monitorují je lidé – a lidé dělají chyby, přehlížejí skutečnosti. Kolikrát máte klíčový obraz na záznamu naprosto zřetelně zachycený, ale když si ho obsluha nevšimne, je to k ničemu. Kdybyste tu měli náš systém umělé inteligence, rozpoznal by útočníky během chvilky a policie by je měla pár minut po činu. Jenže to není všechno, naše technologie by tomu útoku nejspíš dokázala zabránit.

Jak?

Ti lidé se, pokud vím, chovali agresivně už před samotným činem, byli opilí, šel z nich strach. Přesně na takové chování dokáže náš systém upozornit hned zkraje, tudíž by je policie mohla sledovat, ještě než do restaurace dorazili, a na místě pak okamžitě zasáhnout, jakmile by se situace vyhrotila.

V jakých oblastech umělá inteligence nedokáže člověka nikdy nahradit? Existují vůbec takové?

To je těžká otázka. Každý rok, nebo přinejmenším každou dekádu, vidíme umělou inteligenci pronikat do dalších a dalších oblastí, kde bychom ji před deseti lety rozhodně nečekali. Zpočátku jsme ji považovali jen za pomocnou sílu při automatizaci, ale dnes žijeme v době, kdy si umělá inteligence rychle osvojuje kognitivní funkce. Takže bych byl opatrný v předpovědích, že se do některých oblastí nedostane. Dnes si spousta lidí myslí, že stroje nezvládnou úkoly vyžadující zapojení emocí a vědomí, ale to se může za pár let úplně klidně změnit.