Video: Champions Talk with Garry Kasparov by Judit Polgar 10.10.2020 (Listopad 2024)
Garry Kasparov byl jednou z prvních obětí revoluce automatizace AI. Jeho ztráta na Deep Blue společnosti IBM z něj udělala prvního lidského šachového šampiona, který ztratil zápas s počítačem. Kasparov však není vyčerpaný; jeho kniha Deep Thinking zkoumá, jak nám umělá inteligence může pomoci stát se lidštější.
Dan Costa: Po kariéře hraní šachů a bojování s Deep Blue jste se od té doby stal šachovým odborníkem na umělé inteligence. Jak chcete, aby lidé rozuměli umělé inteligenci?
Garry Kasparov: Musím se přiznat, že znám meze své nevědomosti. Proto jsem rád, že mohu mluvit o věcech, o kterých věřím ve své vlastní odborné znalosti, a myslím, že mám určité znalosti vztahů mezi člověkem a strojem a mohl bych s určitou autoritou hovořit o budoucích výsledcích.
Také se domnívám, že jsme stále ve velmi raném věku umělé inteligence a měli bychom diskutovat i o některých termínech. Je to o sémantice, o filozofii a vždycky říkám, že si lidé myslí, že jsme v éře Windows 10, zatímco my jsme stále všichni v MS-DOS.
V tuto chvíli je velmi důležité skutečně pochopit: „Co je AI? Když řekneme AI, co máme na mysli?“ Protože pokud se zeptáte 10 odborníků na AI, vsadím se, že dostanete 11 nebo 12 odpovědí. Stále existuje docela neshoda.
Stále existují podrobnosti, ale obecně si myslím, že víme, že existuje skupina lidí, kterým budeme říkat optimisté, kteří čelí velkému davu doomsayerů. Nějak je veřejnost ochotnější akceptovat scénáře doomsayerů, myslím si, že je naším instinktem obávat se budoucnosti, což je také zajímavé, protože když se vrátíte do 50. a 60. let, byla sci-fi velmi optimistická. Bylo to všechno o nás, jen o práci se stroji.
Nyní, když se podíváte na 70., 80., 90., je to posunuto na dystopické vidění. Jde o terminátory. Je to o Matrixu a nyní je žánr sci-fi téměř mrtvý, protože je to spíše o fantazii, o magii. Lidé se opravdu bojí mluvit o budoucnosti, protože si nejsme jisti, co se tam stane. Myslím, že bychom měli jednoduše poznat, že AI není kouzelná hůlka, ale není to terminátor. Není to předzvěst utopie nebo dystopie. Je to nástroj. Je to něco, co bychom měli najít způsob, jak se vypořádat.
Není to otevírání bran pekla, ale není to ráj. Není to řešení pro všechno. Nejde o spasení. Podívejme se na problémy Země a dnes mě nejvíce znepokojují zabijácké roboty nebo nějaký druh virtuální reality, která by mohla zničit náš smysl pro realitu, ale jde o špatné herce. Jde o teroristy. Jde o rockový prostor, který používá tuto technologii k poškození nás. Vždycky říkám, že lidé… mají monopolní zlo. To je místo, kde bychom se měli soustředit, ale také by mělo uznat, že AI pro nás může udělat tolik skvělých věcí, protože to, co lidé řeknou: „Ach, AI vytváří nové výzvy. AI může odnést mnoho pracovních míst.“ Přesně tak. To se stalo s pracovními místy v zemědělství, pracovními místy ve výrobě. Narušení technologie vždy ničí průmyslová odvětví, ale zároveň vytváří nová pracovní místa.
Říkám, že technologie je hlavním důvodem, proč tolik lidí stále žije, aby si stěžovali na technologii, protože prostě neuznáváme průměrnou životnost, která vzrostla, myslím, že 45, 47 počátku 20. století až nyní 75, díky technologii. Chceme výhody, chceme pohodlí a nehledíme na cenu. Lidé kupují Alexu nebo si stáhnou aplikaci pro rozpoznávání obličeje a stěžují si na soukromí. Je čas, abychom pochopili, co od těchto technologií očekáváme, tak jak se s nimi chceme vypořádat? Jak mohou zlepšit náš život a zároveň uznat, že bychom neměli debatovat o rozlitém mléku. Stane se to.
Neměli bychom se ptát, zda to chceme nebo ne, to se děje. Jakýkoli pokus o protlačení agócie a zpomalení procesu je podle mého názoru kontraproduktivní, protože úlohy, které jsou odsouzeny ke zkáze, nelze uložit. Musíme ale myslet na nová průmyslová odvětví. Jak můžeme vytvořit nová pracovní místa, která nám pomohou vytvořit… finanční polštář, který se postará o ty, kteří zůstali pozadu?
Dan Costa: To byl jeden z bodů, které uvedete v Deep Thinking . AI představuje příležitost, abychom byli více lidští. Myslím, že je třeba to vyvinout a přimět lidi, aby se cítili a rozuměli.
Garry Kasparov: Zpráva McKinseyho o americkém trhu práce v roce 2016 byla jasnou demonstrací. Jak málo kreativity bylo použito?
Mnoho úkolů děláme opakující se práce, surové práce. Duševní práce se mohou také opakovat. Mohou být také snadno prováděny stroji mnohem efektivněji. Zde se dostáváte k věci, že to, co jsme se naučili ze her… šachů, golfu, od jakékoli jiné hry, je tak dlouho, dokud máme rámec vytvořený lidmi, a víme, co děláme, stroje se budou chovat lépe.
Měli bychom si jen uvědomit, že ve všech uzavřených systémech budou stroje lepší. Mimochodem, nemusíme rozumět tomu, jak to dělají. To je další chyba. Chceme vysvětlit. Stroje to dokázaly udělat velmi trapně z našich standardů. Letadla rychle létala a pták zvedl křídla. To je důvod, proč si myslíme, že stroje nás překonají i při chybách intelektu, když udělá něco, čemu rozumíte, je špatné. Měli bychom hledat výsledky a to je další problém pro podniky, protože existuje tolik předpisů, které vyžadují, aby vysvětlili, co dělají, ale vysvětlitelnost nemusí existovat, pokud chcete hledat efektivitu a produktivitu.
Dan Costa: Vystoupil jste na pódium o Go a věc, díky níž je Go AI mnohem efektivnější, je, když se naučila hrát hru. Neměla lidská pravidla.
Garry Kasparov: Teď je to stejné jako šachy. Znovu, bude to budoucnost lidských misijních vztahů velmi na vlastních lidech, kteří se chovají jako pastýři, protože budeme muset najít způsob, jak vytvořit tyto skvělé systémy, oblasti úzké inteligence, kde stroje budou dělat práci mnohem lépe než kterýkoli jiný člověk. Pak se podívejte, jak se připojují. Tyto oblasti úzké inteligence k obecnému poli, k otevřenému systému. Znovu to zní snadno, ale myslím si, že je to velká výzva, protože prostor pro lidi a jejich vztahy se stroji by se mohly zmenšovat menší a menší. I možná posledních pár desetinných míst, ale na tom nezáleží. Mohlo by to být mnohem účinnější, protože existuje tolik energie. Jeho nasměrování nebo změna směru o 0, 1 procenta tohoto úhlu by mohla mít obrovský, masivní rozdíl, cíl jeden kilometr daleko.
Dan Costa: Jedna z věcí, která mě znepokojuje v souvislosti s umělou inteligencí, je to, že dobré systémy umělé inteligence jsou poháněny spoustou dat a opravdu skvělými algoritmy. Pokud se podíváte na to, kdo právě teď získal většinu dat v tomto prostoru, je to velká technologie, jsou to státní vlády. Jak vidíte roli jednotlivce v této revoluci AI? Protože se zdá, že existuje určitá asymetrie přístupu k těmto novým technologiím a různé motivace.
Garry Kasparov: Ano. Nemohl jsem víc souhlasit. Máme tento problém a myslím si, že veřejnost tento problém uznává, ale stále není dostatečný tlak vlád na to, aby skutečně zavedly velmi přísná pravidla a velmi represivní opatření vůči korporacím, které porušují soukromí.
Jedním z mých obav předsedy Nadace pro lidská práva je to, že pravidla se liší od demokratického světa k světu nesvobodnému. Považuji za velmi znepokojující, že tito mnohonárodnostní obři - jako Google, Apple, Microsoft, Facebook - uplatňují velmi odlišná pravidla na své zákazníky v Americe nebo Evropě a na ty, kteří nebyli tak šťastní, že se narodili ve svobodném světě a žili v Čína, Rusko, Turecko - kde by zveřejňování údajů ze společenských aktivit mohlo být doslova otázkou života a smrti. Myslím, že to je krok číslo jedna, ale také bychom měli vědět, zda se data vytvářejí, budou shromažďována.
Jsem si jist, že existuje mnoho způsobů, jak by vlády mohly omezit použití těchto údajů. Také si myslím, že je to bonus pro veřejnost, protože po svědectví Marka Zuckerberga v Senátu USA, které jsem našel… bylo úžasným projevem nevědomosti zákonodárců USA. Pět hodin nemohli položit dobré otázky; měli ho na horkém křesle a byl to odpad. Neviděl jsem veřejné pobouření. Taková velká příležitost byla promarněna.
Jednoduchá rada: "Pojďme je rozdělit." Není to standardní olej. Pokud se začnete dělit - a nesnáším monopoly -, pak budete mít mnoho, mnoho Googlů s daty rozloženými kolem. Měli bychom najít způsob, jak zmocnit jednotlivce. Neznám technologie blockchainu, ale pravděpodobně to je způsob, jak lidem skutečně pomoci kontrolovat svá vlastní data a vlastní budoucnost. Myslím, že stále existuje chvíle, kdy je to původní koncept internetu, sociální sítě. Najednou jsou to sociální média. Lidé prostě nepoznají. Není to sémantický rozdíl.
Dan Costa: Je zpeněžen úplně jiným způsobem.
Garry Kasparov: Jde o spojení lidí. Jde o celý nápad, jak nás spojit. Jak zastavit jednotlivce, získat přístup k datům a vyrobit něco, co by mu mohlo prospět a být jen součástí tohoto globálního systému. Sociální média jsou jiná, jste cílem. Nyní jste… cílem pro velké korporace. Jak se vrátíme k tomuto konceptu sociální sítě? Nemám řešení, přiznávám zde svou neznalost o technických řešeních, ale vím, že to je přesně ta filozofie, na kterou je třeba položit správnou otázku. Myslím, že veřejnost nechápe závažnost této výzvy.
Dan Costa: Jste ruský občan...
Garry Kasparov: Také chorvatský občan, mám e-pas, takto cestuji.
Dan Costa:… žijící ve Spojených státech, ale psali jste hodně o propagandě, jejích důsledcích a pravomocích ao tom, jak ji používá ruská vláda. Tady v USA máme nyní Facebook, Twitter, mediální vesmír Google, který je téměř jako soukromý propagandistický stroj, ke kterému mohou přistupovat vlády, jednotlivé společnosti. Jaká rada, jako někdo, kdo se těmito otázkami zabýval a chápe, pro Spojené státy? Když se stěhujeme do tohoto systému, kde už nemůžeme uvěřit tomu, co vidíme online.
Garry Kasparov: Podívej, čelil jsem vzestupu falešného zpravodajského průmyslu a trollů v Putinově Rusku od začátku tohoto století. Zhruba kolem let 2004-2005, Putinovi odborníci na propagandu, kluci KGB, se věrně rozhodli, že nebudou následovat firewally po Číně. Ale spíše, vytvoření falešných internetových stránek, které nesou spoustu skutečných informací o těchto jedovatých kusech. Místo toho, abyste měli přední stránku správných novin, příběh, který musí každý dodržovat, řádek strany, můžete jej rozdělit do mnoha kusů, do desítek kusů. Vložte ji do balíčku zabaleného do mnoha pravdivých příběhů.
Není to tak jednoduché jako říkat, Garry Kasparov je nepřítelem státu. Ne, někdo říká, že Garry Kasparov je nepřítelem státu, ale pak někdo jiný, kdo říká ne, ale byl to skvělý šachista, ale pravděpodobně teď byl infiltrován hlasem a propagandou. Někdo řekne, ne, ne, ne, je to dobrý člověk. Celá stránka komentářů by tedy mohla být falešná.
Dan Costa: Roboti se hádají s roboty.
Garry Kasparov: Bots a jsou v tom velmi dobří, proto jednoho dne, když Putin zaútočil na americké americké volby, měl opravdu více než 10 let zkušeností s těmito průmyslovými odvětvími. Práce v Rusku, v sousedních zemích s velkými ruskými komunitami ve východní Evropě, v západní Evropě.
V mé knize Zima přichází: Proč musí být Vladimir Putin a nepřátelé svobodného světa zastaveni , 2015, řekl jsem, že to byla jen otázka času. Není to tak, ale kdy a kde zaútočí. Protože tento stroj již postavili a je to relativně levné. Stále to jsou miliardy investic, ale ve srovnání s otevřenou vojenskou intervencí, konfrontací… je to relativně levné. A také to vyhovovalo Putinově mentalitě KGB, jeho pozadí KGB, špionážnímu pozadí. Takže místo otevřené konfrontace vždy hledá příležitost infiltrovat. To jsou klasické judo metody, využíváte silných stránek svého protihráče. Pro Putina to bylo brilantní, protože to byla západní technologie a svobodný svět, a můžete ho použít k podkopání samotného založení svobodného světa.
Dan Costa: Máte nějaké rady, jak se z této situace dostat? Protože to vypadá, jako by se to stalo, ve skutečnosti se to nezastavilo.
Garry Kasparov: Ne, a to se nezastaví. Odpověď je zřejmá pro každého, kdo má neomezené odborné znalosti. Obrana je ztrácící návrh. V kybernetické bezpečnosti můžete stavět obranu, ale na konci dne je jedinou odpovědí odstrašování. Je to jako studená válka, líbí se jí nebo se jí nelíbí, je to kybernetická studená válka. Putin nebo jiní nepřátelé svobodného světa čelíme neustálým útokům. Ať už se jedná o státy, jako je Írán, Severní Korea nebo Čína, nebo kvazistátní organizace, které také používají stejné metody.
Pouze zastrašování by tyto útoky mohlo zastavit nebo je omezit. Protože pochopí důsledky nadměrné agresivity. Ve snaze chránit naše slabá místa sem a tam, je důležité, abychom si vybudovali obranu. Je důležité, abychom zvyšovali povědomí veřejnosti o hrozbách, ale nebude to fungovat. Pokud jde o falešný zpravodajský průmysl, v naší svobodné společnosti existuje mnoho výzev, které umožnily falešný zpravodajský průmysl. Je to o strachu z partnerství, jde o absenci dialogu mezi lidmi s různými ideologickými názory, které Putinovi a dalším nepřátelům svobodného světa pomohli využít falešné zprávy k zaplnění této mezery.
Dan Costa: Takže teď pracujete s Avastem, společností, se kterou čtenáři PCMag jsou velmi dobře obeznámeni. Jaké rady dáváte spotřebitelům, jak zvýšit úroveň své obrany?
Garry Kasparov: Pokud jde o individuální úroveň obrany, je to velmi snadné. První zpráva je majitelům inteligentních domů. Byl jsem trochu šokován, protože i na tomto jihu na jihozápadě jsem mluvil s mnoha lidmi, lidé s dobrou odborností nechápou, jak zranitelní jsou dnes inteligentní domy.
Americká domácnost, 39 milionů, má alespoň jedno zranitelné zařízení. Lidé nechápou, že jedno zranitelné zařízení činí celý inteligentní dům zranitelným. Protože silné stránky vaší obranné pyramidy závisí na nejslabším článku. Jedno špatné jablko způsobuje, že celé balení hnije.
Většinu problémů způsobují výrobci tradičních domácích spotřebičů - praček, kávovarů - protože neexistují žádné odborné znalosti v oblasti budování digitálních systémů. Ale musí to udělat hned. Za velmi nízkou cenu, protože je to cenová konkurence, ale chtějí být součástí systému. Většina systémů prostě nemá dostatečnou obranu. Myslím, že potřebujeme… vládní dohled, musíme vyvinout tlak, abychom dodrželi určité standardy.
Ale také muset poskytnout samostatné manuály, protože nikdo nečte 100stránkový manuál. Na stránce 85 čtete něco o těchto digitálních věcech, lidé to nečtou. Většina z nich používá výchozí režim, což je samozřejmě otevřená pozvánka pro hackera. Myslím, že je velmi důležité, aby lidé začali dělat to, čemu říkám digitální hygiena, protože si myjeme ruce, čistíme si zuby, děláme to automaticky. Nezachrání nás to před některými vážnými nemocemi, ale 90 procentům problémů se lze vyhnout. Stejně jako u našich mobilních připojených zařízení bychom se měli stále chránit před viry, ale mnoho věcí lze udělat tím, že ukážeme, že nám na tom záleží, protože je stejně důležitá jako naše zdraví.
Dan Costa: Chci se tě zeptat na tři otázky, které položím každému, kdo přichází na show. Existuje technologický trend, který se vás týká a který vás udržuje v noci?
Garry Kasparov: Ne, jsem nenapravitelný optimista. Bojím se špatných lidí, ne špatných technologií, protože každá technologie má dvojí použití. Můžete postavit jaderný reaktor, ale předtím bohužel postavíte jadernou bombu. Je docela nešťastné, že ničení je snazší než konstrukce. Proto v historii vždy víme, že nová, rušivá technologie byla testována na nějaké poškození.
Dan Costa: Nebojíte se, že se AI stane totéž? Budu používán k ničení, než si zvykne na vytvoření?
Garry Kasparov: Opět se nejedná o zabijácké roboty. Je to o padouchech, špatných hercích za tím. Lidé řeknou oh, měli bychom přemýšlet o etické AI. AI nemohla být etičtější než její tvůrci. Nechápu, co to znamená, jako je etická elektřina. Pokud máme v naší společnosti zaujatost, AI to následuje. Vidí nerovnost, ať už je to rasová, genderová nebo příjmová. Vezme to v úvahu; AI je algoritmus založený na kurzech. Takže nějak, stěžovat si na etické AI je jako stěžovat si na zrcadlo, protože se nám nelíbí to, co tam vidíme.
Dan Costa: Existuje technologie, kterou používáte každý den a která stále inspiruje zázrak?
Garry Kasparov: Ne. Pro mě je skutečným zázrakem světa přístup k informacím. Protože mohu sbírat data, je to jednodušší. Vyrostl jsem v Sovětském svazu a informace byly vzácné, nebylo mnoho knih. Faktem je, že mohu Kindle… prostě se cítím dobře. Nyní nás obklopuje tolik technologií, které nám pomáhají zlepšovat se. Co je také úžasné, lidé si stěžují, co můžeme dělat? Není nic nového, co by bylo možné vymyslet… a já říkám počkat chvilku. Díváte se na toto zařízení ve vaší kapse, pojďme zpět v roce 1976 nebo 1977, superpočítač Cray byl jako zázrak. Toto zařízení je co? Deset tisíckrát silnější?
- AI je (také) síla pro dobré AI je (také) síla pro dobré
- Tento AI je příliš silný na uvolnění pro veřejnost Tento AI je příliš silný na uvolnění pro veřejnost
- Tento AI předpovídá online trolling, než se stane
Dan Costa: Silnější než raketoplán.
Garry Kasparov: Přesně. Máme tolik síly a… chci, abychom začali znovu snít o velkém. Protože teď máme tyto příležitosti. Je mi líto vesmírného závodu, zastavili jsme průzkum vesmíru, průzkum hlubinného oceánu. Vraťme se, zkusme dělat velké věci. Před čtyřmi lety jsem přednesl úvodní projev na univerzitě v Saint Louis v Missouri. Když jsem oslovil postgraduální studenty, podíval jsem se, musíte oživit ducha zkoumání, zejména proto, že St. Louis je bránou na západ, a dnes je bezpečnější letět na Mars, než aby Columbus překročil Atlantik. Protože přinejmenším známe vzdálenost a máme mapu. Doufám, že naše děti, naše vnoučata… budou ve svých snech agresivnější, pomocí této fenomenální technologie nás posunou kupředu, protože si myslím, přiznejme, přiznejme tuto důležitou skutečnost; naše generace zpomaluje naše hledání objevování zázraků světa, vesmíru či oceánů.
