Techonomie: jak opravit, co je špatného na google a facebooku

Snad nejpřekvapivějším tématem letošní Techonomie bylo rozrušení mnoha řečníků s Facebookem, Google a Twitterem, s kritikou zaměřenou na jejich přístup k soukromí a zejména na možnou roli, kterou hráli při umožnění ruského hackování voleb v roce 2016.

Široká škála řečníků prosazovala různé druhy regulace těchto „internetových gigantů“ a nikdo z žádné z výše uvedených společností nebyl na konferenci, aby poskytl alternativní pohled. To se velmi lišilo od loňské konference, kdy generální ředitel Facebooku Mark Zuckerberg uvedl, že představa, že falešné zprávy na Facebooku ovlivnily volby, byla „docela šílený nápad“.

Od té doby, jak poznamenal spoluzakladatel Techonomy Simone Ross, jsme se dozvěděli, že „technologie nám umožňuje rozdělit nás stejně snadno, jako nás spojit.“ Spoluzakladatel konference David Kirkpatrick (nahoře) nastavil tón konference a řekl, že „technologie je síla k dobrému, ale pouze v případě, že je vaším cílem dobrý“, a dále řekl, že věří, že velké technologické společnosti potřebují „proaktivní“ křižovatka “s vládou, ať už se tomu říká regulace nebo ne.

Autorita v propojeném, uměle vytvořeném inteligentním světě

Známý investor Roger McNamee z Elevation Partners, první investor na Facebooku a Google, byl možná nejnegativnější ze všech řečníků. McNamee uvedl, že tyto společnosti „začaly zachraňovat svět“, ale to se změnilo, když se reklama stala jejich obchodním modelem. Řekl, že chytrý telefon v kombinaci s osobními údaji umožnil „vytvořit takovou úroveň hackování mozku, která v médiích nikdy nebyla vidět“.

McNamee řekl, že věřil, že Zuckerberg byl upřímný, když řekl, že nevěří, že takové hackování je možné před rokem, ale řekl, že roli, kterou nyní hrají Google a Facebook, nelze přeceňovat. „Musí být těžké být teď teď a uvědomit si, že jste zničili západní civilizaci.“

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Electronic Information Information Center (EPIC); Stratford Sherman, Accompli

Tato diskuse se objevila v rámci panelu na téma „Autorita v propojeném, umělém inteligentním světě“, do kterého byl zahrnut i Danah Boyd, sociální vědec s Data & Society a Microsoft Research; Marc Rotenberg, prezident elektronického informačního centra o ochraně osobních údajů (EPIC); a moderátor Stratford Sherman of Accompli. Sherman řekl, že zatímco Facebook a Google začínají jako fóra pro veřejný projev, jsou „radikálně neregulováni“. S AI, která by mohla zásadním způsobem ovlivnit lidskou rasu na obzoru, Sherman řekl, že se bojí neúmyslných důsledků technologického rozvoje, které jsme již viděli.

Rotenberg uvedl, že ačkoliv se stále obává, že tradiční obavy o soukromí budou sledovány a profilovány, je stejně znepokojen nedostatkem konkurence, nedostatkem inovací a rizikem pro demokratické instituce. Řekl, že internetoví giganti mají obrovskou moc a data, která mají, vytvářejí skutečnou bariéru vstupu, takže neexistuje významná konkurence. Rotenberg uvedl, že je ve Washingtonu od Reaganovy administrativy a poprvé „volby z minulého roku se necítily dobře známé“.

V dřívějším zasedání chlapec, který napsal knihu nazvanou Je komplikovaná , hovořil o obtížích, s nimiž se musí manipulovat na internetu.

Mluvila o stupňujícím se procesu manipulace za posledních 20 let, který začal u dětí, které trollingu Oprah a postupovaly k „rickrollu“ ak věcem, jako je změna výsledků vyhledávání na jméno „Santorum“. Více nedávno, s Gamergate, větší obsazení postav se stalo hráči, včetně státních herců. boyd řekl, že internetové společnosti si myslí, že je umělá inteligence může chránit, ale skupiny, které se snaží manipulovat s výsledky, již experimentují se zpracováním přirozeného jazyka, a co je nejdůležitější, manipulují se zdroji dat. Například injekce chybných dat do systému je podle ní novou zranitelností. Přesto chlapec řekl, že jedinou odpovědí bude „zabudovat technické protilátky do našeho průmyslu“.

V této relaci Boyd uvedl, že technické společnosti počítají s manipulací na několika frontách, a poznamenal, že zatímco každý se dívá na Rusko, existuje mnoho dalších států, které provádějí podobné akce. Například čínské společnosti se snaží zajistit, aby kontrolovaly AI, a řekla, že to představuje jinou výzvu, protože nejde o průmyslovou soutěž, ale o konkurenci se státem.

Na otázku Shermana, jestli je to válka, chlapec řekl, že si to myslí, zatímco McNamee řekl, že je to klasická partyzánská válka v tom, že naši nepřátelé použili naši technologii proti nám. McNamee řekl, že problémem nejsou sociální sítě nebo vyhledávání, ale reklamní model. Řekl, že v bitvě o pozornost lidí se látka pohřbí pocitem, a citoval staré pořekadlo, že „pokud krvácí, vede to“.

Sherman poznamenal, že strach a vztek jsou mnohem magnetičtější, a tedy mnohem levnější. Řekl, že ačkoli organické zprávy byly použity k oslovení více než 125 milionů lidí, cílem úsilí bylo, aby reklamy rozdělily lidi do skupin na základě sdílených zájmů.

Rotenberg uvedl, že je pro to, aby algoritmy byly transparentní a aby byla regulace regulována, ale řekl, že musíme respektovat právo jednotlivců mluvit online. McNamee však uvedl, že „první dodatek byl zbaven“, a že online prostory se zásadně liší od veřejného náměstí.

boyd popsal to, co nazývá „bumerangovým efektem“, nebo jinými slovy myšlenka, že provokovat média, aby podala zprávu o pobuřujících věcech, je důležitá, protože to posílí původní poselství segmentu publika, který média nedůvěřuje. Jako příklad mluvil chlapec o Pizzagate. Poznamenala, že před internetem média často používala „strategické mlčení“, aby se vyhnula pokrytí věcí, jako jsou sebevraždy a Klanovy shromáždění, aby se vyhnula jejich propagaci.

Rotenberg souhlasil s tím, že většina této tradice pilnosti a dohledu byla ztracena, a řekl, že věci jako například sekce 230 (která říká, že internetové společnosti nejsou zodpovědné za věci, jako jsou příspěvky uživatelů), ztěžují tradičním zpravodajům konkurenci.

McNamee požádal o řešení a řekl, že Facebook je kult a že musí přestat popírat problém a vypořádat se s ním, jakož i začít řešit „deprogramování“ oslovením každého ze svých uživatelů. Rotenberg prosazoval myšlenku regulace. A boyd navrhl, že musíme investovat peníze do společnosti, abychom „znovu propojili“ Ameriku.

Reckoning with New Hegemonists

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, University of Alabama; David Kirkpatrick, Techonomy

V časném panelu „Reckoning with New Hegemonists“ téměř všichni souhlasili s Joyce Vance z University of Alabama, který řekl, že technologie skutečně předstihla zákon, který zoufale potřebuje dohnat. Vance však varoval, že existuje také riziko „slipshod“ politických odpovědí.

Dave Morgan Simulmedia uvedl, že „bude existovat regulace“, i když řekl, že je možné, že velké společnosti se mohou vyhnout velkému dopadu.

Morgan poznamenal, že historie mediálního průmyslu poskytuje paralely s tím, co vidíme nyní, protože noviny by se považovaly za polygrafické společnosti, a společnosti začínajícího vysílání se považovaly za technologické společnosti. Všechny tyto možnosti umožňují poskytovat spotřebitelský kontakt, což je jasně to, co Google a Facebook dělají. V důsledku takové koncentrované mediální síly došlo k mnoha protimonopolním případům a vláda je dokázala ovládnout. Jedním velkým rozdílem v dnešní době je, že ostatní technologie vyžadovaly geografickou souvislost, kterou internetové společnosti nepotřebují.

Vance poznamenal, že Senát nyní zvažuje návrh zákona, který by od těchto společností vyžadoval zachování jejich reklamní historie, a aby bylo také jasné, kdo platí za politické reklamy. Morgan však zdůraznil, že se jedná o globální společnosti se širším dosahem. Vance požádal o evropské předpisy o ochraně osobních údajů GDPR a řekl, že USA možná v této oblasti postoupily vedení EU. Řekla, že si nemyslí, že americké společnosti budou schopny dodržovat odlišně v různých geografických oblastech, takže standardně budou společnosti v souladu s evropskými předpisy.

Mark Mahaney z RBC Capital Markets uvedl, že společnosti jsou již regulovány, zejména v Evropské unii, přičemž společnost Google je pod kontrolou zejména za sdružování nebo propagaci svých služeb spolu s výsledky vyhledávání nebo se systémem Android. Kirkpatrick uvedl, že si myslí, že protimonopolní urovnání skutečně pomohlo Microsoftu, ale Mahaney namítl, že to nebyli regulátoři, kteří Microsoft zastavili, ale konkurence.

Může technika a vláda zachránit demokracii?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, Electronic Information Information Center; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Podobné téma se objevilo u kulatého stolu se snídaní pod názvem „Může technika a vláda zachránit demokracii?“, Ve kterém moderátor Jon Fine z Inc Magazine požádal o řešení. Kulatý stůl však s žádným opravdu nepřišel.

Hwang řekl, že problémem nejsou technologické platformy, ale spíše hněv, který lidé cítí v důsledku odpojení od ekonomiky.

Lawrence Norden z Brennanova centra na NYU School of Law uvedla, že zákony vyžadující více zveřejnění o politických reklamách jsou snadnou odpovědí, ale bohužel velkým problémem jsou bohužel „temné příspěvky“ nebo příspěvky neznámého původu. V tomto ohledu řekl, že internet je spíše jako náměstí.

Rotenberg však řekl, že je to naopak, a že internet je spíš jako firemní město, kde platformy stanoví pravidla a rozhodují o tom, co uvidíte. Minnie Ingersoll of Code For America se zeptala, zda je problémem cizí zásah nebo že Google řídí to, co říkáme. Regulační orgány musí tyto problémy lépe pochopit, uvedla.

Molly Turner z UC Berkeley Haas School of Business řekl, že internet se stal největším prostředkem pro vyjádření, ale obává se, že to podkopává občanský diskurs. Na druhé straně se obává požadavků na platformy, které mají odstranit určité druhy informací (pokud byl například oslaben zákon o slušnosti komunikace, nebo kvůli jiným druhům regulace), protože najednou se v tomto případě platforma stává „rozhodčím mluvený projev."

Rotenberg odpověděl, že zatímco automobilové společnosti kdysi bojovaly proti bezpečnostním předpisům, nakonec pomohly zvýšit bezpečnost automobilů a vedly k dalším inovacím. Navrhoval, že stabilní platformy mohou ve skutečnosti pomoci platformám. Rotenberg poznamenal, že technologické společnosti prosazovaly „telekomunikační společnosti“ neutralitu sítě, ale nikoli pro sebe, a vyzval k rovným podmínkám.

Internet pod útokem

Mark Anderson, Strategic News Service; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, Nová Amerika; David Kirkpatrick, Techonomy

V této diskusi pokračoval závěrečný panel s názvem „Internet pod útokem“.

Rebecca MacKinnon, která řídí projekt Ranking Digital Rights v Nové Americe, uvedla, že kdysi existoval předpoklad, že z důvodu internetu by se autoritářské režimy nakonec staly spíše demokracií. Nyní se bojí autoritářských režimů a demokracie se „setkají uprostřed“.

MacKinnon uvedl, že autoritářské režimy přizpůsobují internet svým účelům, zatímco demokracie čelí populismu, manipulaci a „dohledovému kapitalismu“. Demokracie by však měla být opatrná, pokud jde o regulační odezvu - ačkoli souhlasí s tím, že pokud jde o algoritmy a soukromí, je třeba zajistit větší transparentnost, obává se, že cenzurní systém by usnadnil zásahy proti částem společenské vlády pohrdá.

Peder Jungck, který je vedoucím zpravodajských a bezpečnostních služeb společnosti BAE Systems, souhlasil s tím, že vlády by takové systémy chtěly použít k nalezení disidentů, a řekl, že myšlenka je produktem a stejně jako jakýkoli produkt, který lze tlačit. Zeptal se, jestli jsou reklamní systémy ozbrojeny, a řekl: „Pandorina skříňka byla otevřena a nemůžeme se vrátit.“

Mark Anderson ze Strategic News Service řekl, že jsme viděli přímou linii od dob ARPANETu, kdy nebyli žádní padouchy, až po dnešek, kdy vidíme čím dál škodlivější chování ve dne.

Anderson byl obzvláště jasný, když popsal, jak Čína ukradne duševní vlastnictví a jak jej používá k vytlačení společností z podnikání. A navrhl, aby hacker Equifaxu měl všechny znaky vládního útoku. Když to shrnuji, Anderson řekl, že „nevidí řešení“.

Jungck řekl, že bychom měli předpokládat, že v našich systémech jsou špatní lidé, a pracovat na řešeních. Například řekl, že číslo sociálního zabezpečení již není zabezpečitelné, takže místo toho můžeme potřebovat řešení blockchainu.

V projektu Ranking Digital Rights vyhodnotil MacKinnon 22 globálních společností na 35 otázkách týkajících se například svobody projevu, soukromí a bezpečnosti. Řekla, že dvě společnosti dostaly „Ds“ a všichni ostatní selhali. Chce vědět, co společnosti dělají s vašimi údaji; s kým to sdílejí; zda provádějí hloubkovou kontrolu, hodnocení bezpečnosti a správu rizik; a zda chrání soukromí a zabezpečení, obsah a výraz. Transparentnost není dostatečná, řekla, ale nezbytný první krok.

Anderson řekl, že transparentnost je dobrá věc, ale není řešením, a poznamenal, že někdo, kdo chce manipulovat se systémem, nemusí platit za reklamy, ale může použít 100 000 botnetů. Kirkpatrick poté navrhl, aby společnosti mohly prosazovat identitu, a tím omezit používání botnetů.

MacKinnon však čelil tomu, že právě aktivisté v oblasti lidských práv jsou vůči používání těchto systémů nejzranitelnější, protože pokud vynucujete identitu, nebude na sociálních sítích nikdo, kdo by oponoval autoritářské vládě.

Jungck přemýšlel, proč je třeba prosazovat identitu, když weby již vědí, kdo jste a co chcete koupit. „Na internetu není žádná anonymita, je už dávno pryč, “ řekl. Jediným rozdílem je, jak dlouho trvá, než zjistíte, kdo jste.

Závěrem lze říci, že MacKinnon je z dlouhodobého hlediska optimistická, ale pro dalších 100 let „ne tolik“.

Při poslechu toho všeho je snadné být pesimističtí nebo přinejmenším fatalističtí ohledně množství potřebné regulace a dopadu, který bude mít. Ale stále mám tendenci být optimistou, a přestože si myslím, že určité množství další regulace je pravděpodobné i nutné, domnívám se, že je stejně pravděpodobné, že dnešní internetoví giganti - nebo někteří budoucí hráči - přijdou s lepšími odpověďmi.

Jak je pravděpodobné, že doporučíte PCMag.com?