Konference s kódem: youtube, facebook, twitter provádí pořezávání špatného obsahu

Letošní Konference kódů se po stopách jiných technických konferencí zaměřila na nevýhodu v technice, a zejména na sociálních médiích, s vůdci Instagramu, Twitteru a YouTube grilovali na svých politikách za účelem odstranění či nezveřejňování sporného obsahu.

Zdálo se, že všichni tito vedoucí pracovníci měli nějakou variantu následující konverzace: Ano, na naší platformě jsou špatné věci. Měli jsme to vědět dříve. Snažíme se věci vylepšovat. Ale je to těžké. Je nám líto, pokud jste se urazili.

Všechno to dává smysl, ale neosměšňuje všechny kritiky ani neztišuje hlasy volající po rozpadu nebo alespoň další regulaci velkých technologických platforem. Zde je to, co někteří z vedoucích pracovníků a někteří kritici řekli na přehlídce.

Youtube

Generální ředitel YouTube Susan Wojcicki popsal změny v zásadách platformy pro projevy nenávisti a řekl, že pokud video nyní tvrdí, že některá skupina (například rasa nebo náboženství) je nadřazená, nebude již povolena; ani videa, která tvrdí, že jiná skupina je podřadná. Společnost uvedla, že do chráněného seznamu také přidala další skupiny, včetně kast v Indii a obětí ověřených násilných událostí (jako je holocaust). Řekla, že to jsou jen některé z mnoha politických změn, které firma provedla za poslední rok. Mluvila také o omezení distribuce „hraničního obsahu“, takže některá videa, která nejsou blokována, nejsou zahrnuta do doporučení YouTube a nejsou k dispozici ke zpeněžení. Říká, že to snížilo jejich názor o 80 procent.

Uznala však, že to vše vedlo ke kontroverzi. Začala rozhovor tím, že se omluvila komunitě LGBTQ, a řekla, že pochopila, že její rozhodnutí byla pro tuto komunitu škodlivá, ale to nebyl záměr. Spory se týkají rozhodnutí YouTube umožnit, aby na webu zůstala videa od Stephena Crowdera, a to navzdory stížnostem od Voxova Carlosa Mazy, že Crowder obtěžoval ho a další s komentáři proti LGBTQ. (Vox se účastní konference Code.)

"Na kontextu opravdu záleží, " řekl Wojcicki a řekl, že předtím, než firma odstraní video, zvažuje, zda je video věnováno obtěžování nebo jednohodinové video s rasovou slur, zda je to veřejná postava a zda je škodlivé v záměru. Řekla, že určování něčeho škodlivého je pro firmu vysokou lištou. Řekla, že je třeba důsledně prosazovat zásady, protože by vždy existovala videa, na která si lidé stěžují. Poznamenala, že najdete spoustu rasových slurů a sexistických komentářů v takových věcech, jako jsou rapové písně, pozdní noční rozhovory a spousta humoru. Řekla, že společnost chce pracovat na změně politiky, místo aby měla „kolenní“ reakci na individuální případ.

Nakonec uvedla, že se společnost rozhodla, že tato videa nejsou obtěžováním a neporušují zásady, a uvedla, že to bylo správné rozhodnutí. Řekla však, že společnost pozastavuje zpeněžení - protože na videu může mít zisk tvůrce videa z reklam.

Řekla, že pokud YouTube toto video odstraní, bude existovat tolik jiného obsahu, jaký bude muset stáhnout. Řekla však, že firma odstraní věci a že mnoho změn provedených v politice nenávisti bude pro komunitu LGBTQ skutečně přínosem a povede ke stažení videí. A zopakovala omluvu za zranění, které mohlo způsobit.

Na otázku hostitele konference Peter Kafka, zda měřítko YouTube - s 2 miliardami uživatelů a 500 hodin videa nahraným každou minutu - znamená, že problém nikdy nemůžete vyřešit, Wojcicki řekl: „Můžeme určitě zlepšit způsob, jakým spravujeme platformu, a já vidím, jak hodně jsme se zlepšili. “ Poznamenala, že firma za poslední dva roky zaznamenala 50% snížení násilného obsahu a na obsahu pracuje přes 10 000 lidí. Ale posunula se zpět na zaměření na špatné věci na platformě a všimla si, že existuje také spousta skvělého obsahu. „Všechny obavy se týkají tohoto zlomkového procenta obsahu, “ řekla. Uznala však, že při řešení tohoto obsahu je třeba udělat spoustu práce, a uvedla, že společnost investuje do nástrojů a tvrdě pracuje na řešení tohoto obsahu.

Odhodila stranou návrh, že by mohla existovat překážka pro nahrávání videí, a řekla: „Ztratili bychom hodně hlasů.“ Mluvila však o tom, že bude mít více „důvěryhodných vrstev“ videí, aby kdokoli mohl začít nahrávat věci, ale pro širší distribuci by musel splňovat určitá pravidla.

„Všechny tyto výhody otevřenosti vidíme, “ řekla, ale poznamenává, že YouTube má zodpovědnost za pochopení obsahu a rozhodnutí, co by mělo být doporučeno a co by mělo být propagováno.

Wojcicki uvedla, že věří, že YouTube a Google budou čelit další regulaci a poukazují na nová nařízení o autorských právech v Evropě, ale uvedla, že je důležité, aby regulační orgány pochopily, jak tyto věci implementovat přiměřeným způsobem, protože existuje potenciál pro nezamýšlené důsledky.

Na otázku Kevina Roose z The New York Times o tom, zda YouTube přispěla k radikalizaci politiky (na základě nedávného příběhu, který udělal) Wojcicki uvedl, že web bere radikalizační obavy velmi vážně a v lednu provedl řadu změn, která snížila doporučení „hraničního obsahu“ o 50 procent.

Řekla, že YouTube chce nabídnout širokou škálu názorů. Uživatelé si mohou vybrat, co chtějí vidět, ale měli obavy, a uvedla, že si myslí, že takové změny v zásadách a doporučeních budou mít vliv.

Instagram a Facebook

Dva vedoucí pracovníci na Facebooku hovořili o tom, jak se Facebook, a zejména Instagram, zabýval kritikou.

Adam Mosseri, který stojí na čele Instagramu, uvedl, že vidíme „posun paradigmatu směrem k více soukromým formám komunikace“, přičemž poznamenal, že veškerý růst na Instagramu pochází z příběhů a zpráv. Poznamenal, že příběhy jsou prchavé, zatímco krmivo je lepší, pokud chcete věci, které jsou navždy. Poznamenal, že příběhy se netýkají „užitečných zpráv“, ale spíše „konverzačních předkrmů“.

Mosseri uvedl, že společnost má „spoustu vzrušené debaty“, protože mezi soukromím a bezpečí existuje skutečné napětí. Řekl: „Do země jsme vložili sázku, že zprávy by měly být naprosto soukromé, “ ale souhlasil, že firma potřebuje čas na práci a čas, aby přijala řešení pro bezpečnost.

Andrew Bosworth, který dohlíží na umělou realitu, virtuální realitu a další pokročilé projekty pro Facebook, poznamenal, že soukromí někdy znamená soukromí od Facebooku, ale jiní chtějí soukromí od vlády nebo zařízení. Historicky řekl, že soukromí pro Facebook znamená kontrolu nad daty a kdo je vidí. Poznamenal však, že se odehrává různými způsoby, a řekl, že „globální rozhovor nebude mít jednu odpověď“, protože různé trhy měly odlišné názory na vládní kontrolu oproti bezpečnosti.

Mosseri se zeptal Vergeovy Casey Newtonové na to, zda by bylo dobré rozdělit Facebook a udělat z Instagramu samostatnou společnost, „mohlo by to hodně usnadnit můj život a pravděpodobně by to bylo pro mě jako jednotlivce výhodné, ale Jen si myslím, že je to hrozný nápad. “ Řekl, že v otázkách, jako jsou volební integrita a nenávistné řeči, by Instagramu exponenciálně ztížilo udržení bezpečnosti uživatelů. Řekl, že původně slíbil, že bude Instagram nezávislý na Facebooku, ale tento slib porušil, pokud jde o bezpečnostní prvky, protože na Facebooku pracuje více lidí na bezpečnosti a integritě než celkový počet lidí, kteří pracují na Instagramu.

Mosseri prohlásil, že je zásadně zdravé projít žádost o zodpovědnost a Facebook udělal chybu, když se dostatečně soustředil na nezamýšlené důsledky v prvních letech. „Musíme udělat více pro to, abychom vychovávali a pěstovali dobré a oslovovali špatné, “ řekl.

Bosworth uvedl, že když je web malý, lze veškerý obsah zkontrolovat, i když nám to přináší obavy o ochranu soukromí. Když se zvětšuje, nemůžete ručně zkontrolovat veškerý obsah, ale získáte více zdrojů a „úsporu z rozsahu“. Souhlasil s tím, že Facebook je „masivně pozadu“, ale řekl, že společnost investuje masivně, prohlásil, že si myslí, že je to řešitelný problém, a že společnost pracuje na technických řešeních a s regulačními orgány, jak reagovat. Nedostanete se blíž k jejich řešení tím, že se rozdělíte do týmů a dáte každému týmu méně prostředků, dodal.

Na otázku, zda Facebook nemůže tyto problémy vyřešit, protože nabízí služby podporované reklamami, Bosworth řekl: „Stojí to mnohem víc, abychom měli jakýkoli z tohoto okrajového obsahu na platformě.“ Řekl, že Facebook má desítky tisíc lidí, kteří recenzují obsah. Pokud by společnost měla být nemilosrdná a zbavit se veškeré řeči, která je vůbec kontroverzní, řekl, že by to bylo efektivnější.

Mosseri řekl, že bychom měli být hrdí, že tuto službu můžete používat zdarma. Společnost uvedla, že reklama je to, co společnosti umožňuje toto poskytovat, a je to většinou hrazeno lidmi, kteří si to mohou dovolit. Pokud odříznete reklamu, odříznete lidi.

Jednou změnou, kterou Instagram testuje, je skrytí „lajků“ v systému. Mosseri uvedl, že nechceme, aby byl Instagram „natlakovaným prostředím“, a poznamenává, jak se líbí konkurenci. Bydlel v tom, že si oblíbil a počítá se jako soukromý, ale řekl, že je to jen experiment.

Mosseri také hovořil o portálu společnosti zařízení, který řekl konkrétně "opustil funkčnost tabulky" tím, že odstraní nahrávání konverzací. Řekl, že vidíme celou novou generaci hardwaru s inteligentními reproduktory, ale že Facebook se chtěl ujistit, že „lidské spojení je použití první strany“, ale s vestavěným soukromí.

Bosworth poznamenal, že Facebook vidí VR jako „příležitost jít hlouběji“ a mít smysluplné zážitky, i když tam nemůžete být

Cvrlikání

Dva vedoucí pracovníci na Twitteru se zabývali podobnými otázkami a konfrontovali s konferenčním spolupředsedou Kara Swisherovou, že platforma je „žumpa“ postavená na lidech, kteří mohou říkat, co chtějí, a pak říkat hrozné věci.

Twitter je „zásadně založen na tom, aby lidé mluvili na veřejnosti, řekl produktový vedoucí Kayvon Beykpour. Řekl, že účelem webu je„ sloužit veřejné konverzaci “, což„ pomáhá lidem učit se, pomáhá lidem řešit problémy a pomáhá lidem uvědomit si, že jsme "To je vše v tom společně." To je výchozí bod, ale řekl, že existuje "existenciální krize", protože pokud konverzace není zdravá, lidé se nebudou chtít účastnit.

Beykpour poznamenal, že většina lidí na Twitteru nemá velké platformy, ale má desítky nebo stovky následovníků a že lidé používají tuto službu k nalezení lidí, kteří mají stejně smýšlející zájmy.

Vijaya Gadde, která je právním, veřejným a bezpečnostním vodítkem Twitteru, uvedla, že firma původně usilovala o zcela svobodný projev, ale nyní si více uvědomovala dopad, který máme. Řekla, že firma má politický rámec zaměřený na základní lidská práva, jako je bezpečnost a svoboda projevu.

Poznamenala, že firma se nyní na platformě potýkala s nedůvěrou a dezinformacemi. V dubnu v souvislosti s volbami v Indii a Evropě uvedla, že firma zavedla nové politiky, jejichž cílem je omezit dezinformace o tom, jak se zaregistrovat k hlasování nebo kde hlasovat. Řekla, že to byl stále proces učení, a poznamenal například, že některé vtipy byly vymazány. V jiných oblastech řekla, že pokud hledáte informace o vakcínách, budete nyní přesměrováni na důvěryhodné zdroje. Cílem je zejména zabránit „offline poškození“ lidí.

Gadde poznamenal, že Twitter má „historickou preferenci, aby nebyl arbitrem pravdy“, ale připustil, že to bylo těžké v měřítku. Místo toho řekla, že se firma pokouší rozšířit obsah, který pochází z renomovaných zdrojů. Časem řekla, že firma bude muset udělat více a řekla, že sleduje, co dělají jiné platformy.

Beykpour řekl, že Twitter se historicky „přetočil“, když se pokoušel vyřešit prostřednictvím politiky a prosazování, nikoli prostřednictvím produktů a technologií. Řekl, že společnost dosáhla pokroku v otázkách zdraví a bude dělat více. Poznamenal, že firma právě vydala novou zjednodušenou politiku, která byla snáze čitelná, což by umožnilo lepší vymáhání. V současné době, řekl, 40 procent z tweety firmy "akce" jsou dělány aktivně, na rozdíl od stížností.

Řekl, že firma de-zesiluje obsah, a řekl, že nové politiky snížily míru zneužití nahlášeného o 45 procent; a počet bloků účtu o 30 procent. Kromě toho si všiml, že firma nyní čelí výzvám a blokuje další přihlášení, aby se pokusila zabránit škodlivému zaregistrování účtu; ale stále čelí problémům, jako je hrubé hádání hesel.

Gadde, který se zeptal na obavy, že platformy sociálních médií vedou ke zvýšené radikalizaci, připustil, že je to strach. „Myslím, že na Twitteru a na každé platformě je obsah, který přispívá k radikalizaci, “ řekla. Dodala však, že firma má zavedeno mnoho mechanismů a politik, které proti tomu bojují. Řekla, že 90 procent veškerého teroristického obsahu je okamžitě staženo a zakázalo 110 násilných extremistických skupin.

Gadde řekl, že pravidla Twitteru jsou „živým dokumentem“. Nový výzkum reaguje na nová poškození a radí firmě, pokud existuje více, než můžeme udělat. Poznamenala, že „špatné věci se stávají také na soukromých platformách“. Protože Twitter je zcela otevřený, řekla, že každý může vidět a reagovat. Poznamenala však, že otevřenost může být nevýhodou, protože lidem dává platformu. Řekla, že se společnost snaží najít správnou rovnováhu mezi veřejným zájmem a schopností prohlížet a reagovat a problémy, které obsah může způsobit. Poznamenala, že firma musí pracovat na globálních řešeních, protože 80 procent jejích uživatelů není v USA

Mluvila o důležitosti transparentnosti a byla velmi jasná o tom, jaká jsou pravidla. Zmínila se však také o aktuálnosti obsahu a upozornila, že u veřejných osobností, i když by Twitter měl odstranit tweet, by tento obsah upoutal pozornost.

V reakci na otázku publika Gadde řekl, že Twitter je „velmi, velmi zaměřen na radikalizaci, “ řekl, že pokud si nárokujete spojení s násilnými extremistickými skupinami, nemůžete být na Twitteru. Řekla však, že firma má co dělat, aby pochopila, jak postupovat více, a že k změnám dojde. V odpovědi na další otázku týkající se zneužívání zaměřeného na ženy uvedla, že umožnění proaktivnějšího používání Twitteru bude mít velký význam. Řekla však, že se velmi obává o umlčování hlasů, zejména hlasů menšinových skupin a žen.

Beykpour uvedl, že jedním z možných řešení bylo poskytnout zákazníkům větší kontrolu nad tím, jak se mohou cítit bezpečněji na platformě, jako například poskytnout autorům možnost moderovat odpovědi v rámci konverzace. Mluvil také o nových druzích konverzací a poznamenal, že současný Twitter je do značné míry pouze veřejnými tweety, které žijí navždy a přímé zprávy. Poznamenal, že mezitím firma nepodporuje - ale zvažuje - věci jako veřejný rozhovor, který by mohl být omezen na čtyři osoby.

Střední

Ev Williams, generální ředitel společnosti Medium a spoluzakladatel služeb Blogger a Twitter, se více zaměřil na službu předplatného, ​​která podle něj roste zdravým tempem, ale nedala by čísla. Řekl, že lidé se přihlásili k odběru služby pro nápady a perspektivy, od témat od zdraví přes JavaScript až po literární psaní.

Diskutoval o tom, jak může být spojování obsahu důležité. Řekl, že je „velmi vzestupný v předplatném redakčního obsahu“, ale pro mnoho webů by to mohlo být obtížné. "Nepřihlašujeme se k televizním pořadům ani hudebním umělcům individuálně." Místo toho se s médiem snaží vytvořit platformu, která zahrnuje vlastněné a provozované weby a rozmanitost dalších webů. Řekl, že Medium má každý měsíc stovky tisíc lidí.

Byl přesvědčen, že sdružený obsah uspěje a uvedl, že neexistují přímí konkurenti, přestože jakýkoli web, který má předplatné a něco jako Apple News + se svým balíčkem časopisů, soutěží.

Williams uvedl, že politika společnosti Medium se postupem času změnila a že její moderování obsahu je nyní „spíše agresivní“ v tom, co je ochotno odstranit. Ve společnosti Medium řekl: „vše, co doporučujeme, je nejprve schváleno člověkem.“ Uznal, že to znamená, že web nebude nikdy tak velký jako sociální média, ale řekl, že „výměna hodnot“ firmy, která vloží váš obsah do kurátorského fondu, ale za výplatu, se změní.

Přestože se zaměřil na střední, Williams přece diskutoval o sociálních médiích a blogování. Řekl, že mu chybí blogování, jako něco mezi extrémně neformálními myšlenkami na sociálních médiích a články v dlouhých formách. Řekl, že v blogování by se věci mohly „marinovat“ na rozdíl od „závislosti na krátkodobé zpětné vazbě, která škodí myšlence“.

Problémem je, že „okamžitá zpětná vazba je pravděpodobně matoucí pro zdravé rozhovory.“ Poznamenal, že lidé jsou závislí na krátkodobé zpětné vazbě, jako je veřejné představení sledovatelů nebo lajků na příspěvku. Řekl, že v tomto prostředí není možné žít a nechat ho změnit své chování. Jiné systémy s pomalejší zpětnou vazbou, jako jsou zpravodaje nebo podcasty, umožňují více kontextů a lepší konverzace, řekl. „Pokud musí každý kus komunikace stát sám, ztratíte schopnost jít hluboko, “ řekl.

Řekl, že politická konverzace je „hlučnější než kdykoli předtím“, a to ztěžuje, i když chcete slyšet mnoho perspektiv. Ale řekl, že existují jasná místa.

"Důvodem, proč jsem byl na webu nadšený, je především to, že jsem to udělal chytřejší, " řekl Williams. Myslel si, že pokud by tam lidé mohli dát nápady, svět by udělal chytřejší rozhodnutí. Řekl však, že se tak nestalo kvůli systémům zpětné vazby a pobídkám. „Součástí toho je hranice rozsahu lidské pozornosti, “ řekl a poznamenal, že další informace nás nečiní chytřejší, pokud nevíme, jak je strávit nebo jak je kontextualizovat, zejména pokud se průmyslová odvětví snaží nutit kupovat věci.

To je jeden z důvodů, proč začal pracovat na Medium před 7 lety. Poznamenal, že s předplacenou službou zákazníci platí, takže musíte vytvořit produkt, který někdo najde dostatečně cenně, aby zaplatil. Řekl, že to bylo lepší než reklama, která se zaměřila na to, jak levně můžete někoho upoutat.

Panel kritiků

Velké platformy samozřejmě měly také spoustu kritiků. Jedním z panelů byla zejména Nicole Wong, bývalá zástupkyně technologického ředitele USA a bývalá zástupkyně generálního právníka společnosti Google; Jessica Powell, bývalá viceprezidentka pro komunikaci na Googlu a autorka The Big Disruption ; a Antonio García Martínez, dříve Facebook a autor Chaos Monkeys.

„Nejedná se o nové problémy, jsou tam od samého začátku, “ řekla Powell a podotkla, že se obává „nezamýšlených důsledků“ a že monitorování obsahu je obtížné. Řekla, že je skvělé, že platformy mají přísnější politiky „ale měly tam být mnohem dříve“.

Wong poznamenal, že v první éře internetu „stavěli jsme techniku ​​a mysleli jsme si, že změníme svět navždy“. Řekla, že je to úžasné a stále existuje, a že lidé v technice jsou do značné míry tam dobří. Řekla však, že lidé byli líní, když neuznali, že technologie není ze své podstaty dobrá. Řekla, že nyní víme, jaké to je vidět „ozbrojený internet“ a musíme za to stavět systémy. "Nikdo nám dluží bezplatný a otevřený internet určený pro naše dobro, a my to musíme vybudovat."

García Martínez řekl, že pokud má někdo na Facebooku regulovat řeč, měla by to být vláda. „Demokracie je struktura, ve které dostanete odpovědnost, ne společnost, “ řekl. Řekl však, že si myslí, že Facebook by měl být stejně rozdělen, s Instagramem a Co je aplikace oddělena a řekl, že pokud zvýšíte pruh moderování obsahu, můžete získat konkurenční výhodu.

Powell řekl, že existuje důvěryhodný argument, že pokud máte více údajů, můžete lépe trénovat modely umělé inteligence, takže potřebujete méně lidské moderování. Navrhla však, že by toto odvětví mohlo přijít na způsob, jak shromáždit informace pro všechny hráče, a uvedla, že se to již děje pro vykořisťování dětí, a že bychom měli být schopni zjistit, jak to udělat pro šikanu. Celkově řekla, že jakákoli regulace se musí dostat k otázkám kontroly a transparentnosti, když uvedla, že je špatné, že se dnes startup musí obávat cesty, kterou je třeba získat.

García Martínez řekl, že vždy existuje kompromis mezi soukromí, pohodlím a zabezpečením, a řekl, že je v pořádku, pokud víte, jaké kompromisy děláte. Navrhl však zbavit se agregátorů dat třetích stran.

V dalším sezení komik a kritik Baratunde Thurston prosadil svou vlastní platformu „devíti cestami, aby nezklamal budoucnost“. Tyto položky zahrnují průhlednost a skóre důvěryhodnosti, mění výchozí nastavení pro uzavírání konverzací; a vlastnictví dat a přenositelnost. Největší pozornost však získal popisováním Facebooku jako „omluvovací služby založené na cloudu“, která nabízí „omluvu jako služba“.

Také profesor NYU Stern Scott Galloway, známý pro svou knihu The Four: The Hidden DNA of Amazon, Apple, Facebook a Google , učinil řadu předpovědí pro nadcházející rok. Zahrnuty jsou předpovědi, že vedoucí úředník Facebooku bude zatčen a zadržen na cizí půdě a že bude existovat větší regulace velkých technologických společností. Řekl, že si myslel, že prostřednictvím spinoffů a rozpadů bude Big Tech v příštích šesti měsících přidávat větší hodnotu než celková kapitalizace Boeingu a Airbusu.