Jak gdpr ovlivní ai průmysl Ben Dickson

V tom, co lze popsat jako druh závodu ve zbrojení, technologické společnosti shromažďovaly velké množství uživatelských dat, aby zdokonalovaly algoritmy umělé inteligence, které pohánějí jejich aplikace a platformy. Doposud se většinou dokázali vyhnout odpovědnosti, když je jejich praktiky vytlačily do legálně a eticky šedých oblastí.

To se však může změnit 25. května, kdy vstoupí v platnost Obecná pravidla Evropské unie o ochraně údajů (GDPR). GDPR zavede bezprecedentní omezení sběru a zpracování uživatelských dat v regionu EU a bude fackovat velké pokuty společnostem, které nedodržují.

To by mohlo znít jako špatná zpráva pro společnosti, které používají algoritmy AI, které využívaly laxní předpisy o sběru dat (a zdlouhavé, nudné a nejednoznačné podmínky servisních dokumentů). Někteří se obávají, že přísnější pravidla budou bránit inovacím a zavádění umělé inteligence v mnoha aplikacích a doménách. Jiní věří, že nová směrnice vytvoří základ, kde aplikace AI budou spolehlivější a důvěryhodnější.

Ať je to jakkoli, průmysl AI je ve velkém posunu v éře GDPR.

Vlastnictví dat a soukromí

„GDPR je pro AI velký problém, protože vyžaduje, abychom uvažovali jinak o tom, jak shromažďujeme a používáme data, “ říká Tim Estes, zakladatel a prezident společnosti Digital Reasoning. "Technologické společnosti příliš dlouho trvají na tom, že abyste mohli získat hodnotu ze svých produktů a služeb, musíte se vzdát svých dat."

Dříve byly společnosti povinny získat od uživatelů pouze nejasný souhlas ke shromažďování nejrůznějších údajů. "AI pomohla udržet humbuk velkých dat naživu - což poskytuje další důvod, proč by podniky měly shromažďovat a těžit všechna dostupná data, " říká Estes. „Mnoho společností začalo implementovat AI pro analýzu svých dat jen proto, že si myslí, že by měly - bez přemýšlení o dopadu na soukromí uživatelů nebo vlastnictví dat.“

Nejzákladnějším předpokladem GDPR je to, že data patří uživatelům. V rámci GDPR budou společnosti muset odhalit celý rozsah informací, které shromažďují, a jak je používají a jak je budou chránit a zabránit neoprávněnému přístupu. Nová pravidla přinutí společnosti AI, aby byly pečlivější ohledně údajů, které shromažďují, na rozdíl od toho, aby se zapojily do nechtěného hromadění, zpracování a sdílení uživatelských informací.

Právo být zapomenut

GDPR dává uživatelům sílu požadovat, aby společnost vymazala všechna svá data ze svých serverů. To nebude dobře sedět se společnostmi AI, které mají skutečný zájem na udržení co největšího počtu uživatelských dat pro provádění úkolů, jako je předpovídání trendů a chování uživatelů.

„Na konci dne je GDPR hlavně o tom, jak shromažďujete a spravujete data, a ne nutně o tom, kolik dat máte, “ říká Maryna Burushkina, generální ředitelka GrowthChannel. „Hlavním problémem, kterému bude většina společností čelit, není mnoho o tom, jak se přihlásit, ale spíše o správu dat, sdělování použití dat uživatelům a umožnění uživatelům odstranit je.“

Společnosti AI budou muset učinit další kroky k anonymizaci svých dat, pokud chtějí mít stále přístup k těmto informacím. Dalším problémům však čelí společnosti, které již mají velké zásoby uživatelských dat.

„V případě GDPR, pokud chce společnost vymazat konkrétní PII, musí zajistit, aby byla všude vymazána, “ říká Amnon Drori, generální ředitel společnosti Octopai. Může to být skličující úkol provést ručně, když jsou vaše data rozptýlena na různých serverech a uložena v různých strukturovaných a nestrukturovaných formátech.

Například při odstraňování čísla kreditní karty uživatele (určitě citlivé informace) se společnosti budou muset podívat do každé sestavy, databáze, databázového objektu a ETL, kde jsou informace uloženy. „Někdy vidíme různá jména metadat pro stejnou položku: například„ číslo kreditní karty “, „ číslo cc “, číslo kreditní karty“, „číslo karty“, „číslo kreditní karty“… seznam pokračuje a, “říká Drori. Je často nemožné vědět, kde hledat, a proces může trvat týdny nebo dokonce měsíce, a stejně jako mnoho ručních procesů je náchylný k lidským chybám a nepřesnostem, říká Drori.

GDPR také zvýší náklady na lidské chyby při zpracování dat. „Proto dnes tolik společností hledá automatizované řešení, které přesně spravuje jejich metadata, “ říká Drori. Možná je ironií, že AI sama o sobě může být v tomto ohledu řešením. Nástroje správy metadat poháněné umělou inteligencí mohou skenovat všechny zdroje dat v organizaci a konsolidovat vztahy mezi různými nástroji a zdroji dat.

Právo na vysvětlení

Jednou z nejvýznamnějších částí GDPR v souvislosti s umělou inteligencí je to, co se stalo známým jako „právo na vysvětlení“. Směrnice stanoví, že společnosti musí informovat uživatele o „existenci automatizovaného rozhodování“ a poskytnout jim „smysluplné informace o logice, která se jich týká, ao významu a předpokládaných důsledcích takového zpracování pro subjekt údajů“.

To v podstatě znamená, že uživatelé musí vědět, kdy jsou přímo nebo nepřímo podrobeni algoritmům umělé inteligence, a měli by být schopni napadnout rozhodnutí, která tyto algoritmy dělají, a vyžádat si důkaz o tom, jak byl závěr vyvozen. To bude jedna z největších výzev, kterým bude průmysl AI čelit.

Hluboké neuronové sítě, hlavní technologie za současnými algoritmy AI, jsou komplexní softwarové struktury, které vytvářejí svá vlastní pravidla funkčnosti analýzou velkých souborů dat a nalézáním korelací a vzorců. Jak se neuronové sítě stávají složitějšími, jejich chování je stále těžší rozkládat. Často ani technici nevysvětlují důvody rozhodnutí, která jejich algoritmy AI dělají.

Vzhledem k problému „černé skříňky“, nevysvětlitelnost algoritmů umělé inteligence ztěžuje jejich implementaci do rozhodnutí soudní síně, vymáhání práva, aplikací půjček a úvěrů, náboru, zdravotní péče a dalších kritických domén. Ale bez jakéhokoli legálního pákového efektu měly společnosti AI malou motivaci k větší transparentnosti svých algoritmů AI, zejména když byly úzce svázány se svými obchodními tajemstvími.

Nyní GDPR bude držet AI společnosti, aby odpovídaly za rozhodnutí, která jejich algoritmy dělají.

„V rámci GDPR jsou organizace zodpovědné za to, že jasně popisují způsob zpracování v lidském jazyce a zároveň požadují souhlas subjektu, “ říká Pascal Geenens, bezpečnostní výzkumník v Radware. "Jak se vyvíjí hluboké učení a vědci v oblasti dat nejsou schopni charakterizovat deterministickou povahu za uvažováním neuronové sítě, může být tento popis složitější a obtížněji vysvětlitelný."

V podstatě GDPR je o tom, aby se lidé, kteří zpracovávají data, zodpovídali, říká Geenens. Pokud tedy pro zpracování používáte algoritmy strojového učení, musíte je navrhnout takovým způsobem, který vám umožní vysvětlit rozhodnutí, která učiní vaším jménem.

Hrst organizací se snaží vyvinout technologie, aby byla AI transparentnější. Mezi nimi dominuje výzkumný projekt Explainable AI (XAI) společnosti DARPA, jehož cílem je zajistit, aby rozhodnutí založená na AI byla srozumitelná.

Outsourcing AI

GDPR ovlivní také organizace, které zpřístupňují svá data třetím stranám. Významným příkladem takové společnosti je Facebook; ve svém skandálu v Cambridge Analytica gigant sociálních médií nezabránil společnosti zabývající se těžbou dat shromažďovat a zneužívat data 87 milionů uživatelů. GDPR však bude mít také dopad na společnosti, které zadávají své funkce AI externě a zpřístupňují svá data poskytovatelům AI.

„Zatímco mnozí předpokládají, že poskytovatelé umělé inteligence jsou jako jiní poskytovatelé služeb - jednoduše nabízejí své technologie výměnou za finanční kompenzaci - pravdou je, že poskytovatelé umělé inteligence také vstupují do obchodních partnerství jako způsob, jak vybudovat a rozvíjet své technologie, “ říká Estes, šéf výkonný pracovník společnosti Digital Reasoning. To znamená, že poskytovatel AI může chtít vydržet data klienta, aby dále trénoval své vlastní algoritmy a používal je v jiných doménách.

Například poskytovatel AI, který pomáhá zdravotnické organizaci najít vzory příznaků a zlepšit diagnózy, se může setkat s datovou sadou, která zlepšuje její proprietární algoritmy. Společnost AI by pak mohla chtít využít data ke zdokonalení svých algoritmů pro jiné typy péče o pacienty a vyvinout své schopnosti tak, aby pomohla jiným poskytovatelům zdravotní péče. V rámci GDPR bude zdravotnická organizace odpovědná za údaje zodpovědná za jakékoli neetické použití poskytovatelem AI. Podle Estes je klíčové, aby podniky hledaly poskytovatele umělé inteligence, kteří věří ve vlastní algoritmy, nikoli data.

„GDPR přinutí podniky, aby věnovaly větší pozornost tomu, jak a kdy jsou jejich údaje použity, kde jsou uloženy a co se s nimi stane po dokončení projektu, “ říká Estes. „To znamená spolupráci s poskytovateli AI, kteří pomáhají definovat linie vlastnictví dat a implementují strategie, které chrání informace o uživateli, aniž by bránily způsobům, jak je schopen pomoci vyvinout úspěch algoritmů AI.“

Bude GDPR Hamper AI Innovation?

Odborníci, se kterými jsme hovořili, věřili, že ačkoli nová nařízení zpochybní současné postupy a zvyklosti společností, které AI přijaly, také je přinutí najít nové způsoby, jak inovovat a také zachovat dodržování soukromí a etických standardů.

„Když vstoupí v platnost regulace GDPR, všechny hlavní softwarové společnosti přijímají nezbytná opatření, aby nejen zajistily shodu, ale také inovovaly a promyšleně hledaly nové příležitosti na trhu, “ říká Burushkina společnosti GrowthChannel.

„GDPR nebude bránit inovacím, ale řídit a motivovat, “ říká Drori z Octopai. Mezitím GDPR také povede k vytvoření nových podniků a technologií, které pomohou organizacím dosáhnout a udržovat soulad s GDPR.

Normy stanovené GDPR by ve skutečnosti mohly pomoci překlenout prohlubující se mezeru v důvěře mezi poskytovateli a uživateli služeb využívajících AI. Estes věří, že GDPR způsobí, že poskytovatelé AI i ti, kteří implementují svou technologii, budou odpovědnější za to, jak a kde využívají zdroje dat, a budou je tlačit, aby uživatele před ziskem dávali uživatelům. „Na konci dne, “ říká, „poskytovatelé umělé inteligence by měli potřebovat pouze algoritmy - nikoli data -, aby mohli inovovat své schopnosti a řešení.“