Poučení z Alexových chyb

Zařízení Amazon Echo nedávno zaznamenalo soukromou konverzaci uživatele a poslalo jej jednomu z jeho kontaktů bez jejich vědomí a souhlasu. To opět vyvolává obavy o bezpečnost a soukromí inteligentních řečníků. Jak se později ukázalo, i když Alexovo podivné chování nebylo součástí zlověstné špionážní spiknutí - spíš bylo způsobeno řadou souvisejících selhání připisovaných způsobu práce inteligentního reproduktoru.

Podle účtu poskytnutého Amazonem: „Echo se probudil kvůli konverzaci v pozadí, která zněla jako„ Alexa “. Poté byla následující konverzace slyšet jako žádost o „odeslání zprávy“. V tom okamžiku Alexa nahlas řekl: „Komu?“ V tom okamžiku byla konverzace na pozadí interpretována jako jméno v seznamu kontaktů zákazníka. Alexa se pak hlasitě zeptala: ", že?" Alexa pak interpretoval konverzaci na pozadí jako „správnou“. Jak nepravděpodobné, jako je tato řada událostí, hodnotíme možnosti, jak tento případ ještě snížit. “

Scénář je okrajovým případem, druhem incidentu, který se stává velmi zřídka. Je to však také zajímavá studie v mezích technologie umělé inteligence, která pohání Echo a další takzvaná „inteligentní“ zařízení.

Příliš mnoho důvěry v cloud

Abychom porozuměli hlasovým příkazům, inteligentní reproduktory, jako jsou Echo a Google Home, se spoléhají na algoritmy hlubokého učení, které vyžadují rozsáhlý výpočetní výkon. Protože nemají výpočetní prostředky pro lokální provedení úkolu, musí poslat data na cloudové servery výrobce, kde algoritmy AI transformují řečová data na text a zpracovávají příkazy.

Inteligentní reproduktory však nemohou poslat všechno, co slyší, na své cloudové servery, protože by to vyžadovalo, aby výrobce ukládal na své servery nadměrné množství dat - většina z nich by byla zbytečná. Náhodné zaznamenávání a ukládání soukromých rozhovorů probíhajících v domovech uživatelů by také představovalo výzvu v oblasti ochrany osobních údajů a mohlo by vést k problémům s výrobci, zejména s novými předpisy o ochraně osobních údajů, které vážně omezují způsob, jakým technické společnosti ukládají a používají data.

Proto jsou inteligentní reproduktory navrženy tak, aby se spouštěly poté, co uživatel vysloví slovo, jako je „Alexa“ nebo „Ahoj Google“. Teprve po vyslechnutí probuzení začnou posílat zvukový vstup svých mikrofonů do cloudu k analýze a zpracování.

I když tato funkce zlepšuje soukromí, představuje své vlastní výzvy, jak zdůraznil nedávný incident Alexa.

„Pokud je slovo - nebo něco, co zní velmi podobně - posláno v polovině rozhovoru, Alexa nebude mít žádný z předchozích souvislostí, “ říká Joshua March, generální ředitel společnosti Conversocial. „V tu chvíli poslouchá všechny příkazy související se dovednostmi, které jste nastavili (jako je jejich aplikace pro zasílání zpráv), velmi těžké. Z velké části je soukromí značně vylepšeno omezením kontextu, kterému Alexa věnuje pozornost (nejedná se o nahrávání ani poslech vašich běžných konverzací), i když to v tomto případě selhalo. ““

Pokroky v oblasti výpočetní techniky na hraně mohou tento problém zmírnit. Protože AI a hluboké učení si hledají cestu do více a více zařízení a aplikací, někteří výrobci hardwaru vytvořili procesory specializované na provádění úkolů AI bez přílišného spoléhání se na cloudové zdroje. Procesory Edge AI mohou pomoci zařízením, jako je Echo, lépe porozumět a zpracovávat konverzace, aniž by narušovaly soukromí uživatelů zasláním všech dat do cloudu.

Kontext a záměr

Kromě přijímání různorodých a roztříštěných kusů zvuku se Amazonská umělá inteligence snaží pochopit nuance lidské konverzace.

„I když v posledních letech došlo k obrovskému pokroku v hlubokém učení, které softwaru umožnilo porozumět řeči a obrazům lépe než kdykoli předtím, stále existuje mnoho omezení, “ říká March. "Ačkoli hlasový asistent dokáže rozeznat slova, která říkáte, nemusí nutně mít žádné skutečné porozumění smyslu nebo záměru, který je za tím. Svět je složité místo, ale každý systém AI dnes dokáže zvládnout jen velmi specifické, úzké případy použití. ““

Například my lidé máme mnoho způsobů, jak zjistit, zda je věta namířena proti nám, například tón hlasu nebo vizuální narážky - řekněme, jakým směrem se reproduktor hovoří.

Naproti tomu Alexa předpokládá, že je příjemcem jakékoli věty, která obsahuje slovo „A“. To je důvod, proč jej uživatelé často spouštějí náhodně.

Část problému spočívá v tom, že zveličujeme schopnosti současných aplikací AI, často je stavíme na stejnou úroveň jako lidská mysl nebo nad ní a vkládáme do nich přílišnou důvěru. Proto jsme překvapeni, když velkolepě selhají.

„Část problému se týká toho, že se termín„ AI “na trhu objevuje tak agresivně, že spotřebitelé vložili nezajištěné množství víry ve výrobky, které jsou s tímto pojmem spojeny, “ říká Pascal Kaufmann, neurovědec a zakladatel Starmindu. „Tento příběh ilustruje, že Alexa má mnoho schopností a relativně omezené porozumění tomu, jak a kdy by měly být vhodně použity.“

Algoritmy pro hluboké učení jsou náchylné k selhání, když čelí nastavení, které se liší od dat a scénářů, pro které jsou vyškoleni. „Jednou z definujících vlastností umělé inteligence na lidské úrovni bude soběstačná kompetence a skutečné porozumění obsahu, “ říká Kaufmann. „Je to rozhodující součást skutečného považování umělé inteligence za inteligentní a životně důležité pro její rozvoj. Vytvoření sebevědomých digitálních asistentů, které s sebou přinesou úplné porozumění lidské přirozenosti, bude znamenat jejich transformaci ze zábavné novinky na skutečně skutečnou užitečný nástroj. “

Vytváření umělé inteligence na lidské úrovni, také označované jako všeobecná umělá inteligence, se však snadněji říká, než udělá. Po mnoho desetiletí jsme si mysleli, že je to hned za rohem, jen abychom byli zděšení, protože technologický pokrok ukázal, jak složitá je lidská mysl. Mnoho odborníků se domnívá, že pronásledování obecné AI je zbytečné.

Mezitím úzká umělá inteligence (jak jsou popsány současné technologie umělé inteligence) stále představuje mnoho příležitostí a lze ji opravit tak, aby se zabránilo opakování chyb. Abychom byli jasní, hluboké učení a strojové učení jsou stále rodící se a společnosti jako Amazon neustále aktualizují své algoritmy umělé inteligence tak, aby pokaždé, když k nim dojde, vyřešily okrajové případy.

Co musíme udělat

„Toto je mladé, nově se rozvíjející pole. Porozumění přirozenému jazyku je obzvláště v plenkách, takže zde můžeme udělat hodně, “ říká Eric Moller, CTO společnosti Atomic X.

Moller věří, že algoritmy hlasové analýzy AI mohou být vyladěny tak, aby lépe porozuměly intonaci a skloňování. „Používání slova„ Alexa “v širší větě zní jinak než vyvolání nebo příkaz. Alexa by se neměla probouzet, protože jsi řekla toto jméno pomíjením, “ říká Moller. Při dostatečném školení by AI měla být schopna rozlišit, které konkrétní tóny jsou směrovány na inteligentní reproduktor.

Technické společnosti mohou také trénovat své umělé inteligence, aby dokázaly rozlišovat, když přijímají šum na pozadí, na rozdíl od přímého mluvení. „Klábosení na pozadí má jedinečný zvukový„ podpis “, že lidé jsou velmi dobří při zvedání a selektivním ladění. Neexistuje žádný důvod, proč nemůžeme trénovat modely umělé inteligence, aby udělali totéž, “ říká Moller.

Asistenti umělé inteligence by jako preventivní opatření měli hodnotit dopad rozhodnutí, která dělají, a zapojit lidské rozhodnutí v případech, kdy chtějí udělat něco, co je potenciálně citlivé. Výrobci by měli do svých technologií pečet více záruk, aby zabránili předávání citlivých informací bez výslovného a jasného souhlasu uživatele.

„Ačkoli Amazon oznámil, že se Alexa pokusil potvrdit akci, kterou interpretoval, některé akce je třeba pečlivěji řídit a držet se vyšší úrovně potvrzení úmyslu uživatele, “ říká Sagi Eliyahi, generální ředitel společnosti Tonkean. "Lidé mají stejné problémy s rozpoznáváním řeči, občas nevyhovující žádosti. Na rozdíl od Alexy je však více pravděpodobné, že člověk absolutně potvrdí, že rozumí nejasné žádosti, a co je důležitější, posoudit pravděpodobnost žádosti ve srovnání s minulými požadavky."

Mezitím…

Zatímco technické společnosti dokončují své AI aplikace, aby snížily počet chyb, uživatelé budou muset učinit konečné rozhodnutí o tom, jak moc chtějí být vystaveni potenciálním chybám, které mohou jejich zařízení poháněná AI způsobit.

„Tyto příběhy ukazují konflikt s množstvím dat, které jsou lidé ochotni sdílet proti příslibu nových technologií AI, “ říká Doug Rose, odborník na vědu o datu a autor několika knih o umělé inteligenci a softwaru. „Můžete Siriho škádlit, že je pomalá. Ale nejlepší způsob, jak dosáhnout větší inteligence, je invaze do našich soukromých rozhovorů. Klíčovou otázkou tedy v příštích deseti letech je to, jak moc těmto agentům AI dovolíme nahlédnout do našeho chování. ? “

„Která rodina by do obývacího pokoje umístila asistenta člověka a nechala by toho člověka neustále poslouchat nějaký druh konverzace?“ říká Kaufmann, neurovědec ze Starmindu. „Měli bychom alespoň uplatňovat stejné standardy na takzvaná„ AI “zařízení (pokud ne vyšší), která uplatňujeme také na lidské inteligentní bytosti, pokud jde o soukromí, tajemství nebo spolehlivost.“