Projekt Maven: AI pre armádu spôsobila krízu identity v Google

Spoločnosť Google sa stretáva s rastúcim odporom svojich vlastných zamestnancov kvôli projektu Maven, v ktorom pomáha americkej armáde identifikovať ciele pre nálety.

Podľa denníku The New York Times (NYT) uvrhol túto poprednú technologickú spoločnosť do existenciálnej krízy. Na druhej strane Pentagon chce nasadenie algoritmov strojového učenia pre armádne účely rozširovať, informoval magazín Wired. Projekt Maven bol spustený v apríli 2017 a jeho prvou misiou sa stala automatizácia rozpoznávania vojensky významných objektov (ľudí, vozidiel, stavieb) v záberoch vyhotovených bezpilotnými lietadlami.

Videá vo vysokom rozlíšení sa hromadia na amerických základniach a armádne nástroje ich už nestíhajú analyzovať. Pentagon chcel prvú formu “algoritmického vedenia vojny” sprevádzkovať do decembra 2017, čo sa mu podľa Wired bez problému podarilo.

O zapojení Googlu do operácie informoval prvýkrát server Gizmodo až na začiatku marca. Spoločnosť o úlohe v projekte verejne nehovorila, ale o mesiac neskôr vyzvalo v otvorenom liste 3100 zamestnancov vedenie, aby od armádneho kontraktu odstúpili.

Napätie v Googlu okolo projektu Maven osvetlila reportáž NYT, ktorá hovorila s niekoľkými súčasnými aj bývalými zamestnancami a nahliadla aj do dokumentov spoločnosti a internej komunikácie medzi pracovníkmi. “Za každú cenu sa vyhnite zatiahnutiu umelej inteligencie a akýmkoľvek zmienkam o nej,” napísala kolegom v septembri 2017 Fei-Fei Liová, ktorá na Stanfordovej univerzite vedie pracovisko pre umelú inteligenciu a je zároveň hlavnou výskumníčkou pre umelú inteligenciu v jednom z oddelení Googlu.

Umelá inteligencia použitá ako zbraň sa pravdepodobne stala jednou z najcitlivejších tém v rámci umelej inteligencie, možno tou vôbec najcitlivejšou,” pokračovala vedkyňa. A keď sa domnievam, že spolupráca na projekte Maven má byť prezentovaná ako “veľká výhra” jej oddelenia cloud computingu (poskytovanie masívneho výpočtového výkonu externým subjektom), odporučila zároveň kolegom, aby boli pri komunikácii s verejnosťou “extra opatrní”. “Neviem, čo by sa stalo, keby si média začali všímať, že Google tajne buduje zbrane založené na umelej inteligencii alebo technológie tohto typu pre vývoj zbraní v obrannom sektore,” napísala v ďalšom e-maily.

Jej nadriadení  nakoniec od medializácie ustúpili, ale o projekte Maven a prípadnej budúcej práci Googlu na vojenských systémoch sa vedie živá debata vnútri spoločnosti. Na protest proti spolupráci s armádou už v polovici mája 2018 odstúpila desiatka zamestnancov. Obe strany debaty vidia v Maven bránu k ďalším, väčším  podobným kontraktom a 4000 zamestnancov už podpísalo petíciu volajúcu po “jasných pravidlách, ktoré by stanovili, že Google ani jeho spolupracovníci nikdy nebudú vyrábať technológie pre vojnu”.

Zdroj: Flickr/tangi bertin

Vedenie teraz sľubuje, že vytvorí sadu zásad, ktoré by uľahčili firme rozhodovanie na “etickom mínovom poli” spolupráce s armádou a rozviedkami. Google NYT uviedol, že chystané princípy o umelej inteligencii zakážu jej aplikáciu v zbraniach.

Zamestnanci podľa denníka očakávajú, že budú s pravidlami zoznámení v najbližších týždňoch. Zároveň stále nie je jasné, ako presne sa Google na projekte Maven podieľa. Ako prevádzkovateľ, tak americké ministerstvo obrany to nechcú prezradiť. Podľa Wired sa ale na identifikácii cieľov pre americké nálety podieľajú aj ďalšie firmy.

Armáda Spojených štátov pravdepodobne spoluprácu považuje za perspektívnu a pre rok 2018 sa rozpočet Maven približne zdvojnásobil na 131 miliónov dolárov ( cca 112 miliónov €). Operácia by sa mohla v nadchádzajúcich mesiacoch rozšíriť do nových oblastí, napísal Wired. “Prekonáva moje očakávania,” povedal Bob Work, ktorý stál v apríli 2017 pri zrode projektu.

Zdroj: cas.adam.sk

"Čo si dokáže ľudská myseľ predstaviť a čomu uveriť, to dokáže aj dosiahnuť." Napoleon Hill



Buďte prvý