Google znovu řeší „etiku války“. Zaměstnanci vyzývají vedení, aby odmítlo tajné armádní zakázky pro AI
Stovky výzkumníků a inženýrů Googlu podepsaly otevřený dopis, v němž žádají generálního ředitele Sundara Pichaie, aby firma odmítla poskytovat své AI systémy pro utajované zakázky amerického ministerstva obrany.
Podle organizátorů dopisu nasbíral dokument přes 580 podpisů (jiné zdroje uvádějí „kolem 600“), zhruba dvě třetiny souhlasily se zveřejněním jména, třetina chce zůstat v anonymitě.
Co konkrétně zaměstnanci požadují
V dopise, který byl Pichaiovi doručen v pondělí, zaměstnanci píší, že je zneklidňují probíhající jednání mezi Googlem $GOOG a americkým ministerstvem obrany o nasazení systémů Gemini/AI v utajovaných projektech. Jako odborníci na umělou inteligenci upozorňují, že tyto systémy „centralizují moc a dělají chyby“ a že jejich blízkost k technologii jim dává odpovědnost upozorňovat na nejnebezpečnější a nejetičtější použití.
Klíčová pasáž dopisu podle zveřejněných citací říká, že „jediný způsob, jak zajistit, že Google nebude spojen s takovými škodami, je odmítnout jakékoli utajované workloady“ pro armádu. Zaměstnanci varují, že jinak může být AI využita v oblasti autonomních zbraní či masového dohledu bez jejich vědomí a bez možnosti zasáhnout.
Autoři dopisu argumentují také reputačním rizikem: podle nich by špatné rozhodnutí v této chvíli mohlo „nevratně poškodit pověst Googlu, jeho byznys a roli ve světě“. Firma se k dopisu zatím veřejně nevyjádřila, ale podle médií už několik týdnů zvažuje dohodu s Pentagonem, která by navazovala na spor ministerstva s Anthropicem.
Kontext: spor Pentagonu s Anthropicem a „volné místo“ pro jiné AI firmy
Napětí kolem využití AI v armádě se zostřilo po tom, co americké ministerstvo obrany označilo Anthropic a jeho model Claude za „riziko dodavatelského řetězce“ a začalo firmu z armádních projektů vytlačovat. Označení znamenalo, že Pentagon ani jeho dodavatelé nesmějí Claude používat v armádních zakázkách, a Anthropic se proti tomu brání u soudů s argumentem, že jde o odvetu za to, že odmítl povolit využití AI „pro všechny zákonné účely“, včetně plně autonomních zbraní.
Soud zatím ministerstvu dočasně zablokoval některé kroky, ale Anthropic je aktuálně z obranných kontraktů fakticky vyřazen, což vytváří prostor pro jiné velké hráče - typicky Microsoft $MSFT, OpenAI nebo právě Google. Podle informací serveru The Information jedná Pentagon s Googlem o nasazení jeho AI (Gemini) v utajovaném prostředí, čímž by částečně zaplnil díru po Anthropic.
Na to nyní zaměstnanci reagují: v dopise výslovně říkají, že „nechtějí vyplnit mezeru, kterou po sobě zanechal Anthropic“, pokud by to znamenalo využití AI pro sporné vojenské účely. Podle Gizmoda jsou mezi signatáři lidé z DeepMind, Google Cloud i dalších týmů, tedy přímo ti, kdo na velkých modelech a infrastruktuře pracují.
Návrat vzpomínek na Project Maven v roce 2018
Současná petice navazuje na starší, velmi citlivou kapitolu z historie Googlu: protest proti projektu Maven v roce 2018. Tehdy se tisíce zaměstnanců postavily proti spolupráci s Pentagonem na využití strojového učení pro analýzu záběrů z dronů a zlepšování cílení úderů, přičemž část z nich kvůli tomu z firmy odešla.
Dopis z roku 2018 tehdy žádal, aby Google „nebyl v byznysu války“ a aby přijal jasné pravidlo, že nebude vyvíjet technologie pro účely vedení bojových operací. Po silné vnitřní kritice firma kontrakt Maven neprodloužila a přislíbila přísnější AI etické principy - právě na tuto tradici se dnešní signatáři odvolávají.
Aktuální dopis tak testuje, jak vážně to Google s těmito principy myslí v éře generativní AI, kdy se modely mohou nasazovat mnohem šířeji – od zpracování zpravodajských dat a plánování operací až po potenciálně autonomní zbraňové systémy.
Co je ve hře pro Google
Z pohledu byznysu jde o citlivou rovnováhu mezi výnosným, ale reputačně rizikovým segmentem „defense AI“ a obrazem firmy, která chce u AI působit jako „odpovědný“ hráč. Armádní a vládní zakázky v oblasti AI mohou přinést dlouhodobé kontrakty a stabilní příjmy, ale zároveň otevírají firmu ostré kritice zaměstnanců, veřejnosti i některých zahraničních partnerů.
Opakované interní vzpoury mohou:
komplikovat nábor špičkových výzkumníků, kteří si často vybírají zaměstnavatele i podle etiky projektů
tlačit management k odmítání některých lukrativních kontraktů a tím „přenechávat“ část trhu konkurenci
vytvořit precedens: jakmile jednou vedení ustoupí, zaměstnanci budou podobné nástroje (otevřené dopisy, petice) používat častěji
Pro akcionáře Alphabeta je proto podstatné sledovat dvě paralelní linky: jak se vyvíjí spor Pentagon–Anthropic (tedy jak velké je celkově „okno příležitosti“ v defense AI) a jaký závěr Pichai a vedení udělají z aktuálního interního tlaku. Kombinace regulace, reputace a vnitřní kultury tady může být pro hodnotu firmy stejně důležitá jako samotná technologie.
