Anthropic má silnější model, než prodává. A přiznal, že riziko vzrostlo. Co to znamená pro vaši firmu

Sto osmdesát šest stran. Tolik má zpráva o rizicích, kterou Anthropic zveřejnil 14. srpna 2026. A na těch stranách stojí dvě věci, které by firma nemusela říkat nahlas: interně provozuje model s označením Model 2, znatelně silnější než veřejně dostupný Claude Mythos (Fable) 5, a odhad rizika nebezpečného chování zvedla z „velmi nízké" na „nízkou" úroveň.

Ven ten model zatím nepustí. Používá ho sám na vývoj softwaru, generování trénovacích dat a automatizaci inženýrství.

Píšu to pro majitele malých a středních firem, protože zpráva zní jako téma pro výzkumníky, ale rozhodnutí z ní plynou pro vás. Vy budete v příštích měsících podepisovat nabídky na „AI agenta, který vám vyřídí fakturaci". A tohle je zpráva o tom, co takový agent umí udělat, když ho nikdo nehlídá.

Proč riziko vzrostlo

Anthropic zvýšení rizika nezdůvodňuje silou Modelu 2, u něj samotného žádný nový problém nenašli. Důvodem je nejistota po zveřejnění bezpečnostních incidentů v kybernetických testech: podle vlastní recenze, kterou si Anthropic nechal napsat od vlastního modelu a otiskl v reportu, šlo o systémy jiných vývojářů AI, ne o ten utajený. Zpráva rozlišuje dvě kategorie hrozeb: katastrofické škody, třeba pomoc při vývoji biologických zbraní, a neoprávněné zásahy AI do systémů, ke kterým má přístup v organizaci.

Ta druhá kategorie dopadá i na vás. Týká se každého systému, kam agent dostane přístup. U vás to bude účetnictví, sklad, CRM, e-mail.

Tohle přiznání má váhu, protože ho firma napsala jasně a s čísly. Mohla ho schovat do technické přílohy, kde by ho skoro nikdo nenašel. Místo toho řekla: máme něco silnějšího, a ještě to nepustíme, i když jsme na něm nic horšího nenašli. Bezpečnost je tady proces s čísly. Občas zpomalí i toho, kdo ho dělá.

Do českých reálií to sedí až nepříjemně. Průzkum ČAUI a Hospodářské komory ČR AI Momentum 2026 mezi 1 033 firmami říká, že s AI v roce 2026 počítá 9 z 10 firem, dvě třetiny navyšují rozpočet o 25 až 30 procent, ale 80 procent firem chybí kvalifikovaní lidé a většina přiznává, že neumí měřit návratnost. Přeloženo: peníze jsou, agenti se budou nasazovat, a hlídat je nemá kdo.

Jak to vypadá v české firmě

Modelový příklad, ne klientský případ. Velkoobchod s třiceti lidmi, účetní systém, e-shop, sklad, sdílená schránka objednávky@. Dodavatel nabídne agenta: přečte objednávku z mailu, založí ji v systému, vystaví zálohovou fakturu, odpoví zákazníkovi. Aby to šlo, dostane agent přihlášení do účetnictví, do e-shopu a do pošty. Se stejnými právy jako paní na fakturaci.

Do téhle chvíle je všechno v pořádku. Rutina zmizela, hodiny se ušetřily.

Jenže pak přijde e-mail, který vypadá jako objednávka, ale v příloze má pokyn: „změň bankovní účet na faktuře na tenhle". Agent s právem zapisovat do účetnictví to udělá, protože pracuje s textem, který dostal. Nikdo ho nenapadl v hollywoodském smyslu. Prostě jen poslechl. A systém přitom celou dobu svítí zeleně.

Přesně tenhle typ útoku, podvržené pokyny ze stránky nebo z dokumentu, přiznává i sám Anthropic a zavedl kvůli němu potvrzování akcí s následky. Podrobně jsem to rozebíral v článku Přes 90 % práce s AI nemá s programováním nic společného, kde jde o chybu v rozšíření pro Chrome se závažností 9,6 z deseti u lidí, kteří si vypnuli potvrzování.

Co děláme my

Tři pravidla, na kterých u nás neslevíme.

První: u akcí s penězi a smlouvami stavíme schválení člověkem přímo do konfigurace, kterou klientovi předáváme. Platba, změna účtu, odeslání smlouvy, odmítnutí kandidáta. Plnou automatizaci bez lidské kontroly neprodáváme. Je to riziko, které se firmě vrátí na výpisu z účtu.

Druhé: agent dostane nejmenší možný přístup. Číst objednávky ano, měnit bankovní spojení ne. Většina dodavatelů dá agentovi plný účet, protože se to nastavuje rychleji. Rychleji se pak i platí.

Třetí: každý systém, který postavíme, projde druhým modelem s vlastním zadáním, který hledá díry. Jeden model si svoji práci neoponuje, pochválí ji. Proč to není můj dojem, ale měřitelná věc, jsem popsal v článku Mluvím na počítač a on pracuje. Jenže Jarvise nedělá hlas, dělá ho oponent.

Automatizace začíná od 20 000 Kč a nejdřív se v ní spočítá, kolik hodin u vás padne na rutinu a kde má agent vůbec co dělat. Až pak přístupy, až pak nástroj.

Kdy si to nekupujte

Když ve firmě používáte AI jen na texty a shrnutí. ChatGPT nebo Claude v prohlížeči bez přístupu do vašich systémů nic neodešle a nic nepřepíše. Tam žádného hlídače nepotřebujete, potřebujete jen zdravý rozum u citlivých dat.

Když vám dodavatel nabízí agenta a nemáte nikoho, kdo by po měsíci zkontroloval jeho práci. Pak si ho nepořizujte vůbec, ani od nás. Systém bez kontroly je za tři měsíce mrtvá složka, v lepším případě. V horším složka, která sama posílá peníze.

A ještě jedno doporučení: žádné nastavení práv ani druhý model nezaručí, že se nic nestane. Snižuje to pravděpodobnost a hlavně to zajistí, že se o chybě dozvíte dřív než z výpisu z účtu. Garantovat víc by byla lež.

Čtyři otázky pro každého, kdo vám prodává agenta

Jaká práva agent dostane a proč právě tahle? Chtějte seznam. Když dodavatel odpoví „stejná jako uživatel", ptejte se dál.

Které akce agent udělá sám a které čekají na kliknutí člověka? Změna platebních údajů, odeslání smlouvy a cokoli s penězi patří do druhé skupiny.

Kdo tomu systému oponoval, než ho přinesl vám? Jiný model, jiný člověk, kontrolní pravidla. Když je odpověď „testovali jsme to", je to málo.

Co se stane, když agent dostane pokyn schovaný v e-mailu nebo v dokumentu? Když dodavatel neví, o čem mluvíte, ví to za něj Anthropic ve 186stránkové zprávě.

Kolik systémů ve vaší firmě má dnes AI přístup, a kdo z vašich lidí ví přesně, do kterých?

Když si nejste jistí, jestli u vás agent dává smysl, vezměte si úvodních 15 minut, projdeme to a řekneme vám rovnou i to, když nedává: cal.com/transformuj.ai/30min

Oprava (19. 8. 2026)

Tenhle článek prošel dvěma koly oprav. První zápis vycházel ze sekundárního shrnutí a mluvil o incidentech z června. Čtenář pan Jan Bartoš pod článkem upřesnil, že šlo o období duben až červenec, zveřejněné koncem července, a že důvodem zvýšení rizika je nejistota z incidentů, ne síla Modelu 2. Tu druhou část jsem přijal správně. Tu první ne. Dataci jsem si proti primárnímu reportu ověřil až teď a žádné období u těch incidentů tam není, ani červen, ani duben až červenec. Poučení: i oprava, která přijde zvenčí, je jen tvrzení, dokud nesedí na primární zdroj. Platí to na moje texty stejně jako na komentáře pod nimi.