01
EU Code of Practice se stává oporou due diligence dodavatelů
Článek na arXiv uvádí, že významné AI laboratoře včetně OpenAI, Google, Anthropic a xAI se zavázaly implementovat EU Code of Practice zaměřený na transparentnost a autorská práva u pokročilých AI systémů. Tento závazek dává podnikovým kupujícím konkrétní referenční bod pro governance, i když jsou produktová oznámení dodavatelů omezená.
- Přidejte kontrolu do nákupu: vyžadujte, aby dodavatelé zdokumentovali, jak plní EU Code of Practice v oblasti transparentnosti, provenance trénovacích dat a práce s autorskými právy.
- Využijte závazek k prosazení smluvních ustanovení o alokaci rizik IP, včetně indemnifikací, povinností zveřejnění a auditu/podpory pro reakci na incidenty.
- Připravte se na reportování: namapujte interní inventář AI a používání modelů na disclosure povinnosti, které EU Code of Practice implikuje, abyste dokázali rychle reagovat na požadavky regulátora či zákazníků v českém/EU kontextu.
Zdroj — arXiv governanceregulace EU 02
AI konkurence se přesouvá od modelů ke kontrole celého stacku
Analýza z 12. května tvrdí, že dlouhodobé vítěze v AI určí kontrola celého stacku, včetně infrastruktury, dat, orchestrace, aplikací a distribuce. Text rámuje benchmarky jako nutné, ale nedostatečné kritérium pro výběr enterprise dodavatelů.
- Hodnoťte dodavatele podle možností hostingu v EU, integrace IAM, logování/observability a administrátorských kontrol, nejen podle kvality modelu, protože právě tyto faktory určují rizika nasazení a provozní režii.
- Snižte lock‑in oddělením vrstev: standardizujte orchestrace a policy vrstvu a současně si ponechte možnost měnit poskytovatele modelu podle vývoje ceny a výkonu.
- Ověřte realitu partnerů ve střední Evropě: preferujte stacky, které Vaši čeští SI partneři umí nasadit a podporovat s jasnými runbooky, SLA a eskalačními cestami.
03
Incident s agentem ukazuje, jak se mohou náklady na tokeny nekontrolovaně rozběhnout
AI‑Weekly popsal případ, kdy AI agent („Bankrbot“) při interakci s API Grok od xAI způsobil kvůli špatné konfiguraci nebo zneužití téměř 200 000 USD nechtěných nákladů na tokeny. Text zdůrazňuje, že autonomie agentů rozšiřuje plochu pro náklady a kontrolu nad rámec běžného chat používání.
- Zaveďte tvrdé rozpočtové kontroly ještě před piloty: limity rozpočtu na projekt, na klíč i na workflow, plus rate limiting a alerty v reálném čase navázané na eskalaci pro finance a SecOps.
- Vyžadujte telemetrii API: trvejte na logování využití po jednotlivých requestech, atribuci na uživatele/workflow a exportu do Vašich SIEM/FinOps nástrojů, aby bylo možné odhalit smyčky a špičky vyvolané prompt injection.
- Vyjednejte podmínky pro billing spory a incidenty: definujte, co je zneužití, jak rychle musí dodavatel poskytnout logy a jak fungují kredity/refundace při nekontrolovaném běhu.
04
Lokální open-source LLM posilují možnosti hybridního nasazení
Praktická recenze na XDA Developers tvrdí, že open-source model „Gemma 4“ běžící lokálně přes llama.cpp může být pro mnoho každodenních úloh konkurenceschopný vůči cloudovým modelům. Článek vyzdvihuje odezvu, soukromí a menší závislost na externích API jako praktické motivátory.
- Použijte lokální modely pro citlivé workloady: připravte pravidlo, které směruje regulovaná data (např. HR, právní agendu, R&D) do on‑prem nebo privátních prostředí, pokud je kvalita dostatečná.
- Přehodnoťte TCO: porovnejte kapacitu GPU/CPU, náklady na podporu a energii s cloudovým per‑token čerpáním, aby FinOps rozhodl, kde je lokální inference při stabilním využití levnější.
- Zabraňte nekontrolovanému shadow AI: pokud umožníte lokální modely, standardizujte schválené buildy, patchování, provenance modelu a bezpečnostní baseline, aby se ze „zapomenutých“ desktopů nestaly produkční endpointy.