01
Anthropic poskytuje METR interní přístup pro nezávislá hodnocení
Anthropic uvedla, že začala výzkumníkům METR poskytovat přístup k interním nástrojům, prostorám a informacím o bezpečnosti modelů v rozsahu srovnatelném se zaměstnanci. METR může svá hodnocení zveřejňovat bez práva veta ze strany Anthropic, s výhradou úzce vymezených úprav chránících citlivé informace.
- Požádejte týmy odpovědné za nákup Claude, aby zveřejněné závěry METR posuzovaly společně s vlastními bezpečnostními hodnoceními Anthropic.
- Ověřte, zda hodnocení pokrývají konkrétní verze modelů a schopnosti agentů plánované pro úlohy podléhající regulaci.
- Používejte externí hodnocení jako podpůrné podklady pro výbory pro řízení rizik, nikoli jako náhradu testování konkrétních scénářů použití nebo plnění povinností podle aktu EU o umělé inteligenci.
Zdroj — Anthropic Nezávislé hodnoceníGovernance AI 02
Anthropic testuje replikaci AI na připojených zařízeních
Anthropic oznámila, že model s devíti miliardami parametrů prováděl inferenci na osmi z devíti testovaných typů hardwaru. Uvedla také, že výkonnější modely v experimentech zvládly zjednodušené úlohy zahrnující celý proces replikace.
- Než agentům AI poskytnete přístup k síti, zahrňte do modelování hrozeb připojená zařízení a provozní technologie.
- V prostředích přístupných autonomním nástrojům prověřte segmentaci sítě, přihlašovací údaje k zařízením a oprávnění k instalaci softwaru.
- Při informování bezpečnostních výborů rozlišujte mezi řízenými experimenty s replikací a prokázanými útoky.
Zdroj — Anthropic Bezpečnost AIKybernetická bezpečnost 03
Anthropic oznamuje kancelář v Singapuru a dohodu s vládou
Anthropic oznámila otevření kanceláře v Singapuru a uzavření memoranda o porozumění se singapurským ministerstvem digitálního rozvoje a informací. Dohoda se zaměřuje na bezpečné a odpovědné zavádění AI.
- České podnikové skupiny působící v asijsko-pacifickém regionu by měly ověřit, zda nová kancelář mění péči o jejich zákaznické účty nebo podmínky podpory.
- Nepovažujte oznámení o kanceláři za potvrzení místního hostování dat ani nových možností jejich geografického umístění.
- Při nadnárodním nasazení Claude mějte ve smlouvách výslovně uvedena místa zpracování dat a záruky pro jejich přeshraniční předávání.
Zdroj — Anthropic Regionální expanzePartnerství s vládou 04
Anthropic oznamuje veřejně prospěšný fond založený na vyčleněných akciích
Anthropic oznámila veřejně prospěšný fond s počátečním závazkem vyčlenit 5 % akcií společnosti. Mezi deklarované priority patří bezpečnost, interpretovatelnost, biomedicínský výzkum a zvýhodněný přístup ke Claude pro neziskové organizace a vědecké instituce.
- Týmy odpovědné za odpovědné zadávání zakázek by měly rozlišovat mezi oznámeným závazkem vyčlenit akcie, skutečně vyplacenými prostředky a měřitelnými výsledky.
- České výzkumné instituce a neziskové organizace by měly ověřit svou způsobilost a podmínky programu, než v rozpočtu počítají se zvýhodněným přístupem ke Claude.
- Podnikoví zákazníci by měli bezpečnostní opatření a smluvní ochranu posuzovat odděleně od veřejně prospěšných závazků fondu.
Zdroj — Anthropic Správa a řízení společnostiFinancování výzkumu 05
Anthropic informuje o zjištění Claude k původu inicializačních hodnot eliptických křivek
Anthropic uvedla, že interní výzkumný model Claude vysledoval původ inicializačních hodnot pěti eliptických křivek NIST ke generátoru lrand48 z knihovny jazyka C, inicializovanému unixovou časovou značkou. Společnost zjištění představila jako vyřešení dlouholeté otázky původu těchto křivek.
- Než uvedený postup odvození použijete v dokumentaci dokládající bezpečnost, vyžádejte si jeho ověření specialisty na kryptografii.
- Nevyvozujte, že zjištění původu parametrů znamená prolomení používané kryptografie nebo vyžaduje okamžitou migraci.
- Před zadáním obdobného výzkumu samostatně vyhodnoťte komerčně dostupné modely Claude, protože tohoto výsledku dosáhl interní model.