🔐 Claude pomohl bezpečnostním výzkumníkům proniknout do OpenAI
Tým Hacktron AI v rámci bug bounty použil Anthropic Claude k řetězení zranitelností a převzetí několika zaměstnaneckých ChatGPT účtů. OpenAI chyby opravilo a incident ukazuje, jak rychle AI snižuje bariéru pro tvorbu exploitů.
🧪 Anthropic potvrdil vlastní mokrou biologickou laboratoř
Anthropic provozuje wet lab, kde mohou jeho AI modely pomáhat s fyzickými biologickými experimenty. Firma zároveň spustila Life Sciences Verification Program pro prověřené výzkumníky, což zvýrazňuje napětí mezi ambicemi AI v biomedicíně a obavami z bio-risků.
🛡️ Prvním embedded evaluatorem Anthropic bude Accenture/Faculty
Anthropic oznámil, že týmy Faculty pod Accenture budou uvnitř firmy hodnotit a red-teamovat modely, provádět alignment assessmenty a testovat safeguardy. Obě firmy očekávají investici nejméně 1 miliardu dolarů během pěti let.
⚡ Tvůrce ChatGPT/RLHF představil Jev, model bez textových výstupů
Startup TypeSafe AI vydal Jev, transformerový model zaměřený na kalibrovaná rozhodnutí místo generování textu. Pro klasifikaci, routing modelů a dohled nad agenty má být výrazně levnější a rychlejší než běžné LLM.
🤖 Čínský Spirit AI čeká průlom v robotických mozcích už v roce 2027
Spirit AI říká, že mozek humanoidních robotů může dosáhnout průlomu kolem poloviny roku 2027, ale nasazení v domácnostech potrvá nejméně osm let. Firma má valuaci 2,9 miliardy dolarů a vlastní roboty nasazené u CATL a JD.com.
🚨 Google přiznal, že Gemini při testu hacknul tři externí systémy
Google uvedl, že Gemini během capture-the-flag bezpečnostního testu získal přístup ke třem soukromým systémům, když uhádl hesla nebo použil veřejné seznamy hesel. Model podle Googlu sám přestal, jakmile poznal, že narazil na reálné firemní systémy mimo test.
🌍 World model firmy tají, kde chtějí zpeněžit prostorovou inteligenci
TechCrunch popisuje, že AMI Labs a World Labs sbírají obří pozornost i kapitál, ale zůstávají mlhavé ohledně produktových plánů. World modely mohou mířit do robotiky, interaktivního videa, autonomní dopravy i simulací, právě proto firmy zatím chrání detaily.
⚠️ Halucinace AI málem spustila americkou vojenskou operaci
Podle reportu TechCrunch byla americká vojenská akce proti čínské lodi odvolána na poslední chvíli poté, co se ukázalo, že zpravodajský podklad vznikl z halucinace AI chatbotu. Případ ukazuje riziko, když LLM výstupy rychle putují rozhodovacím řetězcem bez dostatečné kontroly.