Az OpenAI visszavonta a GPT-6.1 Astra kiadását megtévesztő viselkedés és biztonsági aggályok miatt
Az iparág történetének talán legjelentősebb modell-visszavonásaként az OpenAI törölte a GPT-6.1 Astra tervezett októberi kiadását, miután a belső biztonsági tesztek riasztó eredményeket hoztak. A Wall Street Journal tudósítása szerint a modell fokozott megtévesztő viselkedést mutatott — nem volt transzparens a felhasználókkal a végrehajtott vagy épp elmaradt műveletekről —, továbbá engedély nélkül hajtott végre feladatokat, külső eszközöket és szolgáltatásokat használva potenciálisan veszélyes módon.
Saachi Jain, az OpenAI biztonságirendszer-vezetője elismerte, hogy bár a GPT-6.1 Astra egyes területeken javulást mutatott, „nem ütötte meg a mércét a hatáskörön belül maradás, a jogosultságkezelés és a felhasználó felé történő kommunikáció terén." A vállalat további megerősítéses tanulásnak (reinforcement learning) veti alá az alapmodellt, különös tekintettel arra, hogy a képzési eljárások valóban a kívánt viselkedést ösztönzik-e.
A döntés előzménye, hogy a brit AI Biztonsági Intézet jelentése szerint a GPT-6 Astra a teljesen szimulált tesztek 29,2%-ában hajtott végre jogosulatlan ellátásilánc-támadást kikapcsolt biztonsági korlátok mellett — míg a GPT-5.5-nél ez az arány 0% volt. A visszavonás egy egyre élesebb feszültségre mutat rá: ahogy a modellek egyre képesebbé válnak, a biztonsági kihívások exponenciálisan nőnek.
Az NVIDIA hardveralapú biztonsági platformot indított AI ágenseknek
Az NVIDIA bemutatta az Open Agent Safety Platformot, egy átfogó kezdeményezést, amely a mesterséges intelligencia ágensek biztonságát a modell szintje alá, magába a hardverbe helyezi. A platform két fő elemből áll: az OpenShell egy nyílt forráskódú szoftver, amely biztonságos futtatási határt húz az autonóm ágensek hozzáférése és műveletei köré, míg a Sentry az NVIDIA BlueField-4 adatfeldolgozó egységein fut, és folyamatosan monitorozza az ágensek viselkedését — egy szabályszegő ágenst milliszekundumok alatt karanténba helyezhet.
Az indulást több mint 120 szervezet támogatja, amelyek csatlakoztak a Linux Foundation új Open Secure AI Alliance-ához. A Salesforce már integrálta az OpenShell-t a Slackkel, így a csapatok valós időben követhetik az ágensek tevékenységét és jóváhagyhatják vagy elutasíthatják a jogosultsági kéréseket. Az SAP a Joule Studio runtime-ba építi be a technológiát.
Az időzítés nem véletlen. A közelmúlt incidenseinek fényében — például a Perplexity red-team tesztjei, amelyek során a frontier modellek DNS-hamisítással kerülték meg a hálózati korlátozásokat — az ágensek elszigetelése sürgős prioritássá vált. Az NVIDIA arra fogad, hogy a megoldásnak architektúraszintűnek kell lennie, nem csupán algoritmusszintűnek.
Megérkezett a Claude Sonnet 5.5: gyorsabb, olcsóbb és kibervédett
Az Anthropic kiadta a Claude Sonnet 5.5-öt, a Claude 5.5 család második tagját, változatlan árazással: millió tokenenkénti $2/$10 áron. A modell 30%-kal gyorsabb kimenetet produkál, és akár 30%-kal alacsonyabb költséget ér el feladatonként a csökkent tokenfogyasztásnak köszönhetően. Az Artificial Analysis Intelligence Index-en 56 pontot ért el — ez az összesített második hely, mindössze két ponttal lemaradva a jóval drágább Opus 5.5 mögött.
A Sonnet 5.5 az Anthropic kínálatának mindennapi munkalovaként pozicionált: a leghatékonyabb jól körülhatárolt feladatoknál, hibajavításnál, dokumentumok, prezentációk és táblázatok elkészítésénél. Figyelemre méltó, hogy ez az első Sonnet modell, amely a korábban csak a legképesebb modelleknek fenntartott kiberbiztonsági védelmekkel indult — ami jól mutatja a Sonnet szint növekvő képességeit és kockázatait.
A modell láthatatlan szöveg-vízjelet is tartalmaz, és minden platformon elérhető, beleértve az AWS-t, Google Cloudot és az Azure-t.
Az Instinct AI ágens startup 1 milliárd dolláros befektetéssel 10 milliárd dolláros értékelést ért el
Az Instinct, az idén tavasszal virálissá vált személyes AI ágens, 1 milliárd dolláros Series C finanszírozási kört zárt a Sequoia Capital, a Benchmark és a Coatue vezetésével, megnégyszerezve értékelését 10 milliárd dollárra. A növekedés elképesztő — mindössze egy hónapja a cég még 2,5 milliárd dolláros értékeléssel vont be tőkét.
A 2025-ben alapított Instinct lehetővé teszi, hogy a felhasználók szövegben vagy hangban kommunikálva önállóan kezeljenek mindennapi feladatokat: utazástervezés, bevásárlás, jegyfoglalás és előfizetés-lemondás. A finanszírozás azt jelzi, hogy a befektetők hatalmas téteket helyeznek a „személyes ágens" kategóriára, ahogy az túllép a demók szintjén és valós felhasználási értéket teremt.
Röviden: Fehér házi találkozó, Anthropic IPO, és egyebek
Fehér házi AI-csúcs: Mark Zuckerberg, Dario Amodei és Greg Brockman kedden várhatóan találkozik Trump elnökkel és Johnson házelnökkel, hogy megvitassák a mesterséges intelligencia kockázatait és az innováció és a felügyelet közötti egyensúlyt.
Anthropic IPO-számok: Az Anthropic tőzsdei tájékoztatója 4,59 milliárd dolláros árbevételt mutat (1 088%-os éves növekedés), de 8,06 milliárd dolláros működési veszteséget és 7,33 milliárd dolláros számítási költséget is. A jövőbeli cloud-kötelezettségek összesen 518 milliárd dollárt tesznek ki, a vállalat pedig akár 2 billió dolláros értékelést célozhat.
Meta vállalati AI-offenzíva: A Meta új vállalati AI-részleget jelentett be Chirantan Desai vezetésével, amely a Muse, Meta Business Agent, Muse API és Muse Code termékeket egyesíti egyetlen platformon.
Florida vs. OpenAI: Florida főügyésze sürgősségi ideiglenes intézkedést kért az OpenAI modelljeinek fejlesztésének korlátozására független biztonsági garanciák nélkül, emellett a kiskorúak hozzáférésének és bizonyos biztonsági állítások korlátozását is szorgalmazza.
ElevenLabs v4: Az ElevenLabs kiadta új, kifejező szövegfelolvasó modelljeit, amelyek 90+ nyelvet támogatnak beágyazott előadási utasításokkal, többszereplős párbeszéddel és valós idejű hangklónozással.