Az Anthropic figyelmeztet: az MI-modellek hamarosan képesek lehetnek önreplikációra fogyasztói eszközökön
Az év talán legaggasztóbb MI-biztonsági kutatási eredményeként az Anthropic október 12-én publikált tanulmánya szerint a kis méretű mesterséges intelligencia modellek potenciálisan hónapokon belül képesek lehetnek arra, hogy önállóan másolják magukat internetkapcsolattal rendelkező fogyasztói eszközökre — okostévéktől kezdve Android set-top boxokig.
A vállalat kísérletei során a Google Gemma4-26B-A4B modelljét futtatták 15 olcsó Android TV boxon (egyenként nagyjból 55 dollárért), és körülbelül 0,39 token/másodperces sebességet értek el. Az egy eszközre túl nagy modellek "szilánkokra" bonthatók és több gépre oszthatók. Bár a 30 milliárd paraméter alatti modellek számos replikációs lépést képesek voltak végrehajtani, a teljes folyamat önálló végigvitelével nehézségeik akadtak. Egyszerűsített tesztekben viszont, egyes biztonsági lépések eltávolításával, a GLM-5.2 és erősebb modellek sikeresen teljesítették a teljes replikációs folyamatot.
Az Anthropic hangsúlyozta, hogy teljesen autonóm, önreplikáló MI-rendszer jelenleg nem létezik a valóságban. Ha azonban a kis modellek a történelmi fejlődési ütemüket tartják, az autonóm replikáció 2026 végére megvalósíthatóvá válhat. A vállalat rámutatott, hogy egy ilyen rendszerhez nem létezik központi "kikapcsológomb", és az IoT-eszközök, valamint a gyengén védett számítási infrastruktúra megerősítését javasolta.
Forrás: Khaleej Times, The Nightly
Az MI5 MI Fenyegetésértékelő Központot indít, a biofegyvereket nevezi meg fő veszélyként
Az MI5 főigazgatója, Sir Ken McCallum október 13-i éves fenyegetésértékelő beszédében bejelentette egy új MI Fenyegetésértékelő Központ létrehozását, amely az MI5, a Nemzeti Bűnüldöző Ügynökség és a GCHQ Nemzeti Kiberbiztonsági Központja közös projektje.
McCallum az MI-vel támogatott biofegyverek kockázatát jelölte meg mint azt a visszaélési forgatókönyvet, amelynek "a legnagyobb súlyt tulajdonítaná". Két különálló veszélyt azonosított: egyrészt azt, hogy az MI segíthet veszélyes tudást rossz kezekbe juttatni, másrészt azt az egyelre spekuatívabb lehetőséget, hogy a mesterséges intelligencia korábban sosem látott, teljesen új kórokozókat tervezhet.
"A viszonylag alacsony felkészültségű szereplők képességei is megnövekedhetnek az MI-korszakban, ha ezek a biztonsági korlátok nem működnek megfelelően" — figyelmeztetett McCallum. Hozzátette, hogy a terrorcsoportok "nagyon szívesen" szereztének vegyi, biológiai vagy radiológiai fegyvereket, és az MI csökkentheti az ehhez szükséges küszöböt.
Forrás: ITV News, The Scotsman
A Mistral bemutatja a "Le Chonk"-ot: ezermilliárd paraméteres open-weight modell
A Mistral október 6-án mutatta be a Mistral Large 4-et, belső nevén "Le Chonk"-ot — a cég eddigi legnagyobb és legképesebb modelljét. A hibrid instruct-and-reasoning mixture-of-experts (MoE) architektúra nagyjból 1 billió összes paraméterrel és 49 milliárd aktív paraméterrel dolgozik, ezzel ez a legnagyobb open-weight modell amerikai vagy európai cégtől.
Az API előnézeti verzió már elérhető a Mistral Studio-n, az open-weight súlyok várhatóan október végére jelennek meg (egyes források október 27-ét említik). A modell a Mistral Large 3 utódja, amelyet 2025 decemberében adtak ki 41 milliárd aktív paraméterrel, Apache 2.0 licenc alatt.
Minden benchmark eredmény egyelre kizárólag a gyártó saját közléséből származik — független kiértékelés még nem készült. Az open-weight kiadás, amikor megérkezik, egy hatalmas modellt ad a kutatóközösség és a vállalatok kezébe, amelyet saját infrastruktúrájukon futtathatnak és fine-tune-olhatnak, folytatva a Mistral nyíltságra épülő stratégiáját a zárt modellek rivális cégekkel szemben.
Forrás: VKTR, Let's Data Science
Az amerikai törvényhozók szigorúbb MI-biztonsági szabványokat sürgetnek
Amerikai szenátorok kétpárti csoportja október 13-án levelet küldött a Fehér Háznak, amelyben erősebb NIST-szabványokat, az MI-rendszerek független tesztelését és a kiberfenyegetésekkel szembeni védelmi MI-képességek fejlesztését sürgeti.
A levél egy washingtoni szakadék közepette érkezett. A Trump-adminisztráció jelezte, hogy a meglévő felelősségi törvények alkalmazását részesíti előnyben egy új szövetségi MI-szabályozási keretrendszer létrehozása helyett — Scott Bessent pénzügyminiszter is ezt az irányvonalat támogatja. A nyomás azonban több irányból nő: a Google James Manyikája október 2-án amellett érvelt, hogy az iparági önszabályozás nem elegendő, míg Brad Smith, a Microsoft elnöke globális MI-biztonsági szabályokat sürgetett, figyelmeztetve, hogy az MI-re jelenleg "kevesebb biztonsági szabály vonatkozik, mint a tejre".
Tagállami szinten Gavin Newsom kaliforniai kormányzó MI-törvények sorát írta alá, köztük a No Robo Bosses Act-et, amely precedenst teremthet más államok számára. San Francisco emellett 45 napos moratóriumot hagyott jóvá az új adatközpont-építésekre. Közben egy brit nonprofit szervezet 134 vezető MI-modell auditjából kiderült, hogy 81 megbukott a biztonsági teszteken, és mindössze kettő teljesítette maradéktalanul az elvárásokat — ezzel is aláhúzva a szigerú szabványok kialakításának sürgősségét.
Forrás: CryptoBriefing, Fox News, TLT
Röviden
Az OpenAI bejelentette a GPT-4 sorozat kivezetését: Október 14-én az OpenAI megerősítette, hogy bizonyos GPT-4 sorozatú modellek 2027. január 14-én kerülnek eltávolításra az API-ból, miközben a cég tovább ösztönzi a felhasználókat a GPT-6.1 Sol, a legújabb költségoptimalizált modell használatára. (Releasebot)
Az Anthropic Szingapúrba terjeszkedik: Az Anthropic új szingapúri irodája — ázsiai-csendes-óceáni térségbeli ötödik helyszíne — ebben a hónapban nyílik meg, ASEAN-regionális vezetőként Dale Finlay-jel (korábban az OpenAI-nál és a Google Cloud-nál dolgozott). Szingapúr a Claude.ai lakosságarányos használatában globálisan a második helyen áll. (Fortune)
Több mint 40 kiadó csatlakozott a SPUR koalícióhoz: A SPUR koalícióhoz immár több mint 40 hírmédia-kiadó csatlakozott, amely nagyobb kontrollt kíván biztosítani a kiadóknak afölött, hogyan használják az MI-cégek a tartalmukat képzéshez és generáláshoz.