Eskü alatti meghallgatás a New York-i városházán: az AI-ipar vezetői a vádlottak padján
A városi szintű AI-szabályozás eddigi legjelentősebb lépéseként a New York-i városi tanács teljes ülése október 5-én eskü alatti meghallgatáson kérte számon az Anthropic, az OpenAI, a Google és a Meta vezető munkatársait a mesterséges intelligencia kockázatairól.
Mind az 51 tanácstag részt vett az ülésen, ahol az Anthropic részéről a Frontier Red Team vezetője, Logan Graham, az OpenAI-tól a szakpolitikai fejlesztési igazgató Morgan Dwyer, a Google-tól az AI- és feltörekvő technológiák szakpolitikai igazgatója, Alice Friend, valamint a Meta AI-szabályozási igazgatója, Shane Cahill tett vallomást. A legnagyobb visszhangot azonban a bejelentők vallomása keltette.
Az Anthropic egykori munkatársa, Jacob Coxon drámai figyelmeztetést intézett a tanácshoz: „A jelenlegi úton haladva úgy gondolom, hogy valószínűbb, mint nem, hogy az emberiség elveszíti az irányítást ezek felett az AI-rendszerek felett, és ez az emberi kihaláshoz vezethet.” Az ipar fejlesztési megközelítését „rendkívül felelőtlennek” nevezte.
A Google DeepMind egykori kutatója, Alex Turner más, de ugyancsak riasztó szemszögből figyelmeztetett: a rosszul igazított AI veszélyesebb lehet, mint bármely geopolitikai ellenfél. „Elég nagy valószínűséggel a saját ellenségünket építjük és növeljük itthon” — fogalmazott.
A meghallgatáson szóba került Julie Menin házelnök törvényjavaslata is, amely megtiltaná AI-modellek értékesítését vagy üzembe helyezését New Yorkban, hacsak egy független auditor nem vizsgálta felül, és egy ember nem képes leállítani azt. További javaslatok lehetővé tennék, hogy az emberek bepereljék az AI-cégeket, ha valaki az általuk fejlesztett modellel kárt okoz, valamint kötelezővé tennék, hogy a chatbotok közöljék: a felhasználó géppel beszélget.
Három biztonsági kutatót rúgott ki az OpenAI állítólagos információszivárogtatás miatt
Az OpenAI megvált három biztonsági kutatójától — Jasmine Wang, Tomek Korbak és Mikita Balesni — miután egy belső vizsgálat feltárta, hogy érzékeny vállalati információkat osztottak meg egy külső AI-biztonsági szervezettel — derült ki a Wall Street Journal értesüléseiből.
A vállalat szerint a kutatókat azért bocsátották el, mert „érzékeny információkat kezeltek szabálytalanul a belső eljárási rendeken kívül”, ugyanakkor az OpenAI nem hozta nyilvánosságra, milyen információról volt szó, és melyik szervezet kapta meg azt. A három elbocsátott közül legalább ketten AI-biztonsági kutatásokkal foglalkoztak.
Az elbocsátások különösen kényes időszakban történtek: az OpenAI nemrég visszavonta következő generációs modelljét igazítási problémák miatt, több mint 100 szervezetet figyelmeztett az ügynökeivel kapcsolatos jogosulatlan tevékenységről, továbbá a kaliforniai főügyész, Rob Bonta nyomozati idézést küldött a cégnek kiberbiztonsági incidensek miatt.
Ahogy a Fortune megfogalmazta, az elbocsátások „kínos kérdéseket vetnek fel” azzal kapcsolatban, hogyan egyensúlyoz a cég a versenyképességi titkok és a biztonsági közösség nyílt információmegosztási hagyományai között.
Forrás: TechCrunch, Fortune
Trump létrehozta a Super Intelligence Force-t, Jay Clayton lett az AI-cár
Donald Trump elnök bejelentette a Super Intelligence Force (SIF) nevű új szövetségi munkacsoport megalakítását, amelyet a nemzeti hírszerzés igazgatója, Jay Clayton vezet — gyakorlatilag ő lett a kormányzat AI-cárja.
Clayton, aki korábban 2017 és 2020 között az SEC elnöke volt, és augusztusban iktatták be a DNI posztjára, most a szövetségi kormányzat AI-politikájának összehangolásáért felel. A munkacsoport 120 napot kapott, hogy jelentést készítsen a mesterséges intelligencia kockázatairól és lehetőségeiről, valamint javaslatokat tegyen a kormányzat felügyeleti szerepéről.
A SIF további tagjai között van Andrew Ferguson FTC-elnök, Emil Michael kutatási és mérnöki államtitkár, valamint Scott Kupor, az OPM igazgatója — mindannyian közvetlenül az elnöknek jelentenek.
A bejelentés jelzi, hogy a kormányzat a hírszerzési közösség keretein belül kívánja központosítani az AI-szabályozást — ezt egyesek üdvözlik mint koordinált szövetségi megközelítést, míg a polgári szabadságjogok védelmezői a megfigyelési vonatkozások miatt aggódnak.
Forrás: Gizmodo, Dataconomy
A Google kiadta a Gemini 4 Argon modellt a kibervédők számára
A Google bejelentette, hogy legújabb frontier modelljét, a Gemini 4 Argon-t elsőként a megbízható kiberbiztonsági védők kapják meg a Fairwind Program keretében. A modell képes önállóan megtalálni, validálni és javítani kritikus szoftveres sebezhetőségeket, a CWE-bench v1 benchmarkon 68%-ot elérve.
Ami igazán szokatlanná teszi ezt a kiadást, az a hozzáférési modell: a megbízható védők — köztük kormányzati szervek, egészségügyi szolgáltatók és telekommunikációs cégek — az Argon modellt kiberbiztonsági korlátok nélkül kapják meg, így hozzáférnek a modell teljes támadó és védelmi biztonsági képességeihez. A szélesebb nyilvánosság számára a kiadás szakaszosan történik.
Az Argon emellett iparágvezető, 1 millió tokenes kimeneti limitet kínál, valamint kiemelkedő teljesítményt nyújt szoftverfejlesztésben, tudásmunkában és kiberbiztonsági feladatokban. A Google hangsúlyozta, hogy a védőket előnyben részesítő megközelítés célja, hogy a „jófiúk” előnyhöz jussanak, mielőtt a modell széles körben elérhetővé válik.
Forrás: Google Blog, The Hacker News
Az Anthropic elindítja a 100 millió dolláros Claude Frontier Academy-t
Az Anthropic 100 millió dolláros befektetést jelentett be a Claude Frontier Academy elindításába, amelynek célja 10 000 „Frontier Deployed Engineer” képzése 2027 végéig. A program azt a hiányt kívánja pótolni, hogy kevés olyan szakember van, aki képes AI-rendszereket éles környezetben üzembe helyezni nagyvállalati keretek között.
Az akadémia felépítése az orvosi rezidensképzés mintáját követi: a jelöltek egy szimulált vállalati deploy-feladattal és osztályozott vizsgával kezdenek, majd egy rezidenciaprogramba lépnek, ahol valós projekteken dolgoznak, mielőtt értékelik és tanúsítják tudásukat. Az első résztvevők között az Accenture, a Morgan Stanley, a Novo Nordisk és több nagy tanácsadó cég mérnökei szerepelnek.
A képzések San Franciscóban, New Yorkban és Londonban zajlanak, az első tanúsított mérnökök 2027 elején végezhetnek. A lépés az Anthropic-ot nemcsak modellszolgáltatóként, hanem az enterprise AI-t üzembe helyező munkaerő formálásának kulcsszereplőjeként is pozicionálja.