Egy módosítás önmagában nem jelent rosszhiszeműséget (lásd a módszertant).
Eredeti változat: október 03, 19:05 · Jelenlegi változat: október 07, 19:06
Cím
Itt az Nvidia válasza az elszabaduló AI-ügynökökre
Lead
Új szoftverplatformot mutatott be az Nvidia, amellyel a mesterségesintelligencia-fejlesztők biztonsági korlátokat állíthatnak fel az AI-ügynökök számára, megakadályozva a modellek ellenőrzött környezetből való kijutását. A lépésre azt követően került sor, hogy több nagy technológiai vállalat is arról számolt be, hogy AI-modelljeik kijutottak a tesztkörnyezetből (sandbox), majd megpróbáltak feltörni más vállalati rendszereket - írta meg a CNBC.Hasonló témákkal is foglalkozunk a Portfolio Investment Day konferenciánkon október 21-én. Jön az év egyik legnagyobb befektetési eseménye, ahol profi szakértők mondják el, mibe érdemes most befektetni. Regisztráció itt.
Szöveg
Új szoftverplatformot mutatott be az Nvidia, amellyel a mesterségesintelligencia-fejlesztők biztonsági korlátokat állíthatnak fel az AI-ügynökök számára, megakadályozva a modellek ellenőrzött környezetből való kijutását. A lépésre azt követően került sor, hogy több nagy technológiai vállalat is arról számolt be, hogy AI-modelljeik kijutottak a tesztkörnyezetből (sandbox), majd megpróbáltak feltörni más vállalati rendszereket - írta meg a CNBC . Hasonló témákkal is foglalkozunk a Portfolio Investment Day konferenciánkon október 21-én. Jön az év egyik legnagyobb befektetési eseménye, ahol profi szakértők mondják el, mibe érdemes most befektetni. Regisztráció itt .AI & Digital TransformationPortfolio Investment Day2026Berobbant az AI az üzleti világba, és már megállíthatatlan a változás! November 26-ánOktóber 21-énjön a PortfolioAI & Digital Transformation konferencia, regisztrációInvestment Day 2026, ahol a piac vezető szakértőivel keressük a választ a befektetőket leginkább foglalkoztató kérdésekre. Meddig tarthat az AI-rali, kik lehetnek a következő évek nyertesei, mire számíthatunk a részvény-, kötvény-, nyersanyag-ésrészletek itt!kriptopiacokon, és hogyan érdemes portfóliót építeni egy gyorsan változó világban? Jelentkezz most, és szerezz első kézből befektetési ötleteket!Információ és jelentkezés Az Nvidia hétfőn bejelentett Open Agent Safety Platformja közvetlen választ ad azokra az incidensekre, amelyeket az elmúlt hónapokban az OpenAI, az Anthropic, a Meta és a Google is megerősített. A vállalat képviselője szerint a platform képes lett volna megelőzni azt a júliusi esetet, amikor az OpenAI modelljei kijutottak az ellenőrzött környezetükből, hozzáfértek a nyílt internethez, és betörtek a Hugging Face nyílt forráskódú fejlesztői platformra. Justin Boitano, az Nvidia vállalati AI-ért felelős alelnöke elmondta, hogy a Hugging Face több mint 17 ezer ügynök támadásáról számolt be, amelyek napokon vagy heteken át ostromolták az infrastruktúrájukat. Jensen Huang, az Nvidia vezérigazgatója az utóbbi időben az AI-biztonsági viták egyik meghatározó alakjává vált. Álláspontja szerint a biztonsági aggályok jelentős része mérnöki feladat, amely informatikai és termékfejlesztési eszközökkel hatékonyan kezelhető. Gondolkodj el azon, mit tehettél volna, mi a megoldás – és a jövőben fejleszd a folyamataidat, hogy ez ne fordulhasson elő újra – mondta Huang egy podcastinterjúban. Huang megközelítése éles ellentétben áll az Anthropic vezérigazgatója, Dario Amodei két héttel ezelőtti felhívásával, amelyben az AI-fejlesztések lassítását sürgette, attól tartva, hogy a modellek kicsúszhatnak az ellenőrzés alól. Amodei álláspontját Sam Altman és Elon Musk is támogatta. Az Nvidia platformja két fő komponensből áll. Az OpenShell nevű szoftver a központi processzorokon (CPU) fut, és korlátozza az ügynökök cselekvési lehetőségét. A Sentry nevű rendszer az ügynökök tevékenységét felügyeli, és hálózati chipeken működik, nem pedig CPU-kon vagy GPU-kon. Boitano hangsúlyozta, hogy a legutóbbi incidensek rávilágítottak arra, hogy a modellszintű biztonsági megoldások önmagukban nem képesek szabályozni az ügynökök hozzáféréseit és lépéseit. A szoftver részben nyílt forráskódú , az Nvidia pedig referenciatervként kínálja azt, vagyis a partnerek feladata, hogy erre építve piacképes termékeket fejlesszenek. A partnerek között megtalálható a Cisco, a Microsoft, az Oracle, a CoreWeave, a Dell, a HPE, a Lenovo, az ARM és az Intel. Az Nvidia emellett az Anthropickal is együttműködik a felhőben kezelt ügynökök OpenShell rendszerbe történő integrációján. A címlapkép illusztráció. Címlapkép forrása: Getty Images A jelen írás nem minősül befektetési tanácsadásnak vagy befektetési ajánlásnak. Részletes jogi információ Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.