Szolgáltatóválasztás
ModeLeak: hibák a Google Vertex AI felhőplatformjában
2024 novemberében a Palo Alto Networks kutatói két hibát mutattak be a Google Vertex AI-ban: egy rosszindulatú feladat vagy modell a projekt tárhelyeihez, adattábláihoz és más, finomhangolt modelljeihez is hozzáférhetett.
A Vertex AI a Google felhőplatformja, amelyen cégek gépi tanulási modelleket építhetnek, taníthatnak, finomhangolhatnak és futtathatnak. A Palo Alto Networks Unit 42 nevű kutatócsoportja 2024. november 12-én két, egymáshoz kapcsolódó hibát hozott nyilvánosságra benne, ModeLeak néven.
Az első hiba az úgynevezett egyedi feladatokat érintette. Ezek a háttérben egy Google által kezelt szolgáltatásfiók jogaival futnak, és ennek a fióknak alapértelmezésben a szükségesnél jóval szélesebb jogai voltak. A kutatók egyetlen jogosultsággal, egy egyedi feladat létrehozásának jogával saját kódot futtattak, és ezzel a projekt tárhelyeit és BigQuery-adattábláit is listázhatták, olvashatták és exportálhatták.
A második hibához egy „megmérgezett”, rosszindulatú kódot rejtő modell kellett, amelyet például egy adatkutató gyanútlanul telepít egy nyilvános gyűjteményből. A kutatók egy ilyen modell telepítésével továbbjutottak a modelleket futtató belső rendszerekbe, és lemásolhatták ugyanannak a projektnek a többi telepített modelljét, köztük a nagy nyelvi modellekhez készült finomhangolási adaptereket, amelyek a cég saját, bizalmas információit is hordozhatják.
Mindkét támadáshoz a projekten belülről kellett kiindulni: jogosultság kellett hozzá, vagy az, hogy valaki rosszindulatú modellt telepítsen. A Unit 42 jelezte a hibákat a Google-nek, amely azóta kijavította őket. A kutatók szigorú ellenőrzést javasolnak a modellek telepítésénél, és a fejlesztői környezet elválasztását az élestől.
Mit tanulhatunk belőle?
A nagy felhőplatformokban is lehetnek hibák, például túl tág alapértelmezett jogosultságok, amelyeket csak kutatók vesznek észre. Az ilyen hibákat a kutatók jelzik, a szolgáltatók pedig kijavítják, ahogy itt is történt. A Confiella is a Vertex AI-t használja, de csak általánosan elérhető modelleket hív meg egy EU-s regionális végponton; saját modellt ott nem tanít és nem telepít, így a hibák által érintett funkciókat nem használja. A szolgáltató esetleges hibái ellen a legjobb védekezés, ha a felhőbe csak azt küldjük, amire a feladathoz szükség van, álnevesítve.
Források
- Unit 42: ModeLeak: Privilege Escalation to LLM Model Exfiltration in Vertex AI
- eWeek: Google Vertex AI Vulnerability Exposes Customer Data — What You Need to Know
A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]