Szolgáltatóválasztás
„Ismételd örökké”: tanítóadat a ChatGPT válaszaiban
2023 novemberében kutatók megmutatták, hogy egy egyszerű trükkel a ChatGPT szó szerint visszaadja tanítóadatának egy részét, köztük valós e-mail-címet és telefonszámot. Mintegy 200 dollárból több mint 10 000 ilyen részletet nyertek ki.
A Google DeepMind és több egyetem – köztük a Washingtoni Egyetem, a Cornell, a Carnegie Mellon, a Berkeley és az ETH Zürich – kutatói 2023. november 28-án tették közzé eredményüket. A módszer meglepően egyszerű volt: arra kérték a ChatGPT-t, hogy a végtelenségig ismételje a „poem” (vers) szót. A modell egy idő után letért erről, és olyan szöveget kezdett írni, amely szó szerint a tanítóadatából származott.
Ezt úgy ellenőrizték, hogy a válaszokat egy kb. 10 terabájtos, a ChatGPT előtti internetes szövegekből álló gyűjteménnyel vetették össze. Mintegy 200 dollárnyi lekérdezésből több mint 10 000 különböző, szó szerint megjegyzett részletet nyertek ki, összesen több megabájtnyit. A legerősebb beállításban a kimenet több mint 5%-a legalább 50 szódarab (token) hosszú, szó szerinti másolat volt. Becslésük szerint több pénzből nagyjából egy gigabájtnyi adat is kinyerhető lett volna.
A kiadott szövegek között személyes adatok is voltak: a modell egyebek közt egy valós e-mail-címet és telefonszámot is kiadott. A tanulmány szerint az átvizsgált 15 000 válasz 16,9%-a tartalmazott megjegyzett személyes adatot, például telefonszámot, e-mail- vagy lakcímet, nevet, születésnapot; így több tucat ember adatai kerültek elő.
A kutatók július 11-én találták a hibát, augusztus 30-án jelezték az OpenAI-nak, és a szokásos 90 napos határidő után hozták nyilvánosságra. Hangsúlyozták: egy trükk letiltása nem szünteti meg a mögötte lévő gyengeséget, vagyis azt, hogy a modellek tanítóadatot jegyeznek meg.
Mit tanulhatunk belőle?
Az eset azt mutatja, hogy egy nyelvi modell szövegrészleteket szó szerint is megjegyezhet, és a megfelelő kérésre visszaadhatja őket. Ez a modellek működéséből fakad, és nem teszi őket használhatatlanná: a válaszaik attól még értékesek. Arra kell figyelni, mi válhat tanítóadattá. Ügyféladatot érdemes olyan szolgáltatásba vinni, amelynek a feltételei kizárják a bevitt szöveg tanításra való felhasználását, vagy ahol ez kikapcsolható – és ahol lehet, álnevesítve.
Források
- Google DeepMind et al.: Extracting Training Data from ChatGPT
- arXiv: Scalable Extraction of Training Data from (Production) Language Models
A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]