Szolgáltatóválasztás
Amazon: a ChatGPT válaszai belső anyagokra hasonlítottak
2023 januárjában az Amazon egyik jogásza arra kérte a munkatársakat, hogy ne adjanak bizalmas adatot a ChatGPT-nek: már látott belső anyagokra nagyon hasonlító válaszokat. Hogy ez honnan eredt, nem derült ki.
A ChatGPT 2022. novemberi megjelenése után az Amazon sok munkatársa gyorsan beépítette a munkájába. Programkódot javíttattak vele, az AWS felhőszolgáltatás ügyfeleinek kérdéseire kerestek vele választ, egy munkatárs pedig a cég állásinterjúin használt programozási feladatokat is kipróbálta rajta. Többre helyes megoldást adott.
2023 januárjában a Business Insider belső Slack-üzenetekről számolt be. Ezekben a cég egyik vezető jogásza arra figyelmeztetett, hogy a ChatGPT-nek ne adjanak semmilyen bizalmas amazonos információt, a készülő programkódot sem. Indoklása szerint a beírt szöveg a ChatGPT egy későbbi változatának tanítóadata lehet, és a cég nem szeretné, ha a válaszok a bizalmas anyagait tartalmaznák vagy azokra hasonlítanának. Hozzátette: már látott olyan eseteket, amikor a válasz nagyon hasonlított meglévő belső anyagokra.
Hogy ez a hasonlóság honnan ered – munkatársak korábbi beírásaiból vagy máshonnan –, nem derült ki, és a figyelmeztetés sem állította. Az Amazon nem tiltotta be a szolgáltatást: a céges gépeken megjelent egy figyelmeztetés, hogy a használatát a cég biztonsági részlege nem feltétlenül hagyta jóvá, de egy kattintással tovább lehetett lépni. Az Amazon nem válaszolt a lap kérdéseire, az OpenAI a gyakori kérdéseire hivatkozott.
Az OpenAI feltételei szerint a bevitt szöveget és a válaszokat felhasználhatta; a cég azt közölte, hogy a személyazonosításra alkalmas adatokat eltávolítja. Egy nyelvész egyetemi oktató a lapnak azt mondta: ezt nehéz ellenőrizni, és egy cég szellemi tulajdona valószínűleg nem is esik ebbe a körbe.
Mit tanulhatunk belőle?
Ha egy szolgáltatás a bevitt szöveget tanításra használhatja, annak darabjai elvben egy későbbi modell válaszaiban is felbukkanhatnak, és ezt utólag szinte lehetetlen bizonyítani vagy kizárni. A kérdés ezért nem az, hogy megtörtént-e már, hanem az, hogy a feltételek megengedik-e – ezt pedig előre el lehet dönteni. A Confiella csak átnézett, álnevesített szöveget küld egy EU-s regionális végpontra. Más eszköznél érdemes a feltételekben megkeresni a tanításról szóló részt, és olyat választani, ahol ez kizárt vagy kikapcsolható.
Források
- Business Insider: Amazon warns employees not to share confidential information with ChatGPT after seeing cases where its answer 'closely matches existing material' from inside the company
- Voicebot.ai: Amazon Employees Using ChatGPT for Coding and Customer Service Warned Not to Share Company Information With AI Chatbot
A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]