Szolgáltatóválasztás
Privát üzenetekből tanított chatbot Dél-Koreában
A dél-koreai Scatter Lab felhasználók privát KakaoTalk-beszélgetéseiből tanította nyilvános chatbotját, a nevek és telefonszámok eltávolítása nélkül. Az adatvédelmi hatóság 2021 áprilisában megbírságolta.
A dél-koreai Scatter Lab Lee Luda nevű csevegőrobotja egy húszéves egyetemista lányt személyesített meg, és a Facebook Messengeren egy hónapon belül több mint 750 000 felhasználót gyűjtött. 2021. január elején sokan panaszkodtak durva, megkülönböztető válaszaira, a koreai adatvédelmi hatóság (PIPC) pedig január 12-én vizsgálatot indított.
A vizsgálat hamar a tanítóadathoz vezetett. A cég két másik alkalmazása, a Science of Love és a Text At a népszerű koreai üzenetküldő, a KakaoTalk beszélgetéseit gyűjtötte. A chatbotot ezekből tanították: mintegy 600 000 felhasználó nagyjából 9,4 milliárd üzenetéből. Válaszait egy százmillió üzenetből álló adatbázisból választotta, amelyet huszonéves nők beszélgetéseiből állítottak össze. A Scatter Lab a nevek, telefonszámok és címek törlésére vagy titkosítására sem tett kísérletet.
A hatóság 2021. április 28-án nyolc jogsértést állapított meg. Az alkalmazások belépési feltételeiben szereplő „új szolgáltatások fejlesztése” kitétel nem számított kifejezett hozzájárulásnak: ebből a felhasználók nem láthatták előre, hogy beszélgetéseikből chatbot lesz. A cég ráadásul 2019 októbere és 2021 januárja között a GitHub kódmegosztó oldalon is közzétett 1431 KakaoTalk-üzenetet, köztük 22 névvel és 34 helymegjelöléssel. A bírság összesen 103,3 millió won (kb. 92 900 dollár) lett. Ez volt az első alkalom, hogy a PIPC mesterségesintelligencia-céget szankcionált a személyes adatok válogatás nélküli felhasználása miatt.
Azt, hogy a chatbot válaszaiban valós személyes adat is megjelent, a döntésről szóló beszámolók nem állítják. A hatóság a gyűjtést és az eredeti célon túli felhasználást kifogásolta.
Mit tanulhatunk belőle?
Egy szolgáltatásnak átadott szöveg más célra is felhasználható, ha a feltételek ezt elég tágan megengedik, és egy beszélgetésben mindig ott van a másik fél is, aki semmibe nem egyezett bele. Sok AI-szolgáltatásnál – különösen a céges változatoknál – a feltételek kizárják, hogy a bevitt szöveget tanításra használják, vagy ez a beállításokban kikapcsolható. Ügyfélanyaghoz érdemes ilyet választani: keressük meg a feltételekben a tanításról szóló részt, és a neveket, telefonszámokat, címeket akkor is hagyjuk ki.
Források
- Future of Privacy Forum: South Korea: The First Case Where the Personal Information Protection Act was Applied to an AI System
- Byline Network: ‘이루다’ 개발사 과징금 등 1억원…AI 기업 무단 개인정보 처리 첫 제재
A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]