Ellenőrzés
ChatGPT-vel írt gyermekvédelmi jelentés Ausztráliában
Az ausztráliai Victoria állam egyik gyermekvédelmi munkatársa ChatGPT-vel írt jelentést a gyermekbíróságnak. A szöveg alábecsülte a gyermeket fenyegető kockázatot; az adatvédelmi hatóság két évre letiltatta a generatív AI-eszközöket.
2023 decemberében Victoria állam családügyi minisztériuma (DFFH) adatvédelmi incidenst jelentett az állami információs biztos hivatalának (OVIC). Egy gyermekvédelmi munkatárs ChatGPT-t használt egy olyan jelentés megírásához, amelyet a gyermekbíróság elé terjesztettek egy kisgyermek védelméről szóló ügyben. A minisztérium egyik jogásza a következő tárgyalás napján figyelt fel a szokatlan nyelvezetre és a kockázatértékelés hiányosságaira. A jelentést visszavonták és újat nyújtottak be, az érintetteket értesítették.
Az OVIC 2024 szeptemberében közzétett vizsgálata szerint a munkatárs jelentős mennyiségű személyes és kényes adatot vitt be a ChatGPT-be, köztük neveket és a gyermekre vonatkozó kockázatértékelés részleteit. Ezzel az adatok egy külföldi céghez, az OpenAI-hoz kerültek, és kikerültek a minisztérium ellenőrzése alól. A gép által írt szöveg ráadásul pontatlan személyes adatokat tartalmazott, és alábecsülte a gyermeket fenyegető kockázatot. A hivatal szerint szerencsére a hibák végül sem a gyermekvédelem, sem a bíróság döntését nem változtatták meg.
A minisztérium belső vizsgálata a munkatárs tágabb csoportjának egyéves ügyei között 100 olyat talált, amelyben jelek utaltak arra, hogy a gyermekvédelmi iratokat ChatGPT-vel írhatták. 2023 júliusa és decembere között közel 900 dolgozó, a létszám majdnem 13 százaléka nyitotta meg a ChatGPT oldalát. Erre vonatkozó szabály, képzés vagy technikai korlát nem volt.
Az OVIC kötelezte a minisztériumot, hogy tiltsa meg a gyermekvédelmi dolgozóknak a webes generatív szövegíró eszközök hivatali használatát, és 2024. november 5-től 2026. november 5-ig hálózati szinten blokkolja őket, köztük a ChatGPT-t, a Claude-ot, a Geminit és a Copilotot. A minisztérium elfogadta a megállapításokat.
Mit tanulhatunk belőle?
Itt két dolog romlott el egyszerre: bizalmas adat került egy külföldi szolgáltatóhoz, és a gép által fogalmazott szöveg torzította a szakmai értékelést. Az AI gördülékeny, hihető mondatokat ír akkor is, ha a tartalmuk téves, ezért jó vázlatíró, de nem szerző. A Confiella a felhőbe csak átnézett, álnevesített szöveget küld; a válasz ellenőrzése ott is a szakemberé. Hivatalos iratba, szakvéleménybe érdemes csak olyan mondatot átvenni, amelyet magunk ellenőriztünk és vállalunk, a kockázatértékelést pedig mindig magunk fogalmazzuk meg.
Források
- OVIC: Investigation into the use of ChatGPT by a Child Protection worker
- OVIC: OVIC finds department responsible for breaches of privacy through use of ChatGPT
- Cyber Daily: Victorian child protection worker uses ChatGPT for protection report
A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]