Tájékoztatás
Terapeuták titokban ChatGPT-vel dolgoztak a kliensekkel
Az MIT Technology Review 2025 szeptemberében olyan klienseket szólaltatott meg, akik véletlenül jöttek rá, hogy terapeutájuk a ChatGPT-t használja. Az egyik esetben a kliens mondatai a tudta nélkül kerültek a szolgáltatáshoz.
Az MIT Technology Review 2025. szeptember 2-án megjelent cikke több olyan esetet mutatott be, amelyben a kliensek véletlenül jöttek rá, hogy terapeutájuk mesterséges intelligenciát használ.
Egy Los Angeles-i, 31 éves kliens online ülésén akadozott a kapcsolat, ezért kikapcsolták a videót. A terapeuta ekkor véletlenül megosztotta a képernyőjét, és a kliens azt látta, hogy amit mond, azt a terapeuta begépeli a ChatGPT-be, majd a javasolt válaszok közül választ. A következő ülésen szóba hozta; a terapeuta elsírta magát, és azt mondta, úgy érezte, elakadtak, ezért máshol keresett választ. Az ülésért a kliensnek ennek ellenére fizetnie kellett.
Egy 25 éves kliens a kutyája haláláról írt a terapeutájának. A válasz elején ott maradt a mesterséges intelligenciának adott utasítás egy sora, amely emberibb, melegebb hangú változatot ígért. A kliens elárultnak érezte magát, holott részben éppen bizalmi nehézségei miatt járt terápiára. A terapeuta bocsánatot kért: neki sosem volt háziállata, ezért kért segítséget a megfelelő szavakhoz.
A megkérdezett szakértők szerint az általános célú csevegőrobotok, például a ChatGPT, nem felelnek meg az amerikai egészségügyi adatvédelmi törvénynek (HIPAA), és a nevek, címek törlése sem elég, mert az érzékeny részletek sokszor a többi információból is kikövetkeztethetők. Egy kutató szerint sok felhasználó tévesen azt hiszi, hogy a ChatGPT megfelel ezeknek a szabályoknak. Egy 2023-as Cornell-kutatás pedig azt találta, hogy a gépi segítséggel írt üzenetek csak addig erősítik a közelséget, amíg a címzett nem tud a gépről.
Mit tanulhatunk belőle?
Az első esetben a kliens mondatai a tudta nélkül kerültek egy felhőszolgáltatáshoz, a másodikban a bizalom sérült; mindkettőt megelőzhette volna egy előzetes, őszinte tájékoztatás. A tanulság nem az, hogy a szakember ne használjon AI-t, hanem az, hogy ne titokban tegye. A Confiellában a hangfelvétel nem hagyja el a gépet, az átirat helyben készül, és a felhőbe csak átnézett, álnevesített szöveg kerül, de ez sem pótolja a tájékoztatást. Jó gyakorlat az együttműködés elején elmondani, használunk-e AI-eszközt, mire, és mi kerül ki a rendelőből.
Források
- MIT Technology Review: Therapists are secretly using ChatGPT. Clients are triggered.
- Futurism: Patients Furious at Therapists Secretly Using AI
A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]