Tájékoztatás 2023. január

Koko: GPT-3-mal írt lelki támogató üzenetek

Egy önkéntes lelki támogató szolgáltatás mintegy 4000 embernek küldött részben GPT-3-mal írt válaszokat. Erről csak egy rövid zárójeles megjegyzés szólt; 2023 januárjában a tájékozott beleegyezés hiánya miatt sokan bírálták.

A Koko egy San Franciscó-i nonprofit szolgáltatás, ahol önkéntesek nyújtanak lelki támogatást egymásnak, többek között a Discordon és a Tumblren. Egy hónap alatt nagyjából 10 000 önkéntes segített, és naponta mintegy 1000 ember fordult hozzájuk.

2022 októberében a Koko kipróbálta, hogy a válaszokat egészben vagy részben a GPT-3 nyelvi modell írja meg. A Discordon a segítő maga is megírhatta a választ, vagy kérhetett egy gépi vázlatot, amelyet elküldhetett, átírhatott vagy elvethetett. A szolgáltatás mintegy 30 000 bejegyzésre kínált ilyen vázlatot, a segítők nagyjából a felénél elfogadták, így kb. 4000 ember kapott legalább részben gépi választ. A címzett csak annyit látott, hogy a válasz a Koko Bottal együttműködésben készült; azt nem, hogy ez mit jelent.

A társalapító 2023. január 6-án a Twitteren írt a kísérletről. Szerinte a közösen írt válaszokat jobbra értékelték, és a segítők kétszer olyan gyorsan válaszoltak, de amikor kiderült, hogy a szövegben gép is részt vett, az előny elveszett, ezért leállították a kísérletet. A bejegyzés több mint 8 millió megtekintést kapott, és sokan bírálták: a kritikusok szerint sérülékeny helyzetű embereket tettek kísérleti alannyá, tudtuk és beleegyezésük nélkül.

Kutatásetikai szakértők szerint a tájékozott beleegyezéshez a kockázatok és az előnyök világos leírása kell; egy bioetikai központ vezetője független etikai felülvizsgálatot javasolt. A társalapító szerint a kísérlethez nem kellett külön beleegyezés, mert a résztvevők maguk jelentkeztek, személyazonosságuk rejtve maradt, és minden választ ember nézett át. Az NBC Newsnak azt mondta, hogy a címzett csak úgy maradhatott ki, ha nem olvasta el a választ.

Mit tanulhatunk belőle?

A Koko-eset nem adatszivárgásról szól, hanem arról, mit tud a segítséget kérő. Aki nehéz helyzetben ír, joggal hiszi, hogy ember válaszol neki, és egy zárójeles megjegyzés nem pótolja a valódi tájékoztatást. A gépi segítség önmagában nem baj: sokféleképpen támogathatja a szakember munkáját. A bizalom azon múlik, hogy a kliens előre, érthetően megtudja-e, részt vesz-e gép a vele folytatott munkában, és mi történik a szavaival. Ezt érdemes az együttműködés elején egy-két mondatban tisztázni.

Források

A cikk a felsorolt nyilvános források alapján készült. Ha hibát talál benne, írjon nekünk: [email protected]