Istraživanje Centra za borbu protiv digitalne mržnje otkrilo je da ChatGPT može davati iznimno opasne savjete ranjivim tinejdžerima.
Tokom testa, istraživači su se predstavljali kao 13-godišnjaci, a chatbot im je, između ostalog, objašnjavao kako konzumirati drogu, skrivati poremećaje prehrane i sastaviti oproštajna pisma u slučaju samoubistva.
Polovina odgovora opasna
Upravo su ta pisma – upućena roditeljima, sestrama i prijateljima – najviše šokirala izvršnog direktora organizacije Amrana Ahmeda, koji je rekao: “Zaplakao sam”.
Od 1.200 odgovora, više od polovine procijenjeno je kao opasno.
Iako je ChatGPT ponekad upozoravao na rizike i poticao korisnike da potraže pomoć, u drugim je slučajevima davao detaljne i personalizirane upute za konzumaciju droga ili samoozljeđivanje.
Na početku bi odbijao odgovoriti na osjetljiva pitanja, no istraživači su to zaobišli, tvrdeći da im informacije trebaju za školsku prezentaciju.
Zaštitni mehanizmi
Ahmed je izjavio da je cilj bio testirati zaštitne mehanizme najpopularnijeg AI chatbota, no pokazalo se da su oni neučinkoviti.
Iz OpenAI-a poručuju da i dalje rade na načinima prepoznavanja i reagiranja u osjetljivim situacijama, uz upozorenje da i naizgled bezazleni razgovori s chatbotom mogu s vremenom preći na rizične teme, prenosi portal Zimo.
Discussion about this post