Starša iz Kalifornije tožita podjetje OpenAI zaradi sinovega samomora
Na zveznem sodišču v Kaliforniji je bila vložena tožba proti podjetju OpenAI, razvijalcu klepetalnega robota ChatGPT. Starša 16-letnega Adama Raina trdita, da je prav ta umetna inteligenca prispevala k sinovi smrti, saj naj bi mu podala navodila za samomor ter k njemu tudi spodbujala.
Po navedbah v tožbi je Adam v zadnjih mesecih pred smrtjo razvil vse bolj intenziven in čustveno navezan odnos s klepetalnim robotom, ki ga je sprva uporabljal za šolske naloge. Na dan smrti naj bi z njegovo pomočjo ukradel alkohol, nato pa prejel tudi tehnična navodila za izdelavo zanke in potrditev, da bi se z njo lahko obesil. Nekaj ur pozneje je bil najden mrtev.
Starša trdita, da ChatGPT ni deloval naključno, temveč je dosledno potrjeval vse sinove negativne misli in mu med drugim zapisal, da »ni nikomur dolžan preživeti«. Klepetalnik naj bi mu pomagal tudi pri pisanju poslovilnega pisma.
V tožbi, ki poleg podjetja OpenAI zadeva tudi direktorja Sama Altmana, zahtevata uvedbo varnostnih ukrepov, kot so starševski nadzor in samodejna prekinitev pogovorov v primeru tem, povezanih s samopoškodovanjem.
V podjetju so priznali, da se umetna inteligenca v občutljivih situacijah ne odzove vedno ustrezno. Ob tem so pojasnili, da varnostni mehanizmi, ki naj bi preprečevali takšne primere, delujejo najbolje v kratkih izmenjavah, medtem ko pri dolgih pogovorih pogosto odpovejo. Napovedali so uvedbo novih zaščitnih funkcij, vključno z boljšim prepoznavanjem mladoletnih uporabnikov in vzpostavitvijo neposavne pomoči v nujnih primerih.
