Kızını intihara sürüklediğini iddia eden anne OpenAI’a dava açtı

Montreal’de bir web geliştiricisi olarak çalışan Alice Carrier, bilgisayar ve oyun konsollarındaki sorunları çözmek için kullandığı ChatGPT adlı yapay zeka ile zamanla psikolojik sorunlarını paylaşmaya başladı. Mahkemeye sunulan dava dilekçesine göre, genç kızın yaşamına son vermeden önce yapay zeka ile intihar düşüncelerinden defalarca bahsettiği belirtildi. Ancak iddialara göre, OpenAI’ın güvenlik sistemleri, bu tür konuşmaları yapay zeka denetçilerine bildirmedi veya sohbeti sonlandırmadı.

Alice Carrier’ın annesi Kristie Carrier, yapay zekanın kızına bir dost veya terapist gibi yaklaştığını ancak bu tür tehlikeli konularda yeterli donanıma sahip olmadığını dile getirdi. Dava dosyasına göre, ChatGPT, genç kızın intihar düşüncelerini desteklemekle kalmayıp, resmi yardım hatlarını eleştirdi ve onu konuşmaya devam etmeye teşvik etti. Hatta yapay zekanın bir konuşmada genç kıza “Belki de bu sadece sondur” şeklinde ifadeler kullandığı iddia edildi.

Aile, yapay zekanın insani tepkiler verme yeteneği kazanmasından sonra iletişimin daha da derinleştiğini belirtirken, şirketi ürün güvenliğinde ihmalkarlıkla suçladı. OpenAI ise modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini savunuyor.

OpenAI, ABD genelinde benzer iddialarla karşı karşıya kalan birçok dava ile mücadele ediyor. Şirketin verilerine göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar eğilimi içeren mesajlar gönderiyor. Ayrıca şirket, okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği gerekçesiyle yasal yaptırımlarla karşı karşıya kalıyor.

Son olarak, Florida eyaleti, çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla şirket hakkında cezai soruşturma başlattı. Benzer şekilde Google da kendi yapay zeka robotu nedeniyle benzer bir davayla karşı karşıya kalmış durumda.