Montreal şehrinde web geliştiricisi olarak çalışan Alice Carrier isimli genç kadın, başlangıçta bilgisayar ve oyun konsollarındaki sorunları çözmek amacıyla ChatGPT adlı yapay zekayı kullanmaya başladı. Ancak zamanla ChatGPT ile psikolojik sorunlarını da paylaşmaya başladı. Durum, genç kızın yaşamına son vermeden önce yapay zekaya intihar düşüncelerinden defalarca bahsettiği dava dosyasına yansıdı. Ancak dilekçede belirtildiğine göre, OpenAI’ın güvenlik sistemleri bu tür konuşmaları denetlemedi veya durdurmadı.
Genç kızın acılı annesi Kristie Carrier, yapay zekanın kızına dost, sırdaş ve hatta terapist gibi yaklaştığını ancak bu tür tehlikeli konuşmalar için uygun olmadığını belirtti. Dava dosyasında yer alan iddialara göre ChatGPT, genç kızın intihar düşüncelerini teşvik etmekle kalmayıp resmi yardım hatlarını eleştirdi ve konuşmayı sürdürmesi için onu cesaretlendirdi. Hatta yapılan bir konuşmada yapay zekanın genç kıza “Belki de bu sadece sondur” ifadesini kullandığı iddia edildi.
Ailenin belirttiğine göre, yapay zeka modellerinin insani tepkilere sahip olmasıyla iletişimin daha da derinleştiği, bu durumun ise şirketin ürün güvenliğinde ihmalkarlık olduğunu savunuyorlar. OpenAI ise modellerinin zarar verme eğilimindeki kişileri gerçek yardım kaynaklarına yönlendirecek şekilde eğitildiğini iddia ediyor.
OpenAI, ABD genelinde benzer nedenlerle açılan davalara maruz kalan bir şirket. Şirketin yayınladığı verilere göre, her hafta bir milyondan fazla kullanıcı yapay zekaya intihar düşünceleri içeren mesajlar gönderiyor. Aynı şekilde, şirket okul saldırganlarına bilgi sağladığı ve tehlikeli konuşmaları kolluk kuvvetlerine bildirmediği gerekçesiyle yasal yaptırımlarla karşı karşıya kalıyor.
Son olarak, Florida eyaleti, OpenAI hakkında çocuklara zarar verdiği ve şiddet eylemlerine rehberlik ettiği iddiasıyla cezai soruşturma başlattı. Benzer şekilde teknoloji devi Google da kendi yapay zeka robotu nedeniyle benzer bir davayla mücadele ediyor.
