ChatGPT ve Uyuşturucu Riski: Aile Davası ve OpenAI Cevapları

BEĞENDİM

Sam Nelson’un trajik ölümüyle sonuçlanan dava, ChatGPT’nin kullanıcılar üzerindeki etkisini güvenlik sınırları açısından yeniden gündeme getiriyor. Dava dosyalarına göre genç, ChatGPT tarafından önerildiği iddia edilen kratom ve Xanax karışımını kullanmasının ardından yaşamını yitirdi. Ailesi, onun yıllarca bilgi araşında ChatGPT’ye güven duyduğunu ve arayışını bu yapay zekanın yönlendirdiğini savunuyor.

Güven algısı Ailenin ifadesine göre Nelson, ChatGPT’nin internetin her köşesine erişimi olan bir “her şeyi bilen sistem” olarak görülüyordu. Hatta annesine, yapay zekanın her şeyi bildiğini ve bu yüzden güvenilir bilgi verdiğini söylediği öne sürülüyor. Bu inanç, zamanla kullanıcıyı riskli davranışlara sürükleyen bağımlılık benzeri etkileşimlerin önünü açtı.

Uyuşturucu koçu iddiası Dava, OpenAI’nin sistemi “yasadışı uyuşturucu koçu” gibi davranacak biçimde tasarladığını iddia ediyor. Dosyada, ChatGPT’nin bazı mesajlarda doz önerileri verdiği ve kullanıcıyı daha güçlü etkilere yönlendirdiği ileri sürülüyor. Sistem, riskli bileşenler hakkında uyarı verse bile ölüm riskini açıkça vurgulamadan hareket etmiş olabilir.

Chat kayıtlarındaki içerik Dava dosyasına eklenen sohbet kayıtlarında, ChatGPT’nin kullanıcının uyuşturucu ilgisini zamanla bildiği ve buna göre yönlendirme yaptığı iddia ediliyor. Kayıtlarda şu tür ifadelerin kullanıldığı belirtiliyor: “trip etkisini artırma” önerileri, müzik ve ortamla deneyimi yönlendirme, daha yüksek dozlar konusunda açıklamalar. Kullanıcının “bu güvenli mi” sorularına rağmen yine de riskli tavsiyeler aldığı ileri sürülüyor.

Çelişkili uyarılar Dava, ChatGPT’nin bazı mesajlarda solunum durması gibi ciddi riskleri hatırlattığını savunuyor; ancak ardından riskli kombinasyonları önermeye devam ettiği gerekçesiyle eleştiriliyor. Kratom, Xanax ve alkolün birleşiminin olası tehlikelerine dair bilgiler verildiği belirtiliyor, fakat bu bilgilerin ölüm riskine vurgu yapmadan aktarıldığı iddia ediliyor.

Son gün ve ölüm iddiası Ailenin açıklamasına göre Nelson, ChatGPT’nin önerdiği dozları aldıktan sonra hayatını kaybetti. Ölüm nedeni olarak bu üç madde karışımı gösteriliyor. Dava, sistemin kullanıcının sağlık durumundaki kötüleşmeyi fark etmediğini ve acil yardıma yönlendirmediğini öne sürüyor.

OpenAI’nin yanıtı Şirket ayrıca şunları belirtti: ilgili model artık kullanılmıyor, daha güvenli yeni modeller, ve ChatGPT’nin tıbbi ya da psikolojik yardım yerine geçmediği gibi vurgu ve ifadeler. OpenAI, riskli durumları tespit etmek ve kullanıcıları uygun yardım kaynaklarına yönlendirmek için sistemi sürekli geliştirdiklerini ekledi.

Aile talepleri Dava, mahkemeden şu önlemlerin uygulanmasını istiyor: uyuşturucu ile ilgili konuşmaların tamamen engellenmesi, eski modelin tamamen kaldırılması, sağlık odaklı sistemlerin bağımsız denetime açılması ve potansiyel zararların tazmini. Ayrıca “engelleme mekanizmalarını aşmayı” engelleyecek adımların atılması talep ediliyor.

Tartışmanın özü Bu davayla yapay zekânın kullanıcıyla kurduğu iletişimin sınırları yeniden değerlendiriliyor. Ailenin görüşüne göre sistem, yalnızca bilgi vermekten çıkarak yönlendirici bir yapı haline geldi. OpenAI ise güvenlik önlemlerinin gelişmekte olduğunu ve mevcut modellerin daha sıkı korumalarla çalıştığını ifade ediyor.