Yapay zekanın babası Geoffrey Hinton güncel olaylardan rahatsız!

Araştırmacı, Google’ın ChatGPT, Bing Chat ve benzeri modellerle rekabet etmek amacıyla halka açık yapay zeka sürümleri üzerindeki önceki kısıtlamasından vazgeçerek birden çok etik soruna kapı açmasından endişe duyuyor.

Yakın vadede Hinton, üretici yapay zekanın bir yanlış bilgi dalgasına yol açabileceğinden endişe ediyor. “Artık neyin doğru olduğunu bilemeyebilirsiniz” diyor. Ayrıca, bunun sadece “zor işleri” ortadan kaldırmakla kalmayıp, bazı işleri tamamen değiştirebileceğinden de endişe ediyor. İleriye dönük olarak, bilim insanı hem tamamen otonom silahların olasılığı hem de AI modellerinin eğitim verilerinden tuhaf davranışlar öğrenme eğilimi konusunda endişeli. Bu sorunlardan bazıları teorik olsa da Hinton, düzenlemeler veya etkili kontroller geliştirilmeden kontrol edilemeyecek bir tırmanıştan korkuyor.

Yapay zekanın babası Geoffrey Hinton güncel olaylardan rahatsız!

Hinton, duruşunun geçen yıl Google, OpenAI ve diğerlerinin bazen insan zekasından üstün olduğuna inandığı yapay zeka sistemleri yaratmaya başlamasıyla değişmeye başladığını söylüyor. Araştırmacı, yapay zekanın yalnızca son beş yılda hızla geliştiğini ve önümüzdeki beş yıl içinde olabileceklerin “korkutucu” olduğunu öne sürüyor.

Google’ın baş bilim adamı Jeff Dean, Engadget’e yaptığı açıklamada, firmasının hala “sorumlu bir yaklaşıma” bağlı olduğunu ve “ortaya çıkan riskler” için tetikte olduğunu söyledi. Arama devi, şirketin üretici yapay zekanın rekabetçi tehdidi konusunda endişe duyduğu aylarca süren söylentilerin ardından Mart ayında Bard sohbet robotunun kaba bir sürümünü yayınladı. O zamandan önce, sanat odaklı Imagen gibi yapay zeka modellerini, zehirli içerik ve telif hakkı ihlalleri potansiyeli nedeniyle halka açık bir şekilde yayınlamayı reddetti.