Altman: Yapay zekâ gücünün tek elde toplanması riskli

0

BEĞENDİM

ABONE OL

News

0

OpenAI Üst Yöneticisi Sam Altman, Elon Musk ve eski OpenAI çalışanlarının kendi yapay zekâ şirketlerini kurmasını, bu alandaki gücün tek bir kişi ya da kuruluşta toplanmasına ilişkin endişeyle ilişkilendirdi.

Raj Shamani’nin podcast’ine konuk olan Altman, yapay zekânın iki temel yolla ciddi risk oluşturabileceğini söyledi. Bunlardan ilkinin, kontrolün insanlardan daha yetenekli sistemlere kazara veya fark edilmeden devredilmesi olduğunu belirten Altman, böyle bir durumda denetimin geri alınamayabileceğini ifade etti.

Altman’a göre ikinci risk, tek bir yapının diğerlerine kıyasla aşırı güç kazanması. Farklı yaklaşımları benimseyen ve rekabet eden birden fazla yapay zekâ laboratuvarının bulunmasının dünya için daha iyi olacağını savunan Altman, Musk’ın şirket kurma kararında da bu kaygının payı olduğunu söyledi.

Yapay zekâ risklerinin çok büyük görülmesinin bazı kişileri teknolojiyi yalnızca kendilerinin geliştirebileceğine inandırdığını belirten Altman, gücün tek elde toplanması korkusunun birden fazla laboratuvarın ortaya çıkmasında etkili olduğunu dile getirdi. Altman ayrıca Musk’ın yaklaşımını doğru bulmadığını ve gücün Musk’ın elinde toplanmasına izin veremeyeceğini ifade etti.

Musk daha önce, süper zekânın kötü muamele görmesi durumunda yapay zekânın intikam almaya yönelebileceği uyarısında bulunmuştu.

OpenAI’ın eski çalışanları ve kurucu ortakları arasında kendi yapay zekâ laboratuvarlarını yöneten isimler de yer alıyor. Dario Amodei’nin yönettiği Anthropic, dünyanın önde gelen yapay zekâ laboratuvarlarından biri olarak öne çıkarken Mira Murati de kendi laboratuvarını yönetiyor.

Yapay zekâ uyduları konusunda görüş ayrılığı

Altman ile Musk, SpaceX’in uzay tabanlı yapay zekâ uyduları planı konusunda da farklı düşünüyor. Altman, son dönemdeki eleştirilerini yumuşatarak yapay zekâ uydularının uzun vadede daha uygun bir seçenek olabileceğini söyledi. Musk ise bu uyduların ısı yayma standartlarının uzay kullanımı için uygun olduğunu savunuyor.