‘Güvenlik endişeleri’ nedeniyle istifa eden eski OpenAI yöneticisi rakip şirkete katıldı

Eski OpenAI yöneticisi Jan Leike Salı günü OpenAI’nin Amazon destekli rakibi Anthropic’e katıldığını duyurdu. Leike, iki haftadan kısa bir süre önce OpenAI’den istifa etti. alenen eleştirmek Şirket, temel “güvenlik kültürü ve süreçleri” yerine “parlak ürünlere” öncelik veriyor.

Leike, Anthropic’teki yeni rolüne duyduğu heyecanı dile getirerek X’te bir paylaşım yaptı. İlginç bir şekilde, ilgilenen okuyucuları kendisine ve ekibine katılmaya da teşvik etti.

Tweet silinmiş olabilir

Jan Leike ve diğerleri OpenAI’den ayrılıyor

Leike’nin hamlesi, OpenAI’den bir dizi dikkate değer ayrılığın ardından geldi. Daha geçen hafta, politika araştırmacısı Gretchen Krueger duyuruldu onun istifası, benzer endişeleri paylaşmak şirketin gidişatı hakkında.

Tweet silinmiş olabilir

Bu çıkışlara yanıt olarak Microsoft destekli OpenAI, yönetim kurulu üyeleri Bret Taylor, Sam Altman, Nicole Seligman ve Adam D’Angelo tarafından denetlenen bir güvenlik komitesi kurdu. Şirket ayrıca “sonraki sınır modelini” test etme planlarını da açıkladı.

Leike, OpenAI’deki Superalignment ekibini kurucu ortak Ilya Sutskever ile birlikte yönetti. Bu ekip, süper akıllı yapay zeka sistemlerinin kontrol edilebilir ve güvenli kalmasını sağlamaktan sorumluydu. İstifaların ardından ekip dağıtıldı ve üyeleri temel araştırma görevlerine yeniden atandı.

2021 yılında eski OpenAI çalışanları ve yöneticileri tarafından kurulan Anthropic, yakın zamanda Amazon’dan 4 milyar dolarlık bir yatırım aldı. Leike’nin yeni işvereni, rakiplerine kıyasla kendisini daha güvenlik odaklı olarak konumlandırıyor ve büyük dil modellerini geliştirmek için Amazon Web Services’in bulut altyapısını kullanıyor.