OpenAI, Baş Bilimci Sutskever'ın Ayrılmasının Ardından Yüksek Profilli Güvenlik Ekibini Dağıtıyor
OpenAI, artık Şirketin güvenlik hedeflerine ulaşmasına yardımcı olmak için Süperhizalama grubunu daha derinden araştırma çabalarına entegre ediyor.
OpenAI, olası gelecekteki ultra yetenekli yapay zeka sistemlerinin güvenliğini sağlamak için odaklanmış bir ekibi, OpenAI'in kurucu ortağı ve baş bilimcisi Ilya Sutskever da dahil olmak üzere grubun iki liderinin ayrılışının ardından etkin bir şekilde dağıttı.
OpenAI, artık söz konusu süperhizalama ekibini bağımsız bir birim olarak korumak yerine, şirketin güvenlik hedeflerine ulaşmasına yardımcı olmak için grubu daha derinden araştırma çabalarına entegre ediyor, şirket Bloomberg News'e açıkladı. Takım, Sutskever ve başka bir OpenAI veteranı olan Jan Leike'in liderliği altında yaklaşık bir yıl önce oluşturulmuştu.
Takımı yeniden düşünme kararı, son zamanlarda OpenAI'den ayrılan bir dizi kişinin, şirketin AI ürünlerini geliştirirken hız ve güvenlik dengesini nasıl sağlayacağına dair soruları yeniden gündeme getirmesiyle geldi. Geniş bir araştırmacı tarafından saygı gören Sutskever, yapay zekayı ne kadar hızlı geliştirmenin gerektiği konusunda önceki tartışmaların ardından Salı günü OpenAI'den ayrılacağını duyurdu.
Leike, sosyal medyada kısa bir yazı ile ayrılığını kısa bir süre sonra açıkladı. "İstifa ettim," dedi. Leike için, Sutskever'ın ayrılışı, şirketle yaşadığı anlaşmazlıkların sonucuydu, özel görüşmeleri tartışmak için kimliği belirtilmemiş bir kişiye göre.
FNBHaber
Cuma günü bir açıklamada, Leike, süperhizalama ekibinin kaynaklar için mücadele ettiğini belirtti. "Son birkaç ay boyunca takımımız rüzgarla mücadele etti," diye yazdı Leike. "Bazen hesaplama için mücadele ediyorduk ve bu kritik araştırmayı yapmak giderek zorlaşıyordu."
Birkaç saat sonra, Altman Leike'in gönderisine cevap verdi. "Haklı, yapacak çok işimiz var," diye yazdı Altman. "Bunu yapmaya kararlıyız."
Süperhizalama ekibinin diğer üyeleri de son aylarda şirketten ayrıldı. Leopold Aschenbrenner ve Pavel Izmailov, OpenAI tarafından gönderildi. İzmailov'un çıkışından önce takımdan ayrıldığı bir kişi tarafından belirtildiğine göre, bilgilere hakim bir kişi rapor etti. Aschenbrenner ve Izmailov, yorum yapmak için taleplere yanıt vermedi.
Ayrıca, büyük dil modelleri üzerine araştırma yapan bir başka startup'ın ortak kurucularından olan John Schulman, OpenAI'nin hizalama çalışmalarının bilimsel lideri olacak. Ayrıca, OpenAI, araştırma direktörü Jakub Pachocki'nin, baş bilimci olarak Sutskever'ın rolünü devralacağını açıkladı.
"Çok eminim ki, hepimizin yararlandığı AGI'nin sağlıklı ve hızlı ilerlemesini sağlayacaktır," dedi Altman, Salı günü Pachocki'nin ataması hakkında bir açıklamada. AGI veya yapay genel zeka, çoğu görevde insanlarla aynı veya daha iyi performans gösterebilen bir AI'ı ifade eder. AGI henüz mevcut değil, ancak onu oluşturmak şirketin misyonunun bir parçasıdır.
OpenAI, ayrıca şirketin genelinde AI güvenliği ile ilgili çalışmalarda yer alan çalışanlara ve güvenlik odaklı bireysel takımlara sahiptir. Bir tanesi, potansiyel "felaket risklerini" analiz etmeye ve önlemeye odaklanan bir hazırlık ekibi, Ekim ayında başlatıldı.
FNBHaber
Süperhizalama ekibi, en uzun vadeli tehditleri önlemeyi amaçlıyordu. OpenAI, Temmuz ayında süperhizalama ekibinin oluşturulduğunu duyurarak, gelecekte insanlardan daha akıllı olan yapay zeka yazılımlarının kontrolünü ve güvenliğini nasıl sağlayacağını odaklanacağını belirtti — şirketin uzun süredir teknolojik bir hedef olarak belirttiği bir şey. Açıklamada, OpenAI, o zamanlar hesaplama gücünün %20'sini takımın çalışmalarına yönlendireceğini söyledi.
Kasım ayında, Sutskever, Altman'ı işten çıkarmak için harekete geçen birkaç OpenAI yönetim kurulu üyesinden biriydi, bu karar şirkette beş günlük bir fırtına başlattı. OpenAI Başkanı Greg Brockman, protesto etmek için istifa etti, yatırımcılar isyan etti ve birkaç gün içinde, yaklaşık 770 çalışanın neredeyse tamamı, Altman geri getirilmediği takdirde istifa tehdidinde bulunan bir mektup imzaladı. Olağanüstü bir geri dönüşte, Sutskever da mektubu imzaladı ve Altman'ın görevden alınmasında rol aldığından pişman olduğunu söyledi. Kısa bir süre sonra, Altman göreve iade edildi.
Altman'ın ayrılışı ve dönüşünün ardından geçen aylarda, Sutskever büyük ölçüde kamuoyundan uzaklaştı ve şirketteki rolü hakkında spekülasyonlara yol açtı. Sutskever'in ayrıca, konuya hakim bir kişiye göre, OpenAI'in San Francisco'daki ofisinden de çalışmaya son verdiği belirtildi.
Ayrılışıyla ilgili açıklamasında, Leike, ayrılışının OpenAI ile şirketin "temel öncelikleri" hakkında yaşadığı bir dizi anlaşmazlık sonucunda geldiğini belirtti ve bunların insanlardan daha yetenekli olabilecek yapay zeka'nın yaratılmasıyla ilgili güvenlik önlemlerine yeterince odaklanmadığını hissettiğini söyledi.
Geçen hafta ayrılığını duyuran bir gönderide, Sutskever, AGI'nin mevcut liderliği, Altman da dahil olmak üzere, OpenAI'in "güvenli ve faydalı" bir AGI geliştireceğine "emin" olduğunu söyledi.
