OpenAI'de araştırmacı ve kilit adam olan Jan Leike, kurucu ortak Ilya Sutskever'in ayrılmasının ardından istifa etti. Cuma sabahı Leike, X'te (eski adıyla Twitter) endişe verici bir mesaj yayınladı: Leike'ye göre, yapay zeka şirketi ChatGPT'de “satılacak giderek daha parlak ürünlerin yaratılmasıyla karşılaştırıldığında güvenlik ikinci plana atıldı.” Leike'nin açıklamaları, OpenAI'nin “Süper Hizalama ekibi” olarak bilinen uzun vadeli yapay zeka risklerini yönetmeye adanmış dahili ekibinin dağıldığını ortaya koyan Wired makalesinden kısa bir süre sonra geldi. Leike, güvenlik protokollerinin uygulanmasında “temel teknik zorlukları çözmek” amacıyla geçen Temmuz ayında oluşturulan bu ekibe başkanlık ederken, OpenAI, insan gibi ve ondan daha iyi muhakeme yeteneğine sahip yapay zeka geliştirdi.
Leike, “İnsandan daha akıllı makineler yapmak çok büyük bir girişim” diye ekledi. “OpenAI, tüm insanlığın omuzlarına devasa bir sorumluluk yüklüyor.” OpenAI, kuruluşun adından da anlaşılacağı gibi modellerini halkın kullanımına sunma fikriyle doğdu. Ancak bu tür modeller abonelik ürünleri haline geldi ve şirket, herkesin bu tür güçlü modellere erişmesine izin vermenin potansiyel olarak yıkıcı olabileceğini savundu. “Üretken yapay zekanın sonuçlarını inanılmaz derecede ciddiye almakta geç kaldık. Bu zorluklara elimizden geldiğince hazırlanmaya öncelik vermeliyiz,” diye yazdı Leike, istifasıyla ilgili diğer gönderilerinde şunu ekledi: “Ancak o zaman yapay zekanın tüm insanlığa fayda sağladığından emin olabiliriz.”
OpenAi yakın zamanda üretken yapay zeka modeli GPT-4o'nun evrimini sundu; önceki modelden farklı olarak, yavaşlamış ve bazı işlevleri azaltılmış olmasına rağmen herkes tarafından ücretsiz olarak erişilebiliyor. Ancak Leike eleştirel olmaya devam ediyor: X hakkında “Uzun bir süre, bir kırılma noktasına ulaşana kadar, şirketin temel öncelikleri konusunda OpenAI'nin liderliğine karşı çıktım” dedi. Leike'nin istifası ve sözleri, şirketin geleceğine endişe verici bir ışık tuttu. Yapay zeka güvenlik araştırması, hızlı inovasyon ile bu tür güçlü teknolojilerin geliştirilmesiyle ilişkili risklerin yönetilmesinde sorumluluk arasındaki dengenin gerekliliğini vurguluyor.
Leike, “İnsandan daha akıllı makineler yapmak çok büyük bir girişim” diye ekledi. “OpenAI, tüm insanlığın omuzlarına devasa bir sorumluluk yüklüyor.” OpenAI, kuruluşun adından da anlaşılacağı gibi modellerini halkın kullanımına sunma fikriyle doğdu. Ancak bu tür modeller abonelik ürünleri haline geldi ve şirket, herkesin bu tür güçlü modellere erişmesine izin vermenin potansiyel olarak yıkıcı olabileceğini savundu. “Üretken yapay zekanın sonuçlarını inanılmaz derecede ciddiye almakta geç kaldık. Bu zorluklara elimizden geldiğince hazırlanmaya öncelik vermeliyiz,” diye yazdı Leike, istifasıyla ilgili diğer gönderilerinde şunu ekledi: “Ancak o zaman yapay zekanın tüm insanlığa fayda sağladığından emin olabiliriz.”
OpenAi yakın zamanda üretken yapay zeka modeli GPT-4o'nun evrimini sundu; önceki modelden farklı olarak, yavaşlamış ve bazı işlevleri azaltılmış olmasına rağmen herkes tarafından ücretsiz olarak erişilebiliyor. Ancak Leike eleştirel olmaya devam ediyor: X hakkında “Uzun bir süre, bir kırılma noktasına ulaşana kadar, şirketin temel öncelikleri konusunda OpenAI'nin liderliğine karşı çıktım” dedi. Leike'nin istifası ve sözleri, şirketin geleceğine endişe verici bir ışık tuttu. Yapay zeka güvenlik araştırması, hızlı inovasyon ile bu tür güçlü teknolojilerin geliştirilmesiyle ilişkili risklerin yönetilmesinde sorumluluk arasındaki dengenin gerekliliğini vurguluyor.