Son zamanlarda yapay zekâ alanında yaşanan gelişmeler, sadece teknoloji meraklılarını değil, doğrudan bu teknolojileri geliştiren uzmanları bile endişelendiriyor. Özellikle OpenAI’nin içinde yaşanan ayrılıklar, liderlik meseleleri ve güvenlik odaklı ekiplerin dağılması ciddi soruları gündeme getirdi. OpenAI ile ilgili daha fazla içerik için sitemizi ziyaret etmeni öneririm.
AGI güvenliği sorgulanıyor
OpenAI’nin Yapay Genel Zekâ (AGI) hedeflerine ulaşma konusunda kaydettiği ilerleme göz kamaştırıcı olsa da, içeriden yükselen uyarılar atmosferi oldukça değiştirdi. Şirketin AGI Hazırlık ve Süper Hizalama ekiplerinin birbiri ardına dağıtılması, dikkat çekici. Bu ekiplerin liderliğini yapan Ilya Sutskever ve Jan Leike’nin istifası, içerde yaşanan görüş ayrılıklarının önemli bir göstergesi.
Güvenlik ikinci planda mı?
Jan Leike’nin ayrılırken yaptığı şu açıklama gerçekten düşündürücü: “İnsandan daha akıllı makineler oluşturmak özünde tehlikeli bir girişimdir.” Leike ayrıca, OpenAI’nin güvenlik kültürünün fazlasıyla ürün odaklı hale geldiğini açıkça dile getirdi.
Benzer şekilde, başka bir eski çalışan Steven Adler da OpenAI’nin AGI’yi insan değerleriyle hizalama konusunda net bir stratejisi olmadığını söyleyerek ayrıldı. Gerçekten de, AGI güvenlik ekibinin neredeyse yarısı son aylarda şirketten ayrılmış durumda.
Kontrolsüz ilerleme endişesi
Fortune’un raporuna göre, Süper Hizalama ekibine vaat edilen hesaplama gücünün sadece %20’si sağlanmış. Bu bile şirketin güvenlik konularına ne kadar kaynak ayırdığı konusunda soru işaretleri yaratıyor. Dahası, Geoffrey Hinton, Stuart Russell gibi alanın duayen isimleri, şirketin yeniden yapılanma planına itiraz ederek başsavcılara çağrıda bulundu.
Tüm bunların ortasında OpenAI’nin Mart 2025’te 300 milyar dolarlık değerlemeye ulaşması, bana “önce para sonra güvenlik” yaklaşımını düşündürüyor. Bu denli güçlü, insanüstü zekâlar geliştirirken bir durup düşünmek gerekiyor. Çünkü teknoloji gelişirken, etik ve güvenlik geride kalmamalı.