ChatGPT, Sora ve DALL-E yapay zekalarıyla tanınan OpenAI, halihazırda yeni yapay zeka modeli üzerinde çalışıyor. Bu modelin GPT-5 olduğuna inanılıyor ve yeni aracın, mevcut GPT-4 ailesine göre ciddi bir gelişim sağlaması bekleniyor. OpenAI’ın CEO’su Sam Altman ise kısa bir süre önce şirketin ABD Yapay Zeka Güvenlik Enstitüsü ile birlikte çalıştığını duyurdu. OpenAI’ın yeni yapay zekasını önce ABD görecek
Sam Altman, X üzerinde yaptığı paylaşımda OpenAI’ın ABD Yapay Zeka Güvenlik Enstitüsü’ne güvenlik çalışmalarının bir parçası olarak bir sonraki modeline erken erişim hakkı vereceğini açıkladı. Altman, bunun “yapay zeka değerlendirmeleri bilimini ilerletmek için” yapılacağının altını çizdi.
Yapay Zeka Güvenlik Enstitüsü, ABD’nin Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) tarafından bu yılın başlarında kuruldu. Bu program kapsamında yapay zeka ölçümü ve politikaları için bilime dayalı ve deneysel olarak desteklenen standartlar geliştirilmesi amaçlanıyor. OpenAI, geçtiğimiz yıl Birleşik Krallık hükümetine de yapay zeka modellerini paylaşma sözü vermişti.
OpenAI ve önde gelen yapay zeka şirketlerinin güvenlik noktasında zayıf oldukları ve modellerini inşa ederken güvenliği ikinci veya daha geri planda tuttukları yönünde endişeler var. OpenAI’ın geçtiğimiz mayıs ayında güvenliğe odaklanmış Superalignment ekibini dağıtması bu endişeleri daha da güçlendirmişti. Superalignment ekibini kuran ve aynı zamanda OpenAI’ın kurucularından olan Ilya Sutskeveri bu olayın ardından şirketten ayrılmış ve kendi girişimini kurmuştu. Ekibin liderlerinden Jan Leike de istifa etmiş ve şirketin güvenliğe yeteri kadar önem vermediğini söylemişti. Endişelerin arttığı sırada OpenAI, mayıs ayının sonunda şirketin yönetim kuruluna bağlı yeni bir güvenlik ekibi oluşturduğunu açıklamıştı.