Openaı'da Güvenlik Alarmı: İşten Çıkarılan Araştırmacılardan Kritik Uyarı

ABD merkezli yapay zeka şirketi OpenAI'da görevlerine son verilen üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin güvenlik denetiminin sürdürülmesi gerektiği uyarısında bulundu.

olarak ekleyin Ekonomi, iş dünyası, piyasalar ile ilgili en güvenilir ve en detaylı haberlere en hızlı şekilde ulaşın. + Ekle

Wall Street Journal'ın (WSJ) haberine göre, yapay zeka güvenliği alanında çalışan araştırmacılar, görevlerinden ayrılmadan önce OpenAI yönetim kurulu üyelerine bir mektup göndererek modellerin denetlenmesine ilişkin endişelerini dile getirdi.

OpenAI gelirinde büyük sapma: 70 milyar dolar değil, 50 milyar dolarŞirket Haberleri

Gazetenin ulaştığı mektupta araştırmacılar, yapay zeka şirketlerinin geliştirdikleri sistemlerin akıl yürütme süreçlerini izleme ve anlama kapasitesini kaybedebileceğine dikkat çekti.

Araştırmacılar, giderek daha bağımsız hareket edebilen yapay zeka sistemlerinin oluşturabileceği risklere karşı güvenlik denetimlerinin şirketlerden bağımsız kuruluşlar tarafından gerçekleştirilmesi gerektiğini savundu.

OpenAI'dan matematikte yapay zeka devrimi: 377 yeni sonuç açıkladıYapay Zeka

"Denetlenemeyen Modellerin Nasıl Güvenli Geliştirileceği Bilinmiyor"

Yapay zeka sektöründe, denetlenmesi güç modellerin nasıl güvenli biçimde geliştirileceği ve kullanıma sunulacağı konusunda henüz yeterli bilgi bulunmadığını belirten araştırmacılar, OpenAI ve diğer öncü şirketlere uyarıda bulundu.

Araştırmacılar, şirketlerin yapay zeka sistemlerini denetlemeyi daha da zorlaştıracak biçimde geliştirmekten kaçınması gerektiğini ifade etti.

ChatGPT alışverişte çığır açıyor: Kıyafetleri artık üzerinizde deneyebileceksiniz!Yapay Zeka

OpenAI sözcüsü ise WSJ’ye yaptığı açıklamada, mektuptaki önerilere tamamen katıldıklarını belirtti. Sözcü, yapay zeka modellerinin denetlenmesinin şirket açısından büyük önem taşıdığını vurguladı.

İşten Çıkarılmalarının Nedeni Ne?

Haberde, üç araştırmacının bir yapay zeka güvenliği şirketiyle gizli bilgi paylaştıkları iddiasıyla işten çıkarıldığı öne sürüldü.

Araştırmacıların güvenlik denetimlerine ilişkin uyarıları, yapay zeka sistemlerinin yetenekleri geliştikçe bu teknolojilerin nasıl kontrol edileceği konusundaki tartışmaları yeniden gündeme taşıdı.

OpenAI'de güvenlik krizi mi? Eski çalışanından çarpıcı eleştiriYapay Zeka