USD50,44EUR55,32ALTIN6.057,60Ankara12° Bulutlu3:27İMSAK'AKALAN SÜRE
Uncategorized

OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı

OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında yapay zeka sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini bildirdi.

OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı

ABD’li yapay zeka şirketi OpenAI tarafından yapılan açıklamaya göre, ilk olay, 3 Ekim’de Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı.

Model, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de engelleyecek şekilde yorumlayarak güvenlik ekibine otomatik uyarı gönderilmesini önledi.

6 Ekim’de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model, daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi.

OpenAI, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmasının otomatik olarak durdurulmadığını belirtti.

Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi için iç denetim sistemini güncellediğini, ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak sistem üzerinde çalıştığını bildirdi.

OpenAI, 17 Eylül’de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini duyurmuştu.

Benzer Haberler

Tümü
Kocaelispor’un Selçuk İnan ile “istikrarlı birlikteliği”
Kocaelispor’un Selçuk İnan ile “istikrarlı birlikteliği”
Bakan Işıkhan: İŞKUR’un hizmetlerini dijital dönüşüm, beceri geliştirme ve kapsayıcı istihdam ekseninde güçlendiriyoruz
Bakan Işıkhan: İŞKUR’un hizmetlerini dijital dönüşüm, beceri geliştirme ve kapsayıcı istihdam ekseninde güçlendiriyoruz
OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı
OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı
Kalp kriziyle gittiği hastanede prostat kanseri olduğunu öğrenen kişi sağlığına kavuştu
Kalp kriziyle gittiği hastanede prostat kanseri olduğunu öğrenen kişi sağlığına kavuştu
TH TürkHaber TV 2015 © Tüm hakları saklıdır.