USD50,44EUR55,32ALTIN6.045,00Ankara12° Bulutlu3:51İMSAK'AKALAN SÜRE
Teknoloji

OpenAI, çocukların çevrim içi istismarını tespit etmek için yeni yapay zeka aracı geliştirdi

Yapay zeka şirketi OpenAI, çocukların istismarına ilişkin çevrim içi görüntüleri, yapay zeka tarafından üretilenler de dahil olmak üzere, tespit edebilen “yeni bir sınıflandırma aracı” geliştirdiğini duyurdu.

OpenAI, çocukların çevrim içi istismarını tespit etmek için yeni yapay zeka aracı geliştirdi

Şirketin internet sitesinde yayımlanan açıklamaya göre, yeni görüntü sınıflandırma aracı, çocukların istismarını içeren ve daha önce tespit edilmemiş görselleri belirlemek için görsel işaretleri analiz ediyor.

Araç, inceleme ekiplerine hangi görüntülerin öncelikli olarak değerlendirilmesi gerektiğini gösteren puanlar sunuyor.

OpenAI, yapay zeka tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşların kullanımına ücretsiz sunacak.

ChatGPT’de zararlı davranışlara yönelik uyarılar devreye girecek

OpenAI, mevcut güvenlik önlemlerine ek olarak ChatGPT’de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak yeni uyarı mekanizmaları uygulayacağını duyurdu.

Bu kapsamda kullanıcıya, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zeka tarafından üretilmiş olsa dahi zarara yol açtığı açıklanacak

İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT’ye erişimi 24 saatliğine durdurulacak. Bu süreçte zararlı davranışları sonlandırmaya yönelik uzman desteği de sunulacak.

İhlallerin tekrarlanması halinde daha uzun süreli kısıtlamalar uygulanabilecek, hesabın kapatılması veya durumun yetkililere bildirilmesi söz konusu olabilecek.

Şirket, bu yaklaşımı çocukların istismarını önlemeye yönelik çalışmalar yürüten kuruluşlar ve akademik danışmanların katkısıyla geliştirdiğini bildirdi. ​​​​​​​

Benzer Haberler

Tümü
NASA’nın uzay aracı Voyager 1, Dünya’dan bir ışık günü uzaklığa ulaşarak tarihe geçti
NASA’nın uzay aracı Voyager 1, Dünya’dan bir ışık günü uzaklığa ulaşarak tarihe geçti
ASELSAN milli sağlık teknolojilerinde yeni ihracat anlaşmalarına imza attı
ASELSAN milli sağlık teknolojilerinde yeni ihracat anlaşmalarına imza attı
SSB Başkanı Haluk Görgün, Manisa Savunma Sanayii İl Buluşması’nda konuştu
SSB Başkanı Haluk Görgün, Manisa Savunma Sanayii İl Buluşması’nda konuştu
OpenAI, çocukların çevrim içi istismarını tespit etmek için yeni yapay zeka aracı geliştirdi
OpenAI, çocukların çevrim içi istismarını tespit etmek için yeni yapay zeka aracı geliştirdi
Apple, iPhone’larda planlı eskitme uyguladığı iddiasıyla Fransa’da yargılanacak
Apple, iPhone’larda planlı eskitme uyguladığı iddiasıyla Fransa’da yargılanacak
Küresel internet sitelerine siber saldırıyla zararlı kod yerleştirildi
Küresel internet sitelerine siber saldırıyla zararlı kod yerleştirildi
TH TürkHaber TV 2015 © Tüm hakları saklıdır.