İçeriğe geç
17 Kasım 2026 SalıMuhabir.App haber ağı üyesi
Teknoloji

OpenAI, çocuk istismarı görsellerini belirleyen aracını devreye alıyor

Şirket, aracı onaylanmış kuruluşlara ücretsiz sunacak. ChatGPT’de çocuk istismarı içeriği arandığında uyarı gösterilecek; işaretlenen sohbet kaldırılıp erişim 24 saat durdurulacak.

OpenAI, çocuk istismarı görsellerini tespit eden aracı kuruluşlara açıyor

OpenAI, çocukların istismarını içeren çevrim içi görselleri tespit etmeye yönelik yeni bir sınıflandırma aracı geliştirdiğini ve sistemi onaylanmış kuruluşların kullanımına ücretsiz sunacağını duyurdu. Şirketin internet sitesindeki açıklamaya göre araç, yapay zekâ tarafından üretilen görselleri de belirleyebiliyor.

Sistem, daha önce tespit edilmemiş görsellerdeki işaretleri analiz ediyor ve inceleme ekiplerine hangi görüntülerin öncelikle değerlendirilmesi gerektiğini gösteren puanlar veriyor.

OpenAI, aracın yapay zekâ tarafından üretilmiş çevrim içi çocuk istismarı içeriklerini tespit etmeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirtti.

Şirket, mevcut güvenlik önlemlerine ek olarak ChatGPT’de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak uyarılar uygulayacağını da bildirdi. Uyarıda, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zekâ tarafından üretilmiş olsa bile zarara yol açtığı kullanıcıya aktarılacak.

İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT’ye erişimi 24 saat durdurulacak; bu sırada zararlı davranışları sonlandırmaya yönelik uzman desteği sunulacak. İhlallerin tekrarlanması halinde daha uzun kısıtlamalar, hesabın kapatılması veya durumun yetkililere bildirilmesi gündeme gelebilecek.

OpenAI, yaklaşımın çocuk istismarını önlemek için çalışan kuruluşların ve akademik danışmanların katkısıyla geliştirildiğini açıkladı.

Dosyadan: bu konuda daha önce

  1. Yapay zekâ bağlantılı çocuk istismarı ihbarları hızla arttı
  2. Avrupa ilaç üretimini geri istiyor, ancak tesisler yıllar alıyor
 
Yazı İşleri Muhabir.App platformu üyesidir.