Claude'da Erişim Krizi: Sorunun Kaynağı Microsoft Çıktı
Claude'da Erişim Krizi: Sorunun Kaynağı Microsoft Çıktı
İçeriği Görüntüle

Sistem, bilinen içeriklerin dijital izleriyle eşleşmeyen yeni görselleri ve yapay zekâyla üretilmiş olabilecek materyalleri görsel işaretler üzerinden analiz ediyor. Araç, güvenlik ekiplerine hangi görsellerin eğitimli insan incelemesinde önceliklendirilmesi gerektiğini gösteren risk puanları sağlıyor. OpenAI, NCMEC’in katkısıyla geliştirilen sınıflandırıcının onaylanmış çocuk güvenliği kuruluşları, ilgili sivil toplum kuruluşları ve yetkili ekipler için API üzerinden ücretsiz erişime açılacağını bildirdi. Sınıflandırıcı tek başına hukuki karar vermiyor. İnsan denetimi zorunlu kalacak.

Yeni Görselleri Belirlemeyi Amaçlıyor

Geleneksel hash eşleştirme sistemleri daha önce doğrulanmış içeriklerin kopyalarını tespit edebiliyor. Yeni sınıflandırıcı ise daha önce görülmemiş, dönüştürülmüş veya yapay zekâyla üretilmiş olabilecek materyaller için ek bir sinyal sunmayı hedefliyor.

Sistem her görüntü için risk puanları üretiyor. Bu puanlar tek başına bir içeriğin yasa dışı olduğunu veya çocuk istismarı materyali olduğunu kesinleştirmiyor; eğitimli inceleme ekiplerinin öncelik sırasını belirlemesine yardımcı oluyor.

Onaylı Kuruluşlara Ücretsiz Erişim

OpenAI, aracın uygun güvenlik süreçlerine sahip ve başvurusu onaylanmış kuruluşlara ücretsiz sağlanacağını açıkladı. Sınıflandırıcı; güvenlik ekipleri, çocuk koruma kuruluşları ve yetkili kolluk birimleri gibi sınırlı kullanım alanları için tasarlandı.

Şirket, aracın NCMEC’in desteğiyle geliştirildiğini ve Tech Coalition ile ROOST gibi kuruluşlarla erişimin yaygınlaştırılması konusunda çalıştığını belirtti. Sınıflandırıcının mevcut hash eşleştirme, davranış analizi ve insan incelemesi sistemlerinin yerine değil, bunlara ek olarak kullanılması öneriliyor.

ChatGPT’de Uyarı Mekanizması

OpenAI ayrıca ChatGPT’de çocuk istismarı içeriği arama girişimlerini kesintiye uğratacak yeni uyarılar uygulayacağını duyurdu. İşaretlenen sohbetlerin kaldırılması, ilk aşamada geçici erişim kısıtlaması ve tekrarlanan ihlallerde daha uzun yaptırımlar uygulanması planlanıyor.

Şirket, araçların yanlış pozitif ve yanlış negatif sonuçlar üretebileceğini kabul ediyor. Bu nedenle sınıflandırıcı puanının tek başına hukuki karar veya bildirim yükümlülüğü oluşturmadığı, insan denetiminin zorunlu olduğu vurgulanıyor.

Kaynak: GZT