Teknoloji

OpenAI, yapay zeka üretimi çocuk istismarı görsellerini saptayan araç geliştirdi

OpenAI, yapay zeka tarafından oluşturulanlar da dahil olmak üzere çocuk istismarına ilişkin çevrim içi görüntüleri tespit edebilen yeni bir sınıflandırma aracı geliştirdi. Şirket, sistemi onaylı kuruluşlara ücretsiz sunacak ve ChatGPT'de çocuk istismarı içeriği arayan kullanıcıların erişimini 24 saat boyunca askıya alacak.

16 Kasım 20262 dk okuma0 yorum
OpenAI, yapay zeka üretimi çocuk istismarı görsellerini saptayan araç geliştirdi
Haberi dinle
Özet hazır
Reklam Alanı · 728×90

Yapay zeka şirketi OpenAI, yapay zeka tarafından oluşturulanlar da dahil olmak üzere çocukların istismarına ilişkin çevrim içi görüntüleri tespit edebilen "yeni bir sınıflandırma aracı" geliştirdiğini açıkladı.Şirketin internet sitesinde yayımladığı açıklamaya göre yeni görüntü sınıflandırma aracı, çocuk istismarı içeren ve daha önce belirlenememiş görselleri saptamak amacıyla görsel göstergeleri inceliyor.Araç, inceleme ekiplerine hangi görüntülere öncelik verilmesi gerektiğini gösteren puanlar sağlıyor.OpenAI, yapay zeka tarafından üretilen çevrim içi çocuk istismarı içeriklerini belirlemeye yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olduğunu belirttiği sistemi, onaylanmış kuruluşların kullanımına ücretsiz olarak sunacak.ChatGPT'de zararlı davranışlara karşı uyarılar uygulanacakOpenAI, mevcut güvenlik tedbirlerine ilave olarak ChatGPT'de çocuk istismarı içeriği arama girişimlerini sekteye uğratacak yeni uyarı mekanizmalarını devreye alacağını bildirdi.Bu çerçevede kullanıcıya, çocuklara yönelik istismar kapsamına girebilecek içeriklerin yapay zeka aracılığıyla hazırlanmış olsa bile zarara neden olduğu anlatılacakİşaretlenen sohbet silinecek ve kullanıcının ChatGPT'ye erişimi 24 saat süreyle askıya alınacak.

Bu süre içinde zararlı davranışların sona erdirilmesine yardımcı olmak amacıyla uzman desteği de sağlanacak.İhlallerin yinelenmesi durumunda daha uzun süreli kısıtlamalara gidilebilecek; hesabın kapatılması ya da durumun yetkililere aktarılması gündeme gelebilecek.Şirket, söz konusu yaklaşımı çocuk istismarını önleme çalışmaları yürüten kuruluşların ve akademik danışmanların katkılarıyla geliştirdiğini açıkladı. ???????

#Güncel#Haberler
İlginizi Çekebilir
Yorumlar (0)
0/500

Yorumlar editör onayından sonra yayınlanır.

Henüz yorum yok. İlk yorumu siz yapın.