Perşembe öğleden sonra verdiği bir brifingde Apple, daha önce iOS, macOS, watchOS ve iMessage’da potansiyel çocuk istismarı görüntülerini tespit edecek yeni teknoloji dağıtma planlarını doğruladı, ancak devam eden projeyle ilgili önemli ayrıntıları açıkladı. ABD’deki cihazlar için, bu sonbaharda kullanıma sunulan yeni iOS ve iPadOS sürümleri, “kullanıcı gizliliği için tasarım yaparken CSAM’in [çocuk cinsel istismarı materyalinin] çevrimiçi yayılmasını sınırlamaya yardımcı olacak yeni şifreleme uygulamalarına sahiptir.”
Proje ayrıca Apple’ın web sitesinde yeni bir “Çocuk Güvenliği” sayfasında ayrıntılı olarak açıklanmıştır. En istilacı ve potansiyel olarak tartışmalı uygulama, bir görüntü iCloud’da yedeklenmeden önce cihaz üzerinde tarama yapan sistemdir. Açıklamaya göre, bir dosya iCloud’a yedeklenene kadar tarama gerçekleşmez ve Apple yalnızca belirli bir hesap için şifreleme kuponları (görüntüyle birlikte iCloud’a yüklenir) eşleşen bilinen CSAM eşiğini karşılarsa eşleşmeyle ilgili verileri alır. .
Apple, gizliliği korumak için dahil edilen çeşitli kısıtlamaları açıkladı
Apple, Gmail ve diğer bulut e-posta sağlayıcılarındaki benzer sistemlerle uyumlu olarak, e-posta yoluyla gönderilen çocuk istismarı görüntülerini taramak için yıllardır karma sistemler kullandı.
Ayrıca,
Apple, raporlama doğruluğundan emin olmak için NCMEC’e yapılan tüm raporları manuel olarak inceler.
Kullanıcılar, bilinen CSAM görüntülerinin veritabanına erişemez veya bunları görüntüleyemez.
Kullanıcılar, hangi görüntülerin sistem tarafından CSAM olarak işaretlendiğini belirleyemiyor
Yeni ayrıntılar, bu haftanın başlarında sızdırılan endişeler üzerine kurulu, ancak aynı zamanda gizliliğe karşı koruma sağlaması gereken bir dizi önlem de ekliyor. Böyle bir sistemin riskleri. Özellikle, eşik sistemi, tek başına hataların uyarı oluşturmamasını sağlayarak Apple’ın yılda trilyon kullanıcı başına bir yanlış uyarı hata oranını hedeflemesine olanak tanır. Karma sistemi aynı zamanda Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi (NCMEC) tarafından işaretlenen materyaller ve iCloud Photos’a yüklenen resimlerle sınırlıdır. Bir uyarı oluşturulduktan sonra, kolluk kuvvetlerini uyarmadan önce Apple ve NCMEC tarafından incelenir ve CSAM dışı içeriği tespit etmek için kullanılan sisteme karşı ek bir koruma sağlar.
Apple, sistemin üç teknik değerlendirmesinden sorumlu teknik değerlendirmesini yapar. matematiksel olarak sağlam olduğunu bulan bağımsız kriptograflar (PDF 1, 2 ve 3). “Bana göre bu sistem, bu tür resimlere sahip olan veya bu tür resimlerde trafik çeken kişilerin (zararlı kullanıcılar) bulunma olasılığını önemli ölçüde artıracaktır; Bu, çocukları korumaya yardımcı olmalı,” dedi Illinois Üniversitesi’nde bilgisayar bilimleri başkanı Profesör David Forsyth değerlendirmelerden birinde.
Bu, uzun süredir ülke içinde iPhone kullanıcı verilerine daha fazla erişim sağlamak isteyen Çin hükümetinin sistemin nasıl kötüye kullanılabileceği konusundaki endişeleri artırıyor.
Müstehcen fotoğraflar tespit edildiğinde çocuklar ve ebeveynler için Örnek Mesajlar uyarısı. Fotoğraf: Apple
iCloud Photos’taki yeni önlemlerin yanı sıra Apple, genç iPhone sahiplerini çocuk istismarı riski altında korumak için iki ek sistem ekledi. Mesajlar uygulaması, potansiyel olarak müstehcen içeriği tespit etmek için çocuk hesapları için cihazda resim eklerini zaten taradı. Tespit edildiğinde içerik bulanıklaşır ve bir uyarı belirir. Ebeveynlerin aile iCloud hesaplarında etkinleştirebilecekleri yeni bir ayar, çocuğa algılanan görüntüyü görüntülerse (gelen) veya gönderirse (giden) ebeveynlerinin bu konuda bir mesaj alacağını bildiren bir mesajı tetikler.
Apple ayrıca Siri ve Arama uygulamasının çocuk istismarı görüntüleri hakkındaki sorgulara nasıl yanıt verdiğini de güncelliyor.
