Skip to content

Apple scannt iCloud-Fotos auf Hinweise auf Kindesmissbrauch

Geschrieben von Florian Schimanke am

Apple legte in diesem Jahr einen seltenen Auftritt auf der CES in Las Vegas hin, weniger um dabei neue Produkte zu zeigen, sondern um über das Thema Datenschutz zu referieren und zu diskutieren. Dabei ging es unter anderem auch um die Sicherheit und den Schutz von Kindern und Apple hat dazu sogar eine eigene kleine Webseite unter dem Titel "Our Commitment to Child Safety" online gestellt. Darn informiert Apple unter anderem auch darüber, dass die auf iCloud hochgeladenen Bilder und Fotos automatisiert auf elektronische Signaturen geprüft werden, die auf den Missbrauch von Kindern hinweisen. Sollte eine solche Signatur gefunden werden, werden nicht nur die entsprechenden Bilder entfernt, sondern auch der zugehörige Account gesperrt. Apple schreibt dazu:

Apple is dedicated to protecting children throughout our ecosystem wherever our products are used, and we continue to support innovation in this space. We have developed robust protections at all levels of our software platform and throughout our supply chain. As part of this commitment, Apple uses image matching technology to help find and report child exploitation. Much like spam filters in email, our systems use electronic signatures to find suspected child exploitation. We validate each match with individual review. Accounts with child exploitation content violate our terms and conditions of service, and any accounts we find with this material will be disabled.

Trackbacks

Keine Trackbacks

Kommentare

Ansicht der Kommentare: Linear | Verschachtelt

Wolfgang am :

Gute Sache, muss man unterst\374tzen.
Aber was ist, wenn die ausgekl\374gelte Software mal ein harmloses Bild beanstandet? Sowas kommt ja h\344ufiger, z.B. auf Facebook, vor.
Sind dann trotzdem alle privaten Fotos gesperrt/gel\366scht?
Ich denk jetzt nur mal an Eltern, die mit ihren Kindern baden....
Zack, alle Familienerinnerungen weg.
Ist bekannt, ob es da einen Ansprechpartner zur Kl\344rung gibt?

maerkava am :

Ich wei\337 nicht, wie es bei Apple in so einem Fall l\344uft, aber ich gehe davon aus, dass, wenn die Software etwas Verd\344chtiges findet, es danach noch von einem Mensch gepr\374ft werden muss. Erst dann erfolgt wahrscheinlich erst eine Ma\337nahme

Fl0r am :

Na hoffentlich haben die Menschen, die extra zum Pr\374fen da sind, ein halbwegs sauberes F\374hrungszeugnis gef\344lscht...\344h abgegeben.
Diese Jobs k\366nnten sehr begehrt sein \ud83d\ude10

Alex am :

\u201eWe validate each match with individual review.\u201c

Da schaut dann wohl noch jemand dr\374ber. ^^

Peter am :

iCloud ist verschl\374sselt, selbst Apple hat den Schl\374ssel nicht... und jetzt durchsucht Software die Fotos und Mitarbeiter pr\374fen!? Wie passt das zusammen?

Fred am :

Das hab ich mir auch gedacht. Gibt es da irgendwo weitere Hintergrundinfos?

Anonym am :

Die Signatur der Fotos wird auf den Ger\344ten (iPhone, Mac, etc.) selbst errechnet und anschlie\337end separat zu den Bilddaten \374bertragen. Wie der Review stattfinden soll, ist mir dennoch schleierhaft.

Heinrich am :

Ich kann es dir nicht erkl\344ren - aber Apple kann somit verschl\374sselte Daten lesen.
Ich bin entsetzt, wie Apple mit den Daten der Kunden umgeht.

Heinrich am :

Sie haben damit auch Zugriff auf andere Daten, nicht nur das Kinder... - gilt nur als Vorwand.

Gruml am :

Es gibt nur einige Bereiche der iCloud, wo es tatsächlich schon Ende zu Ende Verschlüsselung gibt, und Apple wirklich keinen Schlüssel hat (z.b. bei den Messages). In vielen anderen Bereichen hat Apple bisher nur die Absicht erklärt, den Schlüssel los zu werden, sind aber eben noch nicht so weit.

Aktuell muss man daher davon ausgehen, dass die meisten Daten in der iCloud von Apple (und Behörden) einsehbar sind.

D.h. das ist wie absolut überall sonst auch: auf Daten in einer Cloud hat man keine Kontrolle mehr.

Gruml am :

Kleine Ergänzung:
Die iMessage ist zwar Ende zu Ende verschlüsselt und der Schlüssel nicht in Besitz von Apple.... außer man speichert das Backup des Geräts auch in der iCloud. Dann kommt der Schlüssel durch das Backup mit auf die iCloud, und für das Backup hat Apple aber noch den Schlüssel.

D.h. selbst die Dinge, für die Apple schon den Schlüssel nicht mehr selbst speichert, kann man durch unbedachtes speichern anderer Daten den Schlüssel doch in Apples Zugriff bringen, und damit hat man doch wieder die Kontrolle verloren...

SOE am :

Hier bei Apple ist genau beschrieben, welche Teile der iCloud wie verschlüsselt sind.

https://support.apple.com/de-de/HT202303

Es gibt nun mal verschiedene Arten der Verschlüsselung. Wenn nicht "ende-zu-ende-verschlüsselt" ist, bedeutet es, dass die Daten im Klartext auf dem Server liegen.

Heinrich am :

In dem Link steht aber, dass Fotos verschl\374sselt sind - und Apple best\344tigt, da\337 die Bilder manuell gepr\374ft werden - wie funktioniert das, dass Kinder... angesehnen werden k\366nnen, Industrieinformationen aber nicht???

SOE am :

Ok, ich habe mich falsch ausgedrückt.

Es gibt die reguläre Verschlüsselung, bei der Apple den Schlüssel zur Entschlüsselung besitzt.
Und es gibt die Ende-zu-Ende-Verschlüsselung, bei der Apple den Schlüssel nicht besitzt.

iMessage-Nachrichten werden bspw mit einem Schlüssel verschlüsselt, der direkt auf den jeweiligen Geräten generiert wird. Apple kann diese Nachrichten als nicht Entschlüssen.

Fotos, Lesezeichen, etc. werden ebenfalls verschlüsselt, allerdings mit einem Schlüssel von Apple. Siehe dafür die Tabelle in dem Apple-Link.

Darunter ist der Absatz "Ende-zu-Ende-verschlüsselt" für die Apple keinen Schlüssel hat.

Bezüglich Industrie:
Apple weist daraufhin, dass ein regulärer Apple-Account nicht geschäftlich/gewerblich verwendet werden darf. Und natürlich stoßen die Kontrolleure bei Ihrer Suche nach KiPo möglicherweise auch auf Geschäftsgeheimnisse.

Wer sich für eine Cloud interessiert, für dessen Daten der Anbieter keinen Schlüssel hat, sollte sich MEGA oder TRESORIT ansehen.

iDirk am :

Da bin ich mal gespannt.
Ich hab 2 Fotos, aus 2002, von einer damals frisch behandelten VH-Verengung eines Kindes in der cloud liegen. \ud83d\ude31

Peter am :

Cloud hei\337t Cloud weil man nie wei\337,
wer einem die Daten klaut.

Klaus am :

We validate each match with individual review

Somit k\366nnen sie alle Daten sehen / auch Forschung und Entwicklungsbilder

Wo ist nun der Schutz?

Rolf am :

Ja, was ist mit den Schutz von Firmengeheimnissen? W\344hrend ich es gut finde, Kinderpornografie aufzudecken, so befremdlich finde ich, dass ja dann alles sichtbar sein kann, auch das noch nicht zum Patent angemeldete Produkt.

Martin am :

Da geht\u2019s sehr sicher um Hash-Werte bekannte Serien und nicht um echte Bilderkennung.

RR703 am :

Apple sollte doch einfach Klarheit schaffen, wie sie technisch die Bilder kontrollieren wollen.
Ohne eine klare Antwort von Apple ist alles nur Spekulation.

\334brigens sollte man seine Daten immer verschl\374sselt in einer Cloud ablegen, so man denn seine Daten sicher ablegen m\366chte.

Klaus am :

Und womit unter ios?

Kasimir Koslowski am :

Auf \u201eeigene Faust\u201c gegen Kinderpornographie? Sehr lobenswert und mutig, aber darf Apple sich einfach so die in die Cloud hochgeladenen Fotos anschauen/scannen? Das darf nicht mal die Kripo ohne entsprechenden Gerichtsbeschluss.

Kommentar schreiben

Die angegebene E-Mail-Adresse wird nicht dargestellt, sondern nur für eventuelle Benachrichtigungen verwendet.
Umschließende Sterne heben ein Wort hervor (*wort*), per _wort_ kann ein Wort unterstrichen werden.
Formular-Optionen