Apple soll künftig angeblich Fotos auf dem iPhone auf Kindesmissbrauch prüfen
Puh, schwieriges Thema... Schon seit einiger Zeit ist das iPhone ja bekanntermaßen in der Lage, die lokal gespeicherten Fotos auf deren Inhalte zu analysieren und dabei beispielsweise Objekte oder auch Gesichter zu erkennen. Diese Funktion wird ab morgen offenbar weiter ausgebaut. So berichtet der Sicherheitsforscher und Professor an der Johns Hopkins University Matthew Green, dass Apple ab morgen das iPhone in die Lage versetzen wird, die auf ihm lagernden Bilder auch auf darauf möglicherweise zu sehenden Kindesmissbrauch zu überprüfen. Für die auf die iCloud-Server hochgeladenen Bilder gilt dies bereits seit einiger Zeit.
Die Überprüfung auf dem iPhone soll dadurch geschehen, dass Hashwerte von bekannten Missbrauchs-Fotos an das iPhone gesendet werden und die darauf gespeicherten Fotos damit dann abgeglichen werden. Auf den ersten Blick sicherlich ein sinnvoller und begrüßenswerter Schritt, der auf der anderen Seite allerdings auch durchaus negative Nachwirkungen haben kann.
These tools will allow Apple to scan your iPhone photos for photos that match a specific perceptual hash, and report them to Apple servers if too many appear.
— Matthew Green (@matthew_d_green) August 5, 2021
So sind die Hashwert-Abgleiche keinesfalls eine sichere Methode, um die Bilder zu checken, so dass es durchaus wahrscheinlich ist, dass es vermehrt zu sogenannten False-Positives kommen kann, also Meldungen einer Erkennung, obwohl auf dem Foto komplett harmlose Motive zu sehen sind. Dies wiederum könnte dann zu Beschuldigungen von Personen führen, die sich eigentlich gar nichts zu schulden haben kommen lassen. Gerade beim Thema sexueller Missbrauch von Kindern ein mehr als dünnes Eis. Wie Green zu bedenken gibt, ist es zudem möglich, Bilder bewusst so zu manipulieren, dass der Erkennungs-Algorithmus Alarm schlägt. Möchte man jemandem also etwas anhängen und verfügt über die entsprechenden Möglichkeiten, wäre auch dies möglich.
Eine große Gefahr sieht der Sicherheitsexperte außerdem darin, dass das sogenannte "digital fingerprinting" von Behören und totalitären Regimen auch dazu genutzt werde könnte, um nicht nur Kinderpornografie zu entdecken, sondern auch beliebige andere Inhalte. Wird also die entsprechende Infrastruktur auf Basis der Hashwerte auf den Geräten erst einmal eingerichtet, könnte man hiermit beispielsweise auch andere Inhalte auf dem iPhone, wie beispielsweise die eigentlich Ende-zu-Ende verschlüsselten iMessage-Nachrichten mit entsprechenden Informationen abgleichen und diese somit mehr oder weniger ausspionieren. Ein Thema, welches gerade auch im Rahmen der Diskussion um die Pegasus-Spyware heiß diskutiert wurde.
Zu bedenken gilt es dabei aktuell noch, dass sich Apple offiziell zu dem Thema noch gar nicht geäußert hat, es sich momentan also nur um ein Gerücht handelt. Sollte das Thema jedoch tatsächlich umgesetzt werden, fordert Green, dass Apple die verwendeten Algorithmen offenlegt, um sie von unabhängigen Stellen auf Herz und Nieren prüfen zu lassen. Allerdings äußert Green auch Bedenken, ob Apple das Thema überhaupt öffentlich bekannt machen wird.
Apple should commit to publishing its algorithms so that researchers can try to develop “adversarial” images that trigger the matching function, and see how resilient the tech is. (I will be pleasantly but highly surprised if Apple does this.)
— Matthew Green (@matthew_d_green) August 5, 2021
Trackbacks
Keine Trackbacks
Kommentare
Ansicht der Kommentare: Linear | Verschachtelt
Rolf am :
SOE am :
Damit wäre das ja geklärt.
Hartmut am :
Uwe am :
Paddi am :
Ich begr\374\337e das sehr! Datenschutz ist wichtig, aber bei so einem Thema, was leider immer mehr \374berhand nimmt, ist mir jede Hilfe recht, damit so viele Kinder wie mir m\366glich davor bewahrt werden.
Die Bilder werden ja eh schon l\344nger getagt, damit man nach \u201eMeer\u201c, \u201eAuto\u201c etc. suchen kann. Dann k\366nnen verd\344chtige Bilder gerne an eine spezielle Abteilung ausgesteuert werden.
Da muss nat\374rlich der Datenschutz absolut beachtet werden und wenn sich ein verd\344chtiges Bild als harmlos herausstellt, dieses sofort wieder entfernt werden.
SOE am :
Kindesmi**brauch ist zwar das beliebteste Argument für jede Art Überwachung (jedenfalls seit Terrorismus nicht mehr zieht), aber dass dies "immer mehr Überhand nimmt" behaupten nicht mal die Verfechter der Überwachung.
Zweitens bleibt der Beweis schuldig, dass dadurch nur ein einzelner Mi**brauch verhindert wird. Das Argument ist also weiter hinfällig.
Falls du es nicht weisst, Facebook verwechselt Tische mit Pistolen, Warner hat das Miauen einer Katze wegen Urheberrechtsverletzung sperren lassen und wie gut das Erkennen von Gesichtern funktioniert, kannst du selber testen.
Aber selbst, wenn man annehmen würde, das die Technik perfekt wäre und außer Acht lässt, dass die Gesetze je nach Land unterschiedlich ausfallen:
Wenn der Verdacht besteht, steht die Polizei vor der Tür. Kannst du dir einen Anwalt suchen. Und direkt danach eine neue Familie und einen neuen Job.
Denn wie du selbst beweist: Bei Verdacht auf Kindesmi**brauch brechen alle Dämme. Die Leben der Beschuldigten und der ganzen Familie sind zerstört. Nur durch den aufkommenden Verdacht.
Nein, um vielleicht eine/n doofen Täter/in zu finden (weil der/die die Bilder tatsächlich auf dem iPhone hat) sind mir tausende Unschuldig von der Gesellschaft verurteilte nicht recht.
Anonym am :
Pascal am :
Nordrocker am :
Super Kommentar.
Bei Microsoft gibt es auch bereits etliche F\344lle wo Userkonten gesperrt wurden und die User sich nicht erkl\344ren k\366nnen warum dies so ist. Die bekommen nicht einmal eine vern\374nftige Erkl\344rung.
Ich steh voll dahinter das man gegen Kinderpornografie vorgeht, aber nicht auf diese Art wo User Gefahr laufen verd\344chtigt zu werden obwohl sie sich nichts zu Schulden kommen lassen.
Wahrscheinlich l\366sche ich am besten direkt alle Fotos meiner Enkel, denn da sind die im Pool im Garten auch mal nur in Badehose zu sehen. Am Ende reicht das dann schon damit der Staatsanwalt klingelt und mein Konto f\374r immer gesperrt wird.
Titanpfennig am :
Generell sinken langfristig gesehen bei uns die F\344lle von Gewaltkriminalit\344t.von Jahrzehnt zu Jahrzehnt. Unser Alltag wird auch insofern immer sicherer, nicht gef\344hrlicher.
Heinz Berlin am :
wirklich niemand sollte ohne richterlichen Beschluss in der Lage sein, fremde Telefone etc zu durchsuchen, zu analysieren usw.
Weder eine nat\374rliche, noch eine rechtliche Person.
Das w\374rde sich auch nicht mit dem Datenschutz vertragen, den ich selber in vielem f\374r \374bertrieben halte. Egal, wie anonym der Inhaber des Ger\344ts dabei bleibt, es geht ohne richterlichen Beschluss niemanden etwas an, was auf dem Telefonie (etc) anderer so drauf ist.
Wie gesagt: nicht ohne richterlichen Beschluss.
Sind wir \u201eim Westen\u201c nicht stolz darauf in einem demokratischen Rechtsstaat zu leben?
Aber es ist ja zun\344chst nur ein Ger\374cht.
Danke an Floh f\374r den sensiblen Umgang mit dem Thema!!!
Kuchen am :
Jsenze am :