Skip to content

Kommentar: Vorgänge in Russland zeigen das Risiko bei Apples geplanten Kinderporno-Scans

Geschrieben von Florian Schimanke am

Falls es noch eines eindeutigen Belegs dafür bedurfte, warum Apples geplante Scans der Nutzer-Mediatheken auf kinderpornigrafische Inhalte eine unfassbar schlechte Idee war, liefert das Unternehmen diesen nun selbst. In Russland deaktivierte Apple in der zurückliegenden Woche auf Druck der dortigen Regierung nicht nur die neue Private Relay Funktion von iCloud, man entfernte auch eine App der Opposition aus dem russischen AppStore, nachdem die Regierung örtlichen Apple-Mitarbeitern mit Strafen gedroht habe, sollte dies nicht geschehen. Auch Google knickte diesbezüglich vor dem Kreml ein.

Kritiker sehen in den grplanten Scans der Fotomediatheken eine bedenkliche Hintertür in Apples Systeme, die eben durch eine einfache Änderung des Algorithmus nicht nur zur Suche nach kinderpornografischen Inhalte genutzt werden kann, sondern auch nach bestimmten Symbolen von Regimekritikern und ähnlichen Inhalten. Apple argumentierte stets, dass man dies nicht zulassen werde, da man ja schließlich durch die manuelle Kontrolle als letzten Schritt immer noch das finale Wort habe. Die Vorgänge in Russland sind nun das perfekte Beispiel dafür, dass diese Argumentation nicht funktioniert.

Schon in der Vergangenheit musste sich Apple immer wieder lokalen Gesetzgebungen und Bestimmungen in verschiedenen Regionen der Welt beugen, Apps mit bestimmten Funktionen und Inhalten aus dem AppStore entfernen oder Features seiner Geräte deaktivieren. Dies ist völlig normal und für einen weltweit agierenden Konzern auch nicht ungewöhnlich. Es zeigt allerdings auch die Gefahren, die Apple bezüglich der geplanten Kinderporno-Scans noch immer nicht einsehen oder einräumen will.

Inzwischen meldete sich mit Matthew Green auch der Sicherheitsforscher zu Wort, der Apples Kinderpornoscan-Pläne als erster publik gemacht hatte und schlägt in dieselbe Kerbe

Apple spent the entire summer telling the public that they were confident they could resist government pressure, when defending their CSAM scanning system. Today they’re pulling voting guides from the Russian App Store. What changed in a month?

Apple’s defense of removing voting guides is that they have to obey the law of the nations they operate in. And yet if legislators demand they expand their image scanning corpus, they say they will refuse. They intend to break the law in that case, but not this one?

Mit den Vorgängen in Russland kann Apple eigentlich nicht mehr allen Ernstes argumentieren, dass man Forderungen von repressiven Regimen widerstehen würde, die Kinderporno-Scans auch auf andere Inhalte auszuweiten. Nach der massiven Kritik von Experten und Nutzern zur Einführung der Kinderschutz-Funktionen mit iOS 15 in den USA hat Apple die Pläne aktuell auf Eis gelegt. Im offiziellen Sprachgebrauch heißt es, man wolle sich mehr Zeit nehmen, um die verschiedenen Bedenken und Positionen in die Technologie einfließen zu lassen. Aufgeschoben heißt hier aber nicht aufgehoben. Allerdings gehen Apple zunehmend die Argumente gegen die Kritik aus.

Wer die gesamte Story und ihre Auswirkungen noch einmal nachverfolgen möchte, findet anschließend die entsprechenden Links:

Trackbacks

Keine Trackbacks

Kommentare

Ansicht der Kommentare: Linear | Verschachtelt

Anonym am :

Aufgeschoben, das ich nicht lache. Apple wird versuchen uns den Mist Klammheimlich mit einem Update wenn Gras \374ber die Sache gewachsen ist,unterzuschieben. Die wissen ganz genau was sie da machen.

SOE am :

So wie der Schlüssel für die chinesische iCloud auch direkt in China liegt und - ich sagte es schon mal - auch die bunten Armbänder nicht in Russland verkauft werden, weil das als "h*m*se*uelle Propaganda" eingestuft werden würde.

Aber schön, dass es gerade zufällig zusammenfällt. Schlecht für die Russen, aber vielleicht gut für den Rest der Welt.

Febi am :

Ich finde es gut das Apple nach Kinderpornographie scannt. Das ist in meinen Augen das letzte und neben Vergewaltigung sollte es wie Mord mindestens bestraft werden. Eher noch h\344rter als alles andere. Meine Meinung. F\374r mich sind das keine Menschen. Ebenso habe ich nichts mit Regimekritik am Hut, also mich st\366rt das nicht. Soll bitte kommen.

udo am :

Dann hast du ja auch sicher nichts dagegen dass die Geheimdienste in Deutschland deine Bilder scannen nach bekannten Gesichtern oder nach Symbolen von zum Beispiel Querdenkern oder abweichende Parteien. Selbst wenn du damit nichts zu tun hast und nur zuf\344llig ein solches Symbol fotografiert hast w\374rdest du danach in den \334berwachungsapparat kommen

Febi am :

Ich bin ein ehrlicher Mensch und habe nichts zu verbergen. Alles andere ist doch Spinnerei. Sorry

Matte am :

Das kannst nur so locker sagen, weil du in einem freien Land lebst. Millionen andere tun das nicht. Also sehr kurzsichtig und egoistisch gedacht.

SteveWeHo am :

Welche Ehrlichkeit meinst du? Deine oder die der Andersdenkenden?

Febi am :

Meine nat\374rlich

Markus am :

Du bist wirklich drollig-s\374\337, Febi\u2026.\ud83d\ude00

JRS am :

Du bist in erster Linie sehr jung oder sehr naiv.

Helmut am :

Passiert doch schon! Vor der eigenen Haust\374re sollte man kehren.
https://www.rnd.de/politik/spionagesoftware-pegasus-bka-kauft-heimlich-ueberwachungssoftware-von-nso-I6WAFY7G4VF6LH3S7OVQUUGI7Q.html

SOE am :

Erstens scannt Apple nicht nur nach KiPo, sondern auch nach ähnlichen Bildern, die manuell geprüft werden. Wie der Computer das kontrolliert, lässt Apple nicht prüfen.
Wenn dein Account wegen einem falsch kategorisierten Bild plötzlich gesperrt ist, wirst du wissen, wo das technische Problem ist.

Zweitens wird dadurch kein Kind geschützt und kein mutmaßlicher Täter gefasst. Es ist eine reine Showmassnahme, die nur Unschuldige treffen wird.

Drittens, - dein Kommentar ist der Beweis - schalten die Menschen bei KiPo den Verstand ab. Weshalb es ein beliebtes Mittel ist, um eine Technik/Regel einzuführen, die dann für alles andere verwendet wird.
Wie die Handyüberwachung oder das präventive Einsperren ohne Grund. Für Terroristen und KiPo eingeführt, wird es gegen Journalisten und friedliche Demonstrantionsinteressierte benutzt. In Deutschland.

Und damit kommen wir zum Vierten:
Es ist egal, ob du glaubst, du hättest nichts zu verbergen. Oder würdest dich nicht illegal verhalten. Das bestimmen andere.

Thom am :

Wie kann man nur so blau\344ugig durch die Welt streifen?
Lies dich mal ein im Netz, z.B. hier: https://www.datenschutzexperte.de/blog/datenschutz-im-internet/nichts-zu-verbergen-argument/

Oder hier: https://digitale-freiheit.jetzt/wir-wissen-alles/

\u2026und auf vielen anderen Seiten\u2026
Du hast im Grundsatz Recht - Kinderpornografie ist schlimm, geh\366rt verboten und die Schuldigen bestraft. Aber die Mittel machen mir hier eben Bauchschmerzen\u2026

SG am :

In meinem iPhone d\374rfen die gerne nach allen illegalen Dingen scannen, w\374rde ich zum Schutz der Allgemeinheit generell begr\374\337en und auch selber \u201eaktivieren/mitgehen\u201c!

Das die nach anderen Dingen wie Querdenkern Ausschau halten oder nach ungew\374nschten Parteien ist schon wieder k\374nstliches Drama, nix anderes als Aufbauschen und total fernab der Realit\344t\u2026 Schwachsinniges Gerede!

Kinderpornografie geh\366rt definitiv ans Tageslicht gebracht, siehe Metzelder, h\344tte niemand mit gerechnet, will nicht wissen wieviele hohe Tiere schwarze Schafe sind!

SOE am :

Deshalb werden auch vom Verfassungsschutz auch Abgeordnete im Parlament illegal überwacht. Fragt die Polizei automatisch alle Mobilfunknummern an bei einer angemeldeten Demo. Werden Menschen, die sich für eine Demo interessieren präventiv eingesperrt.

Weil das alles künstliches Drama ist?
Nein, weil Waffen die vorhanden sind, genutzt werden.

Denke bitte daran, dass nicht du definierst, was illegal ist.

Nebenbei, fast alle Fälle von KiPo finden im privaten Umfeld statt. Vielleicht bei deinem Nachbar, vielleicht in deiner Familie? Es würde mehr helfen, wenn alle die Augen aufmachen und die "nette Tante" etwas kritischer sehen würden.

SG am :

Und Unschuldige k\366nnten sich in der Regal relativ schnell erkl\344ren und das beweisen\u2026 \ud83d\ude05

Ali b am :

Da glaubst auch nur du. Und erkl\344r mir, warum der Scan auf dem Ger\344t notwendig ist? Die Cloud wird ja schon gescannt. Das Ergebnis ist genau das Gleiche. Und wenn die Cloud ausgeschalten ist, erfolgt kein Scan.

Terence am :

Das glaubst auch nur du.
Cloud ausschalten hilft nicht vor Scan

Ali B am :

Aktuell wird es von Apple so kolportiert. Spielt aber keine Rolle, warum soll das Ger\344t gescannt werden, wenn dies in der Cloud ja schon erfolgt.

Matches am :

Wenn die Cops auf Hinweis von Apple deine Bude durchsuchen und deine Familie sieht was auf dem Beschluss steht, dann erkl\344r mal, dass du unschuldig bist. Niemand wird dir glauben.

Frankie am :

Wahrscheinlich eines der besten Beispiele:

Fall Kachelmann

Da bleibt immer ein \u201eda war doch was\u201c h\344ngen.
Er ist aber komplett Unschuldig!
Da haben viele Versagt und auch viele wollten eigentlich recht behalten, auch wenn dabei Personen zerst\366rt werden.

Andrer am :

Die Unschuldsvermutung gibt es mit gutem Grund.
Und auch die M\366glichkeit der Anzeige wegen falscher Verd\344chtigungen
Und daher ist das keine gute Idee, und hat auch keine gesetzliche Grundlage

Beispiel: Ich habe einen Keller angemietet, und der Vermieter durchsucht den einmal im Monat auf verd\344chtige Sachen. Am Anfang nach KiPo, sp\344ter vielleicht politische Themen, Steuer, \u2026

Da w\344re doch der Aufschrei riesengro\337, und die Fraktion \u201eich habe nichts zu verbergen\u201c w\344re auch dabei
Zum Argument \u201ewenn man unschuldig ist, wird das gekl\344rt\u201c
1) Lest mal beim Thema Sicherheits\374berpr\374fung die verschiedenen Registerarten durch. Da gibt es welche, da wird nichts gel\366scht
2) wenn sowas anrollt, sollte keiner glauben, dass das dann in ein paar Tagen erledigt ist. Bei der Auslastung von Beh\366rden - Wochen, Monate
3) und wie SOE richtig schreibt, das verhindert nicht die Produktion , diese Widerlinge sind nicht so bl\366d, und archivieren das in der iCloud

Mika am :

Ich kann dem Argument folgen, dass in \u201eunfreien\u201c Gesellschaften die technischen M\366glichkeiten f\374r die Verfolgung und \334berwachung Andersdenkender missbraucht werden\u2026

Dennoch denke ich, dass dem Staat in den \u201efreien\u201c Gesellschaften auch Werkzeuge an die Hand gegeben werden sollten, Arschl\366chern im Netz auf den Sack zu gehen\u2026

Es ist eine Frage der demokratischen Kontrolle.

Leider ist es heute so, dass man bei dieser Kontrolle auf die gro\337en Firmen angewiesen ist

Schwieriges Thema

JRS am :

Das ist der Punkt. Firmen handeln eigenem Interesse. Das sind immer Geld und Marktanteile. Aufgaben des Staates darf nur der Staat \374bernehmen. Niemand wei\337, wer in diesen Firmen wem warum Informationen oder gar Falschinformationen gibt.

Joda1956 am :

Apple zu unterstellen, Technologie f\374r politische Zwecke zu nutzen, ist absurd. Hier werden \304pfel mit Birnen verglichen.
Die Aufregung \374ber Bilderscans ist \374berzogen. In der analogen Welt gab es daf\374r schon Methoden, nur wusste das niemand.
Straftaten aufzudecken finde ich legitim und notwendig!

Fred am :

Das Problem ist eben nicht die Intention, diese ist in den meisten Fällen eine gute.
Das Problem ist eben, wenn die Möglichkeit besteht, dann wird diese genutzt. Auch in "normalen" Staaten und wenn es geheim durch den BND, CIA,NSA oder was auch immer geschieht.

Das Ding ist, es vermittelt nur ein Gefühl der Sicherheit, Menschen die diese Medien konsumieren finden andere Wege.
Siehe das Verbot von Drogen. Es gibt wegen des Verbots nicht weniger Drogen... Der vergleich hinkt vielleicht etwas, aber ich denke ihr versteht was ich meine

Kommentar schreiben

Die angegebene E-Mail-Adresse wird nicht dargestellt, sondern nur für eventuelle Benachrichtigungen verwendet.
Umschließende Sterne heben ein Wort hervor (*wort*), per _wort_ kann ein Wort unterstrichen werden.
Formular-Optionen