Datenschutz: Filter schützen vor Gesichtserkennung

Forscher der University of Toronto haben einen Algorithmus entwickelt, um Gesichtserkennungssysteme zu unterbrechen. In Form eines Filters können Nutzer von Instagram, Facebook und Co ihre Fotos künftig vor Gesichtsanalyse schützen. [...]

Mit einem sogenannten "Privacy-Filter" wird die Gesichtserkennung unterbrochen und Anwender können so ihr Gesicht schützen.
Mit einem sogenannten "Privacy-Filter" wird die Gesichtserkennung unterbrochen und Anwender können so ihr Gesicht schützen. (c) Avishek Bose

Der neue Ansatz bedient sich einer Lernmethode namens „Adversarial Training“, bei der zwei künstliche Intelligenzalgorithmen gegeneinander antreten. „Der Schutz der Privatsphäre wird immer schwieriger, da Gesichtserkennung immer besser wird“, erklärt Forscher Parham Aarabi. Die von ihm und seinem Kollegen Avishek Bose vorgestellte Technik sein ein Weg,Gesichtserkennungssysteme bekämpfen zu können. Aarabi und Bose haben dabei zwei neuronale Netze entworfen: eines, das Gesichter identifizieren kann und ein zweites, das die Gesichtserkennung des ersten stören will. Die beiden kämpfen und lernen ständig voneinander und veranstalten ein andauerndes KI-Wettrüsten.

Filter verändert Fotos auf Pixelebene

Das Ergebnis aus den dabei gewonnen Daten ist eine Art Filter, der sich auf Fotos anwenden lässt, um die Privatsphäre des abgebildeten Nutzers zu schützen. Der Algorithmus verändert sehr spezifische Pixel im Bild und verusacht derart geringe Änderungen, so dass diese für das menschliche Auge fast nicht wahrnehmbar sind. „Wir erzeugen sehr feine Störungen im Foto, die jedoch für den Detektor signifikant genug sind, um das ganze System zu täuschen“, so Bose.

Technologie für jeden

Zusätzlich zur Deaktivierung der Gesichtserkennung werden durch den Filter auch die bildbasierte Suche, die Merkmalserkennung, die Einschätzung von Emotionen und Ethnizität sowie alle anderen Gesichtattribute, die automatisch extrahiert werden können, gestört. Schon bald wollen die Forscher den Filter für Nutzer zugänglich machen. Das soll entweder durch eine SmartphoneApp oder via Website geschehen. Besonders für soziale Netwerke wie Facebook oder Instagram würde sich eine solche, privat nutzbare Anwendung lohnen. Da die winzigen Abweichungen kaum auffallen, sind Fotos in ihrer Optik nicht gestört.


Mehr Artikel

Tina Stewart leitet den Bereich Global Market Strategy für Cloud Protection und Licensing bei Thales. (c) Thales
Kommentar

Die Zukunft der Datensicherheit

IT-Sicherheitsabteilungen sind in diesem Jahr gefordert wie vielleicht noch nie und sind entsprechend ausgelastet. Vielleicht ist jetzt ein guter Zeitpunkt, sich daran zu erinnern, dass die Auseinandersetzung mit der langfristigen Sicherheit von Daten der Schlüssel zum Aufbau einer Zukunft ist, der wir alle vertrauen können. Ein Kommentar von Tina Stuart. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*