- Mitglied seit
- 17.02.2007
- Beiträge
- 677
- Punkte für Reaktionen
- 1.021
- Punkte
- 93
- Alter
- 57
Jagd auf Gesichter
Hacker schlummern nicht. Dank moderner Technologie können sie jetzt nicht nur auf die altmodische Art und Weise arbeiten, indem sie Löcher anstelle von Augen in Fotos schneiden, sondern auch ein realistisches "Porträt-Nicken" mit künstlicher Intelligenz erzeugen.
Nach Angaben der ID.me. tausende von Menschen haben ähnliche Masken und Dummies verwendet, um zu versuchen, das Identitätssystem über das Gesicht zu umgehen.
Gesichtserkennungssysteme, die als schnelle und zuverlässige Möglichkeit zur Identifizierung von jedem und jedem werben, werden von Betrügern unter die Lupe genommen. Seit Jahren warnen Forscher vor den Schwachstellen dieser Technologien, aber die jüngsten illegalen Systeme für ihre Verwendung haben ihre Bedenken bestätigt und die schwierige, aber dringend benötigte Aufgabe hervorgehoben, sie zu verbessern.
Nach Angaben der Firma ID.me Inc. im Jahr 2020 versuchten Tausende von Menschen in den USA, die Identitätsprüfung zu umgehen, um in betrügerischer Weise Arbeitslosengeld von staatlichen Personalagenturen zu verlangen. Zwischen Juni 2020 und Januar 2021 wurden in 26 US-Bundesstaaten mehr als 80.000 Versuche gefunden, die Bühne zu betrügen, in der sie Ihr Selfie für den Identitätsabgleich abgeben müssen. Dazu gehören Menschen, die spezielle Masken tragen, die Dipfees verwenden-realistische Bilder, die mit künstlicher Intelligenz erstellt wurden - oder Bilder oder Videos anderer Personen zeigen, sagt der CEO ID.me Blake Hall.
Nach Angaben der ID.me. tausende von Menschen haben Masken und Schaufensterpuppen benutzt, um zu versuchen, die Identitätsprüfung über das Gesicht zu täuschen.
Die Gesichtserkennung für die individuelle Identifizierung ist zu einer der am häufigsten verwendeten Anwendungen der künstlichen Intelligenz geworden, die es Menschen ermöglicht, Zahlungen über ihre Telefone zu tätigen, alle Prüfungen und Bestätigungen ihrer Identität erfolgreich zu bestehen. Zum Beispiel Fahrer von Uber Technologies Inc. sie müssen regelmäßig bestätigen, dass sie lizenzierte Kontoinhaber sind, indem sie Selfies mit ihren Telefonen machen und sie in ein Programm hochladen, das das Gesichtserkennungssystem von Microsoft Corp. verwendet. um sie zu authentifizieren. Uber hat dies getan, weil Fahrer ihr System gehackt haben, um ihre Konten zu teilen.
Amazon.com Inc. und kleinere Anbieter, wie Idemia Group S. A. S., Thales Group und AnyVision Interactive Technologies Ltd.. verkaufen Gesichtserkennungssysteme zur Identifizierung. Die Technologie funktioniert, indem das Gesicht abgeglichen wird, um einen sogenannten Gesichtsabdruck zu erzeugen. Die Identifizierung einzelner Personen ist in der Regel genauer als die Identifizierung von Personen in einer Menschenmenge.
Nach Ansicht der Forscher hat diese Form der biometrischen Identifizierung jedoch ihre Grenzen.
Warum Kriminelle Systeme betrügen Gesichtserkennung
Analysten des Kreditunternehmens Experian PLC sagten in einem ihrer Sicherheitsberichte, dass sie erwarten, dass Betrüger zunehmend «Frankenstein-Gesichter» schaffen, indem sie künstliche Intelligenz verwenden, um Gesichtsmerkmale verschiedener Menschen zu kombinieren, um eine neue Identität zu bilden, um das Gesichtserkennungssystem zu täuschen.
Die Gesichtserkennung funktioniert, indem das Gesicht abgeglichen wird, um einen sogenannten Gesichtsabdruck zu erzeugen.
Analysten sagten, dass diese Strategie Teil einer schnell wachsenden Art von Finanzkriminalität ist, die als künstlicher Identitätsbetrug bekannt ist, bei dem Betrüger die Kombination von echten und gefälschten Informationen verwenden, um eine neue Identität zu schaffen.
Bis vor kurzem haben sich einige Aktivisten gegen Gesichtserkennungssysteme ausgesprochen. Zum Beispiel trugen Mitglieder der britischen Datenschutzkampagne asymmetrisches Make-up auf, das speziell entwickelt wurde, um Überwachungskameras mit einem Gesichtserkennungssystem zu verwirren, während sie durch die Stadt gingen.
Laut Alexei Polyakov, CEO Adversa.ai von der Erlangung des Zugangs zu digitalen Geldbörsen auf fremden Telefonen bis zum erfolgreichen Zugang zu Orten mit erhöhtem Schutz (Hotels, Geschäftszentren oder Krankenhäuser), haben Kriminelle eine Reihe von Gründen für den Einbruch in das Gesichtserkennungssystem. Jedes Zutrittskontrollsystem, das die Wachen durch Personen mit Kameras mit Gesichtserkennungssystem ersetzt hat, ist potenziell gefährdet, sagte er. Er fügte hinzu, dass er persönlich die Gesichtserkennungssoftware verwirren konnte, die ihn für eine völlig andere Person hielt, und er trug einfach eine Sonnenbrille und benutzte Pflaster auf seinem Gesicht.
Wachsende Bedrohung
Die Idee, diese automatisierten Systeme zu betrügen, entstand vor einigen Jahren. Im Jahr 2017 versuchte ein männlicher Kunde der Versicherungsgesellschaft Lemonade, ihre künstliche Intelligenz zu täuschen, indem er eine helle Perücke trug, Lippenstift trug und ein Video hochlud, in dem es hieß, seine $ 5.000 Kamera sei gestohlen worden. Lemonade-Systeme für künstliche Intelligenz, die solche Videos auf Anzeichen von Betrug analysieren, haben das Video als verdächtig markiert und festgestellt, dass die Person versucht hat, eine gefälschte Identität zu erstellen. Das Unternehmen teilte auf seinem Blog mit, dass es zuvor eine erfolgreiche Schadenersatzklage unter seinem üblichen Aussehen eingereicht habe. Die Firma Lemonade, die auf ihrer Website berichtet, dass sie Gesichtserkennung verwendet, um Behauptungen zu markieren, die von derselben Person unter verschiedenen Namen eingereicht wurden, lehnte eine Stellungnahme ab.
Anfang dieses Jahres beschuldigte die chinesische Staatsanwaltschaft zwei Personen, mehr als 77 Millionen Dollar gestohlen zu haben, indem sie eine gefälschte gefälschte Firma gründete, um Ledertaschen zu verkaufen und gefälschte Steuerrechnungen an ihre angeblichen Kunden zu senden. Das Paar schickte Rechnungen eines Standardmusters, indem es das Gesichtserkennungssystem der lokalen staatlichen Steuerbehörde betrügte, das eingerichtet wurde, um Zahlungen zu verfolgen und Steuerhinterziehung zu bekämpfen, so die Staatsanwälte, die im März von Xinhua Daily Telegraph zitiert wurden. Die Staatsanwaltschaft teilte im chinesischen Chat WeChat mit, die Angreifer hätten den lokalen staatlichen Gesichtserkennungsdienst mit aufgenommenen Videos gehackt. Kontakt mit der Staatsanwaltschaft von Shanghai für eine Stellungnahme nicht möglich.
Der Bericht besagt, dass die Angreifer hochauflösende Fotos von Gesichtern auf einem schwarzen Online-Marktplatz gekauft und dann eine App verwendet haben, um Videos von Fotos zu erstellen, so dass sie so aussehen, als ob die Gesichter nicken, blinzeln und den Mund öffnen würden.
Die Teilnehmer dieses Duos mit den Nachnamen Wu und Zhou verwendeten ein spezielles Mobiltelefon, das die Frontkamera abschaltete und verarbeitete Videos hochlud, als er für das Steuersystem von Shanghai, das Gesichtserkennung verwendet, um Steuererklärungen zu versichern, ein Video-Selfie machen musste, heißt es in dem Bericht. Nach Angaben der Staatsanwaltschaft haben Wu und Zhou seit 2018 auf diese Weise gehandelt.
Laut John Spencer, Direktor für Unternehmensstrategie Veridium LLC, die sich mit der biometrischen Identifizierung, um Fälschungen von Gesichtserkennung nicht immer komplizierte Software erforderlich. Eine der häufigsten Möglichkeiten, das Identifizierungssystem über das Gesicht zu täuschen, besteht darin, ein Foto von jemandes Gesicht auszudrucken und die Augen mit dem Foto als Maske auszuschneiden, sagte er. Viele Gesichtserkennungssysteme, wie sie von Finanzhandelsplattformen verwendet werden, überprüfen, ob das Video eine lebende Person zeigt, indem sie seine blinzeln oder sich bewegenden Augen untersuchen.
In den meisten Fällen könnte sein Team diese und andere Taktiken verwenden, um die Grenzen von Gesichtserkennungssystemen zu testen, manchmal ein Papier «Gesicht» falten, um ihm eine tiefere Wahrnehmung zu geben, sagte Spencer. «Innerhalb einer Stunde kann ich fast alle diese Systeme kaputt machen», sagt er.
Laut Wissenschaftlern, Face ID von Apple Inc., das 2017 zusammen mit dem iPhone X auf den Markt kam, ist eines der schwierigsten zu knacken. Seine Kamera projiziert mehr als 30.000 unsichtbare Punkte, um eine Karte der Gesichtstiefe einer Person zu erstellen, die dann analysiert und auch ein Infrarotbild des Gesichts erstellt. Mit einem iPhone-Chip wandelt er dieses Bild dann in eine mathematische Darstellung um, die laut der Apple-Website mit einer eigenen Datenbank über das Gesicht des Benutzers verglichen wird. Ein Apple-Sprecher sagte, dass die Website des Unternehmens besagt, dass Face ID-Daten aus Datenschutzgründen niemals das iPhone verlassen.
Laut Spencer verwenden einige Banken und Finanzunternehmen Face ID-Dienste von Drittanbietern und nicht das Face ID-System von Apple, um Kunden in ihren iPhone-Apps zu registrieren. Dies ist möglicherweise eine weniger gewissenhafte Überprüfung. «Irgendwann schaut man sich die normalen Kameras auf dem Handy an", sagt er. "Es gibt keinen Infrarotanschluss oder Punktprojektoren.»
Viele Online-Banken bitten Benutzer, Video-Selfies zusammen mit Fotos von ihrem Führerschein oder Reisepass hochzuladen und verwenden dann Gesichtserkennungssoftware von Drittanbietern, um das Video mit einem Ausweis zu vergleichen. Laut Spencer landen Bilder manchmal bei Rezensenten, wenn das System etwas falsch markiert.
Auf der Suche nach einer Lösung
Alexey Polyakov testet regelmäßig die Sicherheit von Gesichtserkennungssystemen für seine Kunden und sagt, dass es zwei Möglichkeiten gibt, solche Systeme vor Betrug zu schützen. Einer ist, die grundlegenden Modelle der künstlichen Intelligenz zu aktualisieren, um sich vor neuen Angriffen zu hüten, indem die ihnen zugrunde liegenden Algorithmen geändert werden. Ein anderer besteht darin, Modelle mit so vielen Beispielen von veränderten Gesichtern wie möglich zu trainieren, die sie in die Irre führen können, die als kontradiktorische Beispiele bekannt sind.
Leider kann es bis zu 10 Mal mehr Bilder erfordern, um ein Gesichtserkennungsmodell zu trainieren - ein teurer und zeitaufwendiger Prozess. Gemäß Alexey Polyakov für jede Person ist es notwendig, sein Bild in Gläsern, einem Hut und dergleichen hinzuzufügen, damit das System alle möglichen Kombinationen lernen und sich erinnern kann.
Hacker schlummern nicht. Dank moderner Technologie können sie jetzt nicht nur auf die altmodische Art und Weise arbeiten, indem sie Löcher anstelle von Augen in Fotos schneiden, sondern auch ein realistisches "Porträt-Nicken" mit künstlicher Intelligenz erzeugen.
Nach Angaben der ID.me. tausende von Menschen haben ähnliche Masken und Dummies verwendet, um zu versuchen, das Identitätssystem über das Gesicht zu umgehen.
Gesichtserkennungssysteme, die als schnelle und zuverlässige Möglichkeit zur Identifizierung von jedem und jedem werben, werden von Betrügern unter die Lupe genommen. Seit Jahren warnen Forscher vor den Schwachstellen dieser Technologien, aber die jüngsten illegalen Systeme für ihre Verwendung haben ihre Bedenken bestätigt und die schwierige, aber dringend benötigte Aufgabe hervorgehoben, sie zu verbessern.
Nach Angaben der Firma ID.me Inc. im Jahr 2020 versuchten Tausende von Menschen in den USA, die Identitätsprüfung zu umgehen, um in betrügerischer Weise Arbeitslosengeld von staatlichen Personalagenturen zu verlangen. Zwischen Juni 2020 und Januar 2021 wurden in 26 US-Bundesstaaten mehr als 80.000 Versuche gefunden, die Bühne zu betrügen, in der sie Ihr Selfie für den Identitätsabgleich abgeben müssen. Dazu gehören Menschen, die spezielle Masken tragen, die Dipfees verwenden-realistische Bilder, die mit künstlicher Intelligenz erstellt wurden - oder Bilder oder Videos anderer Personen zeigen, sagt der CEO ID.me Blake Hall.
Nach Angaben der ID.me. tausende von Menschen haben Masken und Schaufensterpuppen benutzt, um zu versuchen, die Identitätsprüfung über das Gesicht zu täuschen.
Die Gesichtserkennung für die individuelle Identifizierung ist zu einer der am häufigsten verwendeten Anwendungen der künstlichen Intelligenz geworden, die es Menschen ermöglicht, Zahlungen über ihre Telefone zu tätigen, alle Prüfungen und Bestätigungen ihrer Identität erfolgreich zu bestehen. Zum Beispiel Fahrer von Uber Technologies Inc. sie müssen regelmäßig bestätigen, dass sie lizenzierte Kontoinhaber sind, indem sie Selfies mit ihren Telefonen machen und sie in ein Programm hochladen, das das Gesichtserkennungssystem von Microsoft Corp. verwendet. um sie zu authentifizieren. Uber hat dies getan, weil Fahrer ihr System gehackt haben, um ihre Konten zu teilen.
Amazon.com Inc. und kleinere Anbieter, wie Idemia Group S. A. S., Thales Group und AnyVision Interactive Technologies Ltd.. verkaufen Gesichtserkennungssysteme zur Identifizierung. Die Technologie funktioniert, indem das Gesicht abgeglichen wird, um einen sogenannten Gesichtsabdruck zu erzeugen. Die Identifizierung einzelner Personen ist in der Regel genauer als die Identifizierung von Personen in einer Menschenmenge.
Nach Ansicht der Forscher hat diese Form der biometrischen Identifizierung jedoch ihre Grenzen.
Warum Kriminelle Systeme betrügen Gesichtserkennung
Analysten des Kreditunternehmens Experian PLC sagten in einem ihrer Sicherheitsberichte, dass sie erwarten, dass Betrüger zunehmend «Frankenstein-Gesichter» schaffen, indem sie künstliche Intelligenz verwenden, um Gesichtsmerkmale verschiedener Menschen zu kombinieren, um eine neue Identität zu bilden, um das Gesichtserkennungssystem zu täuschen.
Die Gesichtserkennung funktioniert, indem das Gesicht abgeglichen wird, um einen sogenannten Gesichtsabdruck zu erzeugen.
Analysten sagten, dass diese Strategie Teil einer schnell wachsenden Art von Finanzkriminalität ist, die als künstlicher Identitätsbetrug bekannt ist, bei dem Betrüger die Kombination von echten und gefälschten Informationen verwenden, um eine neue Identität zu schaffen.
Bis vor kurzem haben sich einige Aktivisten gegen Gesichtserkennungssysteme ausgesprochen. Zum Beispiel trugen Mitglieder der britischen Datenschutzkampagne asymmetrisches Make-up auf, das speziell entwickelt wurde, um Überwachungskameras mit einem Gesichtserkennungssystem zu verwirren, während sie durch die Stadt gingen.
Laut Alexei Polyakov, CEO Adversa.ai von der Erlangung des Zugangs zu digitalen Geldbörsen auf fremden Telefonen bis zum erfolgreichen Zugang zu Orten mit erhöhtem Schutz (Hotels, Geschäftszentren oder Krankenhäuser), haben Kriminelle eine Reihe von Gründen für den Einbruch in das Gesichtserkennungssystem. Jedes Zutrittskontrollsystem, das die Wachen durch Personen mit Kameras mit Gesichtserkennungssystem ersetzt hat, ist potenziell gefährdet, sagte er. Er fügte hinzu, dass er persönlich die Gesichtserkennungssoftware verwirren konnte, die ihn für eine völlig andere Person hielt, und er trug einfach eine Sonnenbrille und benutzte Pflaster auf seinem Gesicht.
Wachsende Bedrohung
Die Idee, diese automatisierten Systeme zu betrügen, entstand vor einigen Jahren. Im Jahr 2017 versuchte ein männlicher Kunde der Versicherungsgesellschaft Lemonade, ihre künstliche Intelligenz zu täuschen, indem er eine helle Perücke trug, Lippenstift trug und ein Video hochlud, in dem es hieß, seine $ 5.000 Kamera sei gestohlen worden. Lemonade-Systeme für künstliche Intelligenz, die solche Videos auf Anzeichen von Betrug analysieren, haben das Video als verdächtig markiert und festgestellt, dass die Person versucht hat, eine gefälschte Identität zu erstellen. Das Unternehmen teilte auf seinem Blog mit, dass es zuvor eine erfolgreiche Schadenersatzklage unter seinem üblichen Aussehen eingereicht habe. Die Firma Lemonade, die auf ihrer Website berichtet, dass sie Gesichtserkennung verwendet, um Behauptungen zu markieren, die von derselben Person unter verschiedenen Namen eingereicht wurden, lehnte eine Stellungnahme ab.
Anfang dieses Jahres beschuldigte die chinesische Staatsanwaltschaft zwei Personen, mehr als 77 Millionen Dollar gestohlen zu haben, indem sie eine gefälschte gefälschte Firma gründete, um Ledertaschen zu verkaufen und gefälschte Steuerrechnungen an ihre angeblichen Kunden zu senden. Das Paar schickte Rechnungen eines Standardmusters, indem es das Gesichtserkennungssystem der lokalen staatlichen Steuerbehörde betrügte, das eingerichtet wurde, um Zahlungen zu verfolgen und Steuerhinterziehung zu bekämpfen, so die Staatsanwälte, die im März von Xinhua Daily Telegraph zitiert wurden. Die Staatsanwaltschaft teilte im chinesischen Chat WeChat mit, die Angreifer hätten den lokalen staatlichen Gesichtserkennungsdienst mit aufgenommenen Videos gehackt. Kontakt mit der Staatsanwaltschaft von Shanghai für eine Stellungnahme nicht möglich.
Der Bericht besagt, dass die Angreifer hochauflösende Fotos von Gesichtern auf einem schwarzen Online-Marktplatz gekauft und dann eine App verwendet haben, um Videos von Fotos zu erstellen, so dass sie so aussehen, als ob die Gesichter nicken, blinzeln und den Mund öffnen würden.
Die Teilnehmer dieses Duos mit den Nachnamen Wu und Zhou verwendeten ein spezielles Mobiltelefon, das die Frontkamera abschaltete und verarbeitete Videos hochlud, als er für das Steuersystem von Shanghai, das Gesichtserkennung verwendet, um Steuererklärungen zu versichern, ein Video-Selfie machen musste, heißt es in dem Bericht. Nach Angaben der Staatsanwaltschaft haben Wu und Zhou seit 2018 auf diese Weise gehandelt.
Laut John Spencer, Direktor für Unternehmensstrategie Veridium LLC, die sich mit der biometrischen Identifizierung, um Fälschungen von Gesichtserkennung nicht immer komplizierte Software erforderlich. Eine der häufigsten Möglichkeiten, das Identifizierungssystem über das Gesicht zu täuschen, besteht darin, ein Foto von jemandes Gesicht auszudrucken und die Augen mit dem Foto als Maske auszuschneiden, sagte er. Viele Gesichtserkennungssysteme, wie sie von Finanzhandelsplattformen verwendet werden, überprüfen, ob das Video eine lebende Person zeigt, indem sie seine blinzeln oder sich bewegenden Augen untersuchen.
In den meisten Fällen könnte sein Team diese und andere Taktiken verwenden, um die Grenzen von Gesichtserkennungssystemen zu testen, manchmal ein Papier «Gesicht» falten, um ihm eine tiefere Wahrnehmung zu geben, sagte Spencer. «Innerhalb einer Stunde kann ich fast alle diese Systeme kaputt machen», sagt er.
Laut Wissenschaftlern, Face ID von Apple Inc., das 2017 zusammen mit dem iPhone X auf den Markt kam, ist eines der schwierigsten zu knacken. Seine Kamera projiziert mehr als 30.000 unsichtbare Punkte, um eine Karte der Gesichtstiefe einer Person zu erstellen, die dann analysiert und auch ein Infrarotbild des Gesichts erstellt. Mit einem iPhone-Chip wandelt er dieses Bild dann in eine mathematische Darstellung um, die laut der Apple-Website mit einer eigenen Datenbank über das Gesicht des Benutzers verglichen wird. Ein Apple-Sprecher sagte, dass die Website des Unternehmens besagt, dass Face ID-Daten aus Datenschutzgründen niemals das iPhone verlassen.
Laut Spencer verwenden einige Banken und Finanzunternehmen Face ID-Dienste von Drittanbietern und nicht das Face ID-System von Apple, um Kunden in ihren iPhone-Apps zu registrieren. Dies ist möglicherweise eine weniger gewissenhafte Überprüfung. «Irgendwann schaut man sich die normalen Kameras auf dem Handy an", sagt er. "Es gibt keinen Infrarotanschluss oder Punktprojektoren.»
Viele Online-Banken bitten Benutzer, Video-Selfies zusammen mit Fotos von ihrem Führerschein oder Reisepass hochzuladen und verwenden dann Gesichtserkennungssoftware von Drittanbietern, um das Video mit einem Ausweis zu vergleichen. Laut Spencer landen Bilder manchmal bei Rezensenten, wenn das System etwas falsch markiert.
Auf der Suche nach einer Lösung
Alexey Polyakov testet regelmäßig die Sicherheit von Gesichtserkennungssystemen für seine Kunden und sagt, dass es zwei Möglichkeiten gibt, solche Systeme vor Betrug zu schützen. Einer ist, die grundlegenden Modelle der künstlichen Intelligenz zu aktualisieren, um sich vor neuen Angriffen zu hüten, indem die ihnen zugrunde liegenden Algorithmen geändert werden. Ein anderer besteht darin, Modelle mit so vielen Beispielen von veränderten Gesichtern wie möglich zu trainieren, die sie in die Irre führen können, die als kontradiktorische Beispiele bekannt sind.
Leider kann es bis zu 10 Mal mehr Bilder erfordern, um ein Gesichtserkennungsmodell zu trainieren - ein teurer und zeitaufwendiger Prozess. Gemäß Alexey Polyakov für jede Person ist es notwendig, sein Bild in Gläsern, einem Hut und dergleichen hinzuzufügen, damit das System alle möglichen Kombinationen lernen und sich erinnern kann.
Original message
Охота на лица
Хакеры не дремлют. Они изобретают все новые и новые способы, которые позволят им обмануть системы распознавания лиц. Благодаря современным технологиям теперь они не только могут работать по старинке, вырезая дырки вместо глаз на фотографиях, но так же создавать вполне реалистичный "портретный кивок" с помощью искусственного интеллекта.По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обойти систему идентификации личности по лицу.
Системы распознавания лиц, которые рекламируют как быстрый и надежный способ идентификации всех и каждого, находятся под пристальным вниманием мошенников. В течение многих лет исследователи предупреждали об уязвимостях данных технологий, но недавние незаконные схемы их использования подтвердили их опасения и подчеркнули сложную, но столь необходимую задачу по их улучшению.
По данным фирмы ID.me Inc., которая специализируется на проверке личности, в 2020 году тысячи людей в США пытались обойти проверку личности по лицу, чтобы обманным путем требовать пособия по безработице от государственных кадровых агентств. В период с июня 2020 года по январь 2021 года в 26 штатах США было обнаружено более 80 000 попыток обмануть этап, в котором необходимо предоставить свое селфи для сопоставления удостоверений личности. Сюда входят люди, носящие специальные маски, использующие дипфейки - реалистичные изображения, созданные с помощью искусственного интеллекта, - или показывающие изображения или видео других людей, - говорит генеральный директор ID.me Блейк Холл.
По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обмануть проверку личности по лицу.
Фото: Id.me
Распознавание лиц для индивидуальной идентификации стало одним из наиболее широко используемых приложений искусственного интеллекта, позволяя людям совершать платежи через свои телефоны, успешно проходить любые проверки и подтверждение своей личности. Например, водители Uber Technologies Inc. должны регулярно подтверждать, что они являются лицензированными владельцами учетных записей, делая селфи с помощью своих телефонов и загружая их в программу, которая использует систему распознавания лиц Microsoft Corp. для их аутентификации. Компания Uber сделала это, потому что столкнулась с водителями, взламывающими ее систему, чтобы поделиться своими учетными записями.
Amazon.com Inc. и более мелкие поставщики, такие как Idemia Group S.A.S., Thales Group и AnyVision Interactive Technologies Ltd., продают системы распознавания лиц для идентификации. Технология работает путем сопоставления лица для создания так называемого отпечатка лица. Идентификация отдельных людей обычно более точна, чем определение лиц в толпе.
Тем не менее, по мнению исследователей, у этой формы биометрической идентификации есть свои ограничения.
Почему преступники обманывают системы распознавание лиц
Аналитики кредитной компании Experian PLC заявили в одном из своих отчетов по безопасности, что они ожидают, что мошенники все чаще будут создавать «лица Франкенштейна», используя искусственный интеллект для объединения черт лица разных людей, чтобы сформировать новую личность с целью обмана системы идентификации лиц.Идентификация по распознаванию лица работает путем сопоставления лица для создания так называемого отпечатка лица.
Фото: JAMIE CHUNG FOR THE WALL STREET JOURNAL
Аналитики заявили, что эта стратегия является частью быстрорастущего типа финансовых преступлений, известных как искусственное мошенничество с идентификационными данными, когда мошенники используют объединение реальной и поддельной информации для создания новой личности.
До недавнего времени некоторые активисты выступали против систем распознавания лиц. Например, участники кампании по защите конфиденциальности в Великобритании нанесли асимметричный макияж, специально разработанный для того, чтобы запутать во время прогулки по городу камеры видеонаблюдения с системой распознавания лиц.
По словам Алексея Полякова, генерального директора Adversa.ai, фирмы занимающейся исследованиями безопасноти искусственного интеллекта, у преступников есть целый ряд причин для взлома системы распознавания лиц: от получения доступа к цифровым кошелькам на чужих телефонах до успешного получения доступа к местам с повышенной степенью защиты (в отели, бизнес-центры или больницы). По его словам, любая система контроля доступа, которая заменила охранников на людей с камерами с системой распознавания лиц, потенциально подвержена риску. Он также добавил, что лично смог запутать программное обеспечение для распознавания лиц, которое приняло его за совершенно другого человека, а он просто надел солнцезащитные очки и использовал пластыри на своем лице.
Растущая угроза
Идея обмануть эти автоматизированные системы возникла несколько лет назад. В 2017 году мужчина-клиент страховой компании Lemonade попытался обмануть ее искусственный интеллект, надев светлый парик, нанесся помаду и загрузив видео, в котором говорилось, что его камера за 5000 долларов была украдена. Системы искусственного интеллекта Lemonade, которые анализируют такие видео на наличие признаков мошенничества, отметили видео как подозрительное и обнаружили, что человек пытался создать поддельную личность. Компания сообщила в своем блоге, что ранее он подал успешный иск на возмещение ущерба под своим обычным видом. Компания Lemonade, которая на своем веб-сайте сообщает, что использует распознавание лиц для пометки заявлений, поданных одним и тем же человеком под разными именами, отказалась от комментариев.Ранее в этом году прокуратура Китая обвинила двух людей в краже более 77 миллионов долларов путем создания фиктивной подставной компании для продажи кожаных сумок и отправки поддельных налоговых счетов своим предполагаемым клиентам. По словам прокуроров, цитируемых в мартовском отчете Xinhua Daily Telegraph, пара отправляла счета-фактуры стандартного образца, обманывая систему распознавания лиц местного государственного налогового управления, которая была создана для отслеживания платежей и борьбы с уклонением от уплаты налогов. Прокуратура сообщила в китайском чате WeChat, что злоумышленники взломали местную правительственную службу распознавания лиц с помощью снятых ими видеороликов. Связаться с прокуратурой Шанхая для получения комментариев не удалось.
В отчете говорится, что злоумышленники купили фотографии лиц в высоком разрешении на черном онлайн-рынке, а затем использовала приложение для создания видео из фотографий, чтобы они выглядели так, как будто лица кивали, моргали и открывали рты.
Участники этого дуэта с фамилиями Ву и Чжоу, использовали специальный мобильный телефон, который отключал фронтальную камеру и загружал обработанные видео, когда он должен был делать видео-селфи для налоговой системы Шанхая, которая использует распознавание лиц для того, чтобы заверять налоговые декларации, говорится в отчете. По словам прокуратуры, Ву и Чжоу промышляли таким образом с 2018 года.
По словам Джона Спенсера, директора по стратегии компании Veridium LLC, занимающейся биометрической идентификацией, для подделки системы распознавания лиц не всегда требуется сложное программное обеспечение. По его словам, один из наиболее распространенных способов обмануть систему идентификации по лицу - это распечатать фотографию чьего-то лица и вырезать глаза, используя фотографию в качестве маски. Многие системы распознавания лиц, например те, которые используются платформами финансовой торговли, проверяют, показывает ли видео живого человека, исследуя его моргающие или движущиеся глаза.
По словам Спенсера, в большинстве случаев его команда могла использовать эту и другие тактики, чтобы проверить пределы систем распознавания лиц, иногда складывая бумажное «лицо», чтобы придать ему более глубокое восприятие. «В течение часа я могу сломать почти все эти системы», - говорит он.
По мнению ученых, Face ID от Apple Inc., который был запущен в 2017 году вместе с iPhone X, является одним из самых сложных для взлома. Его камера проецирует более 30 000 невидимых точек для создания карты глубины лица человека, которую затем анализирует, а также делает инфракрасное изображение лица. Используя чип iPhone, он затем преобразует это изображение в математическое представление, которое сравнивает со своей собственной базой данных о лице пользователя, согласно веб-сайту Apple. Представитель Apple заявил, что на веб-сайте компании указано, что из соображений конфиденциальности данные Face ID никогда не покидают iPhone.
По словам Спенсера, некоторые банки и финансовые компании используют сторонние сервисы идентификации лиц, а не систему Face ID от Apple, для регистрации клиентов в своих приложениях для iPhone. Это потенциально менее скрупулезная проверка. «В конечном итоге вы смотрите на обычные камеры на мобильном телефоне, - говорит он. - Нет ни инфракрасного порта, ни точечных проекторов».
Многие онлайн-банки просят пользователей загружать видео-селфи вместе с фотографиями их водительских прав или паспортов, а затем используют стороннее программное обеспечение для распознавания лиц, чтобы сопоставить видео с удостоверением личности. По словам Спенсера, изображения иногда попадают к рецензентам, если система отмечает что-то не так.
В поисках решения
Алексей Поляков регулярно тестирует безопасность систем распознавания лиц для своих клиентов и говорит, что есть два способа защитить такие системы от обмана. Один из них - обновить базовые модели искусственного интеллекта, чтобы остерегаться новых атак, изменив алгоритмы, лежащие в их основе. Другой - обучить модели с помощью как можно большего количества примеров измененных лиц, которые могут ввести их в заблуждение, известных как состязательные примеры.К сожалению, для обучения модели распознавания лиц может потребоваться в 10 раз больше изображений - дорогостоящий и трудоемкий процесс. По словам Алексея Полякова для каждого человека нужно добавить его изображение в очках, шляпе и тому подобное, чтобы система могла узнать и запомнить все возможные комбинации.
Такие компании, как Google, Facebook и Apple, постоянно работают над поиском способов предотвращения взломов систем искусственного интеллекта по распознаванию лиц. Facebook, например, заявил в июне 2021 года, что выпускает новый инструмент для обнаружения дипфейков.
По словам Блейка Холла из ID.me, к февралю 2021 года его компания смогла остановить почти все попытки мошенничества с селфи на правительственных сайтах. Он утверждает, что компания стала лучше обнаруживать определенные маски, маркируя изображения как мошеннические, а также отслеживая устройство, IP-адреса и номера телефонов мошенников, которые повторяются по нескольким поддельным учетным записям. Теперь он также проверяет, как свет смартфона отражается и взаимодействует с кожей человека или другим материалом.
Источники: wsj.com, habr.com, ITSOFT
Zuletzt bearbeitet von einem Moderator:
