- Inscrit
- 17 Fév. 2007
- messages
- 677
- Score de réaction
- 1,021
- Points
- 93
- Age
- 57
Chasse au visage
Les pirates ne dorment pas. Grâce à la technologie moderne, ils peuvent non seulement travailler à l'ancienne en découpant des trous à la place des yeux sur les photos, mais aussi créer un "clin d'œil" portrait réaliste à l'aide de l'intelligence artificielle.
Selon les données ID.me. des milliers de personnes ont utilisé des masques et des mannequins similaires pour tenter de contourner le système d'identification de l'identité par le visage.
Les systèmes de reconnaissance faciale, qui se vantent d'être un moyen rapide et fiable d'identifier tout le monde et tout le monde, font l'objet d'une attention particulière de la part des escrocs. Pendant des années, les chercheurs ont mis en garde contre les vulnérabilités de ces technologies, mais les récents schémas illégaux d'utilisation de ces technologies ont confirmé leurs préoccupations et souligné la tâche difficile mais indispensable de les améliorer.
Selon l'entreprise ID.me Inc., qui se spécialise dans la vérification de l'identité, en 2020, des milliers de personnes aux États-Unis ont tenté de contourner la vérification de l'identité pour demander frauduleusement des allocations de chômage aux agences de recrutement gouvernementales. Entre juin 2020 et janvier 2021, plus de 80 000 tentatives de fraude ont été découvertes dans 26 États américains, dans lesquels il est nécessaire de fournir son selfie pour faire correspondre les cartes d'identité. Cela inclut les personnes portant des masques spéciaux utilisant des dipfeaks - des images réalistes créées avec l'intelligence artificielle - ou montrant des images ou des vidéos d'autres personnes, explique le PDG ID.me Blake Hall.
Selon les données ID.me. des milliers de personnes ont utilisé des masques et des mannequins pour tenter de tromper le contrôle d'identité sur leur visage.
La reconnaissance faciale pour l'identification individuelle est devenue l'une des applications d'intelligence artificielle les plus largement utilisées, permettant aux gens d'effectuer des paiements via leur téléphone, de passer avec succès toutes les vérifications et de confirmer leur identité. Par exemple, les conducteurs d'Uber Technologies Inc. doivent confirmer régulièrement qu'ils sont titulaires de comptes sous licence en prenant des selfies avec leurs téléphones et en les téléchargeant dans un programme qui utilise le système de reconnaissance faciale de Microsoft Corp. pour leur authentification. La société Uber l'a fait parce qu'elle a rencontré des conducteurs piratant son système pour partager ses comptes.
Amazon.com Inc. et des fournisseurs plus petits tels que Idemia Group S.A.S., Thales Group et AnyVision Interactive Technologies Ltd., vendent des systèmes de reconnaissance faciale pour l'identification. La technologie fonctionne en faisant correspondre le visage pour créer ce qu'on appelle une empreinte faciale. L'identification des individus est généralement plus précise que l'identification des individus dans une foule.
Pourtant, selon les chercheurs, cette forme d'identification biométrique a ses limites.
Pourquoi les criminels trompent les systèmes de reconnaissance faciale
Les analystes de la société de crédit Experian PLC ont déclaré dans un de leurs rapports de sécurité qu'ils s'attendaient à ce que les fraudeurs créent de plus en plus de «visages de Frankenstein» en utilisant l'intelligence artificielle pour combiner les traits du visage de différentes personnes afin de former une nouvelle identité dans le but de tromper le système
L'identification par reconnaissance faciale fonctionne en faisant correspondre le visage pour créer ce que l'on appelle une empreinte faciale.
Les analystes ont déclaré que cette stratégie faisait partie d'un type de criminalité financière en croissance rapide connu sous le nom de fraude d'identité artificielle, dans lequel les fraudeurs utilisent la combinaison d'informations réelles et fausses pour créer une nouvelle identité.
Jusqu'à récemment, certains militants se sont opposés aux systèmes de reconnaissance faciale. par exemple, les militants de la protection de la vie privée au Royaume-Uni ont mis en place une cure de jouvence asymétrique spécialement conçue pour confondre les caméras de vidéosurveillance avec un système de reconnaissance faciale lors d'une promenade dans la ville.
Selon Alexey Polyakov, directeur général Adversa.ai, une entreprise de recherche sur la sécuritéet l'intelligence artificielle, les criminels ont un certain nombre de raisons de pirater le système de reconnaissance faciale: de l'accès aux portefeuilles numériques sur les téléphones de quelqu'un d'autre à l'accès réussi à des endroits hautement sécurisés (Hôtels, centres d'affaires ou hôpitaux). Tout système de contrôle d'accès qui a remplacé les gardes de sécurité par des personnes munies de caméras avec un système de reconnaissance faciale est potentiellement à risque, a-t-il déclaré. Il a également Ajouté qu'il était personnellement capable de confondre un logiciel de reconnaissance faciale qui le prenait pour une personne complètement différente, alors qu'il portait simplement des lunettes de soleil et utilisait des patchs sur son visage.
Menace croissante
L'idée de tromper ces systèmes automatisés est apparue il y a quelques années. En 2017, un client de la compagnie d'assurance Lemonade a tenté de tromper son intelligence artificielle en portant une perruque blonde, en appliquant du rouge à lèvres et en téléchargeant une vidéo indiquant que son appareil photo de 5 000 $ avait été volé. Les systèmes d'intelligence artificielle de Lemonade, qui analysent de telles vidéos à la recherche de signes de fraude, ont qualifié la vidéo de suspecte et ont découvert que la personne tentait de créer une fausse identité. La société a déclaré sur son blog qu'elle avait déjà intenté une action en dommages-intérêts réussie sous son apparence habituelle. La société Lemonade, qui sur son site Web indique qu'elle utilise la reconnaissance faciale pour marquer les déclarations déposées par la même personne sous des noms différents, a refusé de commenter.
Plus tôt cette année, le bureau du procureur chinois a accusé deux personnes d'avoir volé plus de 77 millions de dollars en créant une société fictive pour vendre des sacs en cuir et envoyer de fausses factures fiscales à leurs clients présumés. Selon les procureurs cités dans le rapport de mars du Xinhua Daily Telegraph, le couple envoyait des factures d'échantillon standard, trompant le système de reconnaissance faciale de l'administration fiscale locale, créé pour suivre les paiements et lutter contre l'évasion fiscale. Le bureau du procureur a déclaré dans une discussion chinoise WeChat que les attaquants avaient piraté le service de reconnaissance faciale du gouvernement local à l'aide de vidéos qu'ils avaient capturées. Il n'a pas été possible de contacter le bureau du procureur de Shanghai pour obtenir des commentaires.
Le rapport indique que les attaquants ont acheté des photos de visages en haute résolution sur un marché en ligne noir, puis ont utilisé l'application pour créer des vidéos à partir de photos afin de donner l'impression que les visages hochaient la tête, clignaient des yeux et ouvraient la bouche.
Les membres de ce Duo, avec les noms de famille Wu et Zhou, ont utilisé un téléphone portable spécial qui a désactivé la caméra frontale et Téléchargé des vidéos traitées alors qu'il devait prendre des selfies vidéo pour le système fiscal de Shanghai, qui utilise la reconnaissance faciale pour certifier les déclarations de revenus, indique le rapport. Selon le bureau du procureur, Wu et Zhou ont été exploités de cette manière depuis 2018.
Selon John Spencer, directeur de la stratégie de la société d'identification biométrique Veridium LLC, la contrefaçon d'un système de reconnaissance faciale ne nécessite pas toujours un logiciel sophistiqué. L'un des moyens les plus courants de tromper le système d'identification du visage consiste à imprimer une photo du visage de quelqu'un et à couper les yeux en utilisant la photo comme masque, a - t-il déclaré. De nombreux systèmes de reconnaissance faciale, tels que ceux utilisés par les plateformes de trading financier, vérifient si une vidéo montre une personne en direct en examinant ses yeux qui clignotent ou bougent.
Dans la plupart des cas, son équipe pourrait utiliser cette tactique et d'autres pour tester les limites des systèmes de reconnaissance faciale, en pliant parfois un «visage» en papier pour lui donner une perception plus profonde, a déclaré Spencer. «En une heure, je peux casser presque tous ces systèmes», dit - il.
Selon les scientifiques, Face ID d'Apple Inc., qui a été lancé en 2017 aux côtés de l'iPhone x, est l'un des plus difficiles à pirater. Sa caméra projette plus de 30 000 points invisibles pour créer une carte de la profondeur du visage humain, qu'elle analyse ensuite et réalise également une image infrarouge du visage. En utilisant une puce iPhone, il convertit ensuite cette image en une représentation mathématique qui se compare à sa propre base de données sur le visage de l'utilisateur, selon le site Web d'Apple. Un porte-parole d'Apple a déclaré que le site Web de la société indiquait que, pour des raisons de confidentialité, les données Face ID ne quittaient jamais l'iPhone.
Certaines banques et sociétés financières utilisent des services d'identification de visage tiers, plutôt que le système Face ID d'Apple, pour enregistrer les clients dans leurs applications iPhone, a déclaré Spencer. C'est une vérification potentiellement moins scrupuleuse. «Vous finissez par regarder des caméras ordinaires sur un téléphone portable", dit - il. "Il n'y a pas de port infrarouge ni de projecteurs.»
De nombreuses banques en ligne demandent aux utilisateurs de télécharger des selfies vidéo avec des photos de leur permis de conduire ou de leur passeport, puis utilisent un logiciel de reconnaissance faciale tiers pour faire correspondre la vidéo à une carte d'identité. Selon Spencer, les images parviennent parfois aux réviseurs si le système Note quelque chose de mal.
À la recherche d'une solution
Alexey Polyakov teste régulièrement la sécurité des systèmes de reconnaissance faciale pour ses clients et affirme qu'il existe deux façons de protéger ces systèmes contre la tromperie. L'une consiste à mettre à jour les modèles d'intelligence artificielle sous - jacents pour se méfier des nouvelles attaques en modifiant les algorithmes qui les sous-tendent. L'autre consiste à former des modèles avec autant d'exemples de visages modifiés que possible, ce qui peut les induire en erreur, connus sous le nom d'exemples contradictoires.
Malheureusement, la formation d'un modèle de reconnaissance faciale peut nécessiter 10 fois plus d'images - un processus coûteux et fastidieux. Selon Alexey Polyakov pour chaque personne, vous devez ajouter son image dans des lunettes, un chapeau, etc., afin que le système puisse apprendre et se souvenir de toutes les combinaisons possibles.
Les pirates ne dorment pas. Grâce à la technologie moderne, ils peuvent non seulement travailler à l'ancienne en découpant des trous à la place des yeux sur les photos, mais aussi créer un "clin d'œil" portrait réaliste à l'aide de l'intelligence artificielle.
Selon les données ID.me. des milliers de personnes ont utilisé des masques et des mannequins similaires pour tenter de contourner le système d'identification de l'identité par le visage.
Les systèmes de reconnaissance faciale, qui se vantent d'être un moyen rapide et fiable d'identifier tout le monde et tout le monde, font l'objet d'une attention particulière de la part des escrocs. Pendant des années, les chercheurs ont mis en garde contre les vulnérabilités de ces technologies, mais les récents schémas illégaux d'utilisation de ces technologies ont confirmé leurs préoccupations et souligné la tâche difficile mais indispensable de les améliorer.
Selon l'entreprise ID.me Inc., qui se spécialise dans la vérification de l'identité, en 2020, des milliers de personnes aux États-Unis ont tenté de contourner la vérification de l'identité pour demander frauduleusement des allocations de chômage aux agences de recrutement gouvernementales. Entre juin 2020 et janvier 2021, plus de 80 000 tentatives de fraude ont été découvertes dans 26 États américains, dans lesquels il est nécessaire de fournir son selfie pour faire correspondre les cartes d'identité. Cela inclut les personnes portant des masques spéciaux utilisant des dipfeaks - des images réalistes créées avec l'intelligence artificielle - ou montrant des images ou des vidéos d'autres personnes, explique le PDG ID.me Blake Hall.
Selon les données ID.me. des milliers de personnes ont utilisé des masques et des mannequins pour tenter de tromper le contrôle d'identité sur leur visage.
La reconnaissance faciale pour l'identification individuelle est devenue l'une des applications d'intelligence artificielle les plus largement utilisées, permettant aux gens d'effectuer des paiements via leur téléphone, de passer avec succès toutes les vérifications et de confirmer leur identité. Par exemple, les conducteurs d'Uber Technologies Inc. doivent confirmer régulièrement qu'ils sont titulaires de comptes sous licence en prenant des selfies avec leurs téléphones et en les téléchargeant dans un programme qui utilise le système de reconnaissance faciale de Microsoft Corp. pour leur authentification. La société Uber l'a fait parce qu'elle a rencontré des conducteurs piratant son système pour partager ses comptes.
Amazon.com Inc. et des fournisseurs plus petits tels que Idemia Group S.A.S., Thales Group et AnyVision Interactive Technologies Ltd., vendent des systèmes de reconnaissance faciale pour l'identification. La technologie fonctionne en faisant correspondre le visage pour créer ce qu'on appelle une empreinte faciale. L'identification des individus est généralement plus précise que l'identification des individus dans une foule.
Pourtant, selon les chercheurs, cette forme d'identification biométrique a ses limites.
Pourquoi les criminels trompent les systèmes de reconnaissance faciale
Les analystes de la société de crédit Experian PLC ont déclaré dans un de leurs rapports de sécurité qu'ils s'attendaient à ce que les fraudeurs créent de plus en plus de «visages de Frankenstein» en utilisant l'intelligence artificielle pour combiner les traits du visage de différentes personnes afin de former une nouvelle identité dans le but de tromper le système
L'identification par reconnaissance faciale fonctionne en faisant correspondre le visage pour créer ce que l'on appelle une empreinte faciale.
Les analystes ont déclaré que cette stratégie faisait partie d'un type de criminalité financière en croissance rapide connu sous le nom de fraude d'identité artificielle, dans lequel les fraudeurs utilisent la combinaison d'informations réelles et fausses pour créer une nouvelle identité.
Jusqu'à récemment, certains militants se sont opposés aux systèmes de reconnaissance faciale. par exemple, les militants de la protection de la vie privée au Royaume-Uni ont mis en place une cure de jouvence asymétrique spécialement conçue pour confondre les caméras de vidéosurveillance avec un système de reconnaissance faciale lors d'une promenade dans la ville.
Selon Alexey Polyakov, directeur général Adversa.ai, une entreprise de recherche sur la sécuritéet l'intelligence artificielle, les criminels ont un certain nombre de raisons de pirater le système de reconnaissance faciale: de l'accès aux portefeuilles numériques sur les téléphones de quelqu'un d'autre à l'accès réussi à des endroits hautement sécurisés (Hôtels, centres d'affaires ou hôpitaux). Tout système de contrôle d'accès qui a remplacé les gardes de sécurité par des personnes munies de caméras avec un système de reconnaissance faciale est potentiellement à risque, a-t-il déclaré. Il a également Ajouté qu'il était personnellement capable de confondre un logiciel de reconnaissance faciale qui le prenait pour une personne complètement différente, alors qu'il portait simplement des lunettes de soleil et utilisait des patchs sur son visage.
Menace croissante
L'idée de tromper ces systèmes automatisés est apparue il y a quelques années. En 2017, un client de la compagnie d'assurance Lemonade a tenté de tromper son intelligence artificielle en portant une perruque blonde, en appliquant du rouge à lèvres et en téléchargeant une vidéo indiquant que son appareil photo de 5 000 $ avait été volé. Les systèmes d'intelligence artificielle de Lemonade, qui analysent de telles vidéos à la recherche de signes de fraude, ont qualifié la vidéo de suspecte et ont découvert que la personne tentait de créer une fausse identité. La société a déclaré sur son blog qu'elle avait déjà intenté une action en dommages-intérêts réussie sous son apparence habituelle. La société Lemonade, qui sur son site Web indique qu'elle utilise la reconnaissance faciale pour marquer les déclarations déposées par la même personne sous des noms différents, a refusé de commenter.
Plus tôt cette année, le bureau du procureur chinois a accusé deux personnes d'avoir volé plus de 77 millions de dollars en créant une société fictive pour vendre des sacs en cuir et envoyer de fausses factures fiscales à leurs clients présumés. Selon les procureurs cités dans le rapport de mars du Xinhua Daily Telegraph, le couple envoyait des factures d'échantillon standard, trompant le système de reconnaissance faciale de l'administration fiscale locale, créé pour suivre les paiements et lutter contre l'évasion fiscale. Le bureau du procureur a déclaré dans une discussion chinoise WeChat que les attaquants avaient piraté le service de reconnaissance faciale du gouvernement local à l'aide de vidéos qu'ils avaient capturées. Il n'a pas été possible de contacter le bureau du procureur de Shanghai pour obtenir des commentaires.
Le rapport indique que les attaquants ont acheté des photos de visages en haute résolution sur un marché en ligne noir, puis ont utilisé l'application pour créer des vidéos à partir de photos afin de donner l'impression que les visages hochaient la tête, clignaient des yeux et ouvraient la bouche.
Les membres de ce Duo, avec les noms de famille Wu et Zhou, ont utilisé un téléphone portable spécial qui a désactivé la caméra frontale et Téléchargé des vidéos traitées alors qu'il devait prendre des selfies vidéo pour le système fiscal de Shanghai, qui utilise la reconnaissance faciale pour certifier les déclarations de revenus, indique le rapport. Selon le bureau du procureur, Wu et Zhou ont été exploités de cette manière depuis 2018.
Selon John Spencer, directeur de la stratégie de la société d'identification biométrique Veridium LLC, la contrefaçon d'un système de reconnaissance faciale ne nécessite pas toujours un logiciel sophistiqué. L'un des moyens les plus courants de tromper le système d'identification du visage consiste à imprimer une photo du visage de quelqu'un et à couper les yeux en utilisant la photo comme masque, a - t-il déclaré. De nombreux systèmes de reconnaissance faciale, tels que ceux utilisés par les plateformes de trading financier, vérifient si une vidéo montre une personne en direct en examinant ses yeux qui clignotent ou bougent.
Dans la plupart des cas, son équipe pourrait utiliser cette tactique et d'autres pour tester les limites des systèmes de reconnaissance faciale, en pliant parfois un «visage» en papier pour lui donner une perception plus profonde, a déclaré Spencer. «En une heure, je peux casser presque tous ces systèmes», dit - il.
Selon les scientifiques, Face ID d'Apple Inc., qui a été lancé en 2017 aux côtés de l'iPhone x, est l'un des plus difficiles à pirater. Sa caméra projette plus de 30 000 points invisibles pour créer une carte de la profondeur du visage humain, qu'elle analyse ensuite et réalise également une image infrarouge du visage. En utilisant une puce iPhone, il convertit ensuite cette image en une représentation mathématique qui se compare à sa propre base de données sur le visage de l'utilisateur, selon le site Web d'Apple. Un porte-parole d'Apple a déclaré que le site Web de la société indiquait que, pour des raisons de confidentialité, les données Face ID ne quittaient jamais l'iPhone.
Certaines banques et sociétés financières utilisent des services d'identification de visage tiers, plutôt que le système Face ID d'Apple, pour enregistrer les clients dans leurs applications iPhone, a déclaré Spencer. C'est une vérification potentiellement moins scrupuleuse. «Vous finissez par regarder des caméras ordinaires sur un téléphone portable", dit - il. "Il n'y a pas de port infrarouge ni de projecteurs.»
De nombreuses banques en ligne demandent aux utilisateurs de télécharger des selfies vidéo avec des photos de leur permis de conduire ou de leur passeport, puis utilisent un logiciel de reconnaissance faciale tiers pour faire correspondre la vidéo à une carte d'identité. Selon Spencer, les images parviennent parfois aux réviseurs si le système Note quelque chose de mal.
À la recherche d'une solution
Alexey Polyakov teste régulièrement la sécurité des systèmes de reconnaissance faciale pour ses clients et affirme qu'il existe deux façons de protéger ces systèmes contre la tromperie. L'une consiste à mettre à jour les modèles d'intelligence artificielle sous - jacents pour se méfier des nouvelles attaques en modifiant les algorithmes qui les sous-tendent. L'autre consiste à former des modèles avec autant d'exemples de visages modifiés que possible, ce qui peut les induire en erreur, connus sous le nom d'exemples contradictoires.
Malheureusement, la formation d'un modèle de reconnaissance faciale peut nécessiter 10 fois plus d'images - un processus coûteux et fastidieux. Selon Alexey Polyakov pour chaque personne, vous devez ajouter son image dans des lunettes, un chapeau, etc., afin que le système puisse apprendre et se souvenir de toutes les combinaisons possibles.
Original message
Охота на лица
Хакеры не дремлют. Они изобретают все новые и новые способы, которые позволят им обмануть системы распознавания лиц. Благодаря современным технологиям теперь они не только могут работать по старинке, вырезая дырки вместо глаз на фотографиях, но так же создавать вполне реалистичный "портретный кивок" с помощью искусственного интеллекта.По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обойти систему идентификации личности по лицу.
Системы распознавания лиц, которые рекламируют как быстрый и надежный способ идентификации всех и каждого, находятся под пристальным вниманием мошенников. В течение многих лет исследователи предупреждали об уязвимостях данных технологий, но недавние незаконные схемы их использования подтвердили их опасения и подчеркнули сложную, но столь необходимую задачу по их улучшению.
По данным фирмы ID.me Inc., которая специализируется на проверке личности, в 2020 году тысячи людей в США пытались обойти проверку личности по лицу, чтобы обманным путем требовать пособия по безработице от государственных кадровых агентств. В период с июня 2020 года по январь 2021 года в 26 штатах США было обнаружено более 80 000 попыток обмануть этап, в котором необходимо предоставить свое селфи для сопоставления удостоверений личности. Сюда входят люди, носящие специальные маски, использующие дипфейки - реалистичные изображения, созданные с помощью искусственного интеллекта, - или показывающие изображения или видео других людей, - говорит генеральный директор ID.me Блейк Холл.
По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обмануть проверку личности по лицу.
Фото: Id.me
Распознавание лиц для индивидуальной идентификации стало одним из наиболее широко используемых приложений искусственного интеллекта, позволяя людям совершать платежи через свои телефоны, успешно проходить любые проверки и подтверждение своей личности. Например, водители Uber Technologies Inc. должны регулярно подтверждать, что они являются лицензированными владельцами учетных записей, делая селфи с помощью своих телефонов и загружая их в программу, которая использует систему распознавания лиц Microsoft Corp. для их аутентификации. Компания Uber сделала это, потому что столкнулась с водителями, взламывающими ее систему, чтобы поделиться своими учетными записями.
Amazon.com Inc. и более мелкие поставщики, такие как Idemia Group S.A.S., Thales Group и AnyVision Interactive Technologies Ltd., продают системы распознавания лиц для идентификации. Технология работает путем сопоставления лица для создания так называемого отпечатка лица. Идентификация отдельных людей обычно более точна, чем определение лиц в толпе.
Тем не менее, по мнению исследователей, у этой формы биометрической идентификации есть свои ограничения.
Почему преступники обманывают системы распознавание лиц
Аналитики кредитной компании Experian PLC заявили в одном из своих отчетов по безопасности, что они ожидают, что мошенники все чаще будут создавать «лица Франкенштейна», используя искусственный интеллект для объединения черт лица разных людей, чтобы сформировать новую личность с целью обмана системы идентификации лиц.Идентификация по распознаванию лица работает путем сопоставления лица для создания так называемого отпечатка лица.
Фото: JAMIE CHUNG FOR THE WALL STREET JOURNAL
Аналитики заявили, что эта стратегия является частью быстрорастущего типа финансовых преступлений, известных как искусственное мошенничество с идентификационными данными, когда мошенники используют объединение реальной и поддельной информации для создания новой личности.
До недавнего времени некоторые активисты выступали против систем распознавания лиц. Например, участники кампании по защите конфиденциальности в Великобритании нанесли асимметричный макияж, специально разработанный для того, чтобы запутать во время прогулки по городу камеры видеонаблюдения с системой распознавания лиц.
По словам Алексея Полякова, генерального директора Adversa.ai, фирмы занимающейся исследованиями безопасноти искусственного интеллекта, у преступников есть целый ряд причин для взлома системы распознавания лиц: от получения доступа к цифровым кошелькам на чужих телефонах до успешного получения доступа к местам с повышенной степенью защиты (в отели, бизнес-центры или больницы). По его словам, любая система контроля доступа, которая заменила охранников на людей с камерами с системой распознавания лиц, потенциально подвержена риску. Он также добавил, что лично смог запутать программное обеспечение для распознавания лиц, которое приняло его за совершенно другого человека, а он просто надел солнцезащитные очки и использовал пластыри на своем лице.
Растущая угроза
Идея обмануть эти автоматизированные системы возникла несколько лет назад. В 2017 году мужчина-клиент страховой компании Lemonade попытался обмануть ее искусственный интеллект, надев светлый парик, нанесся помаду и загрузив видео, в котором говорилось, что его камера за 5000 долларов была украдена. Системы искусственного интеллекта Lemonade, которые анализируют такие видео на наличие признаков мошенничества, отметили видео как подозрительное и обнаружили, что человек пытался создать поддельную личность. Компания сообщила в своем блоге, что ранее он подал успешный иск на возмещение ущерба под своим обычным видом. Компания Lemonade, которая на своем веб-сайте сообщает, что использует распознавание лиц для пометки заявлений, поданных одним и тем же человеком под разными именами, отказалась от комментариев.Ранее в этом году прокуратура Китая обвинила двух людей в краже более 77 миллионов долларов путем создания фиктивной подставной компании для продажи кожаных сумок и отправки поддельных налоговых счетов своим предполагаемым клиентам. По словам прокуроров, цитируемых в мартовском отчете Xinhua Daily Telegraph, пара отправляла счета-фактуры стандартного образца, обманывая систему распознавания лиц местного государственного налогового управления, которая была создана для отслеживания платежей и борьбы с уклонением от уплаты налогов. Прокуратура сообщила в китайском чате WeChat, что злоумышленники взломали местную правительственную службу распознавания лиц с помощью снятых ими видеороликов. Связаться с прокуратурой Шанхая для получения комментариев не удалось.
В отчете говорится, что злоумышленники купили фотографии лиц в высоком разрешении на черном онлайн-рынке, а затем использовала приложение для создания видео из фотографий, чтобы они выглядели так, как будто лица кивали, моргали и открывали рты.
Участники этого дуэта с фамилиями Ву и Чжоу, использовали специальный мобильный телефон, который отключал фронтальную камеру и загружал обработанные видео, когда он должен был делать видео-селфи для налоговой системы Шанхая, которая использует распознавание лиц для того, чтобы заверять налоговые декларации, говорится в отчете. По словам прокуратуры, Ву и Чжоу промышляли таким образом с 2018 года.
По словам Джона Спенсера, директора по стратегии компании Veridium LLC, занимающейся биометрической идентификацией, для подделки системы распознавания лиц не всегда требуется сложное программное обеспечение. По его словам, один из наиболее распространенных способов обмануть систему идентификации по лицу - это распечатать фотографию чьего-то лица и вырезать глаза, используя фотографию в качестве маски. Многие системы распознавания лиц, например те, которые используются платформами финансовой торговли, проверяют, показывает ли видео живого человека, исследуя его моргающие или движущиеся глаза.
По словам Спенсера, в большинстве случаев его команда могла использовать эту и другие тактики, чтобы проверить пределы систем распознавания лиц, иногда складывая бумажное «лицо», чтобы придать ему более глубокое восприятие. «В течение часа я могу сломать почти все эти системы», - говорит он.
По мнению ученых, Face ID от Apple Inc., который был запущен в 2017 году вместе с iPhone X, является одним из самых сложных для взлома. Его камера проецирует более 30 000 невидимых точек для создания карты глубины лица человека, которую затем анализирует, а также делает инфракрасное изображение лица. Используя чип iPhone, он затем преобразует это изображение в математическое представление, которое сравнивает со своей собственной базой данных о лице пользователя, согласно веб-сайту Apple. Представитель Apple заявил, что на веб-сайте компании указано, что из соображений конфиденциальности данные Face ID никогда не покидают iPhone.
По словам Спенсера, некоторые банки и финансовые компании используют сторонние сервисы идентификации лиц, а не систему Face ID от Apple, для регистрации клиентов в своих приложениях для iPhone. Это потенциально менее скрупулезная проверка. «В конечном итоге вы смотрите на обычные камеры на мобильном телефоне, - говорит он. - Нет ни инфракрасного порта, ни точечных проекторов».
Многие онлайн-банки просят пользователей загружать видео-селфи вместе с фотографиями их водительских прав или паспортов, а затем используют стороннее программное обеспечение для распознавания лиц, чтобы сопоставить видео с удостоверением личности. По словам Спенсера, изображения иногда попадают к рецензентам, если система отмечает что-то не так.
В поисках решения
Алексей Поляков регулярно тестирует безопасность систем распознавания лиц для своих клиентов и говорит, что есть два способа защитить такие системы от обмана. Один из них - обновить базовые модели искусственного интеллекта, чтобы остерегаться новых атак, изменив алгоритмы, лежащие в их основе. Другой - обучить модели с помощью как можно большего количества примеров измененных лиц, которые могут ввести их в заблуждение, известных как состязательные примеры.К сожалению, для обучения модели распознавания лиц может потребоваться в 10 раз больше изображений - дорогостоящий и трудоемкий процесс. По словам Алексея Полякова для каждого человека нужно добавить его изображение в очках, шляпе и тому подобное, чтобы система могла узнать и запомнить все возможные комбинации.
Такие компании, как Google, Facebook и Apple, постоянно работают над поиском способов предотвращения взломов систем искусственного интеллекта по распознаванию лиц. Facebook, например, заявил в июне 2021 года, что выпускает новый инструмент для обнаружения дипфейков.
По словам Блейка Холла из ID.me, к февралю 2021 года его компания смогла остановить почти все попытки мошенничества с селфи на правительственных сайтах. Он утверждает, что компания стала лучше обнаруживать определенные маски, маркируя изображения как мошеннические, а также отслеживая устройство, IP-адреса и номера телефонов мошенников, которые повторяются по нескольким поддельным учетным записям. Теперь он также проверяет, как свет смартфона отражается и взаимодействует с кожей человека или другим материалом.
Источники: wsj.com, habr.com, ITSOFT
Dernière modification par un modérateur:
