- Registrado
- 17 Feb 2007
- Mensajes
- 678
- Puntuación de reacción
- 1.026
- Puntos
- 93
Caza facial
Los hackers no duermen. Están inventando nuevas y nuevas formas de engañar a los sistemas de reconocimiento facial.Gracias a la tecnología moderna, ahora no solo pueden trabajar a la antigua usanza tallando agujeros en lugar de ojos en las fotos, sino también crear un "guiño vertical" bastante realista con la ayuda de la inteligencia artificial.
Según datos ID.me. miles de personas han usado máscaras y maniquíes similares para tratar de eludir el sistema de identificación facial.
Los sistemas de reconocimiento facial, que se promocionan como una forma rápida y confiable de identificar a todos y cada uno, están bajo el escrutinio de los estafadores. Durante años, los investigadores han advertido sobre las vulnerabilidades de estas tecnologías, pero los patrones ilegales recientes para usarlas han confirmado sus preocupaciones y han resaltado la difícil pero muy necesaria tarea de mejorarlas.
Según la firma ID.me Inc., que se especializa en verificación de identidad, en 2020, miles de personas en los Estados Unidos intentaron eludir la verificación de identidad facial para reclamar fraudulentamente beneficios de desempleo de las agencias estatales de recursos humanos. Entre junio de 2020 y enero de 2021, se detectaron más de 80, 000 intentos de fraude en 26 Estados de los Estados Unidos en la etapa en la que uno debe proporcionar su selfie para hacer coincidir las tarjetas de identificación. Esto incluye a las personas que usan máscaras especiales que usan dipfas (imágenes realistas creadas con inteligencia artificial) o que muestran imágenes o videos de otras personas, dice el CEO ID.me Blake Hall.
Según datos ID.me. miles de personas usaron máscaras y maniquíes para tratar de engañar a la verificación de identidad en la cara.
El reconocimiento facial para la identificación individual se ha convertido en una de las aplicaciones de inteligencia artificial más utilizadas, lo que permite a las personas realizar pagos a través de sus teléfonos, pasar con éxito cualquier verificación y verificación de su identidad. Por ejemplo, los conductores de Uber Technologies Inc. deben confirmar regularmente que son titulares de cuentas con licencia al tomar selfies con sus teléfonos y cargarlos en un programa que utiliza el sistema de reconocimiento facial de Microsoft Corp. para autenticarlos. Uber lo hizo porque se encontró con conductores que piratean su sistema para compartir sus cuentas.
Amazon.com Inc. y proveedores más pequeños como Idemia Group S. A. S., Thales Group y AnyVision Interactive Technologies Ltd.. venden sistemas de reconocimiento facial para la identificación. La tecnología funciona haciendo coincidir una cara para crear lo que se conoce como una huella digital facial. La identificación de individuos suele ser más precisa que la identificación de individuos en una multitud.
Sin embargo, según los investigadores, esta forma de identificación biométrica tiene sus limitaciones.
Por qué los delincuentes engañan a los sistemas de reconocimiento facial
Los analistas de la compañía de crédito Experian PLC dijeron en uno de sus informes de seguridad que esperan que los estafadores creen cada vez más "caras de Frankenstein" utilizando inteligencia artificial para combinar los rasgos faciales de diferentes personas para formar una nueva identidad con el objetivo de engañar al sistema de identificación facial.
La identificación por reconocimiento facial funciona haciendo coincidir la cara para crear lo que se conoce como una huella digital facial.
La estrategia es parte de un tipo de delito financiero de rápido crecimiento conocido como fraude de identidad artificial, donde los estafadores utilizan la combinación de información real y falsa para crear una nueva identidad, dijeron analistas.
Hasta hace poco, algunos activistas se han opuesto a los sistemas de reconocimiento facial. por Ejemplo, los activistas de privacidad en el Reino Unido han aplicado un maquillaje asimétrico diseñado específicamente para confundir las cámaras de seguridad con un sistema de reconocimiento facial mientras caminan por la ciudad.
Según Alexei Polyakov, CEO Adversa.ai. una firma de investigación de seguridad y inteligencia artificial, los delincuentes tienen una variedad de razones para piratear un sistema de reconocimiento facial, desde acceder a las billeteras digitales en los teléfonos de otras personas hasta acceder con éxito a lugares de alta seguridad (hoteles, centros de negocios u hospitales). Cualquier sistema de control de acceso que haya reemplazado a los guardias de seguridad con personas con cámaras con un sistema de reconocimiento facial está potencialmente en riesgo, dijo. También agregó que personalmente pudo confundir el software de reconocimiento facial que lo confundió con una persona completamente diferente, y que simplemente se puso gafas de sol y usó parches en su cara.
Amenaza creciente
La idea de engañar a estos sistemas automatizados surgió hace unos años. En 2017, un cliente masculino de la compañía de seguros Lemonade intentó engañar a su inteligencia artificial poniéndose una peluca rubia, aplicando lápiz labial y subiendo un video que decía que su cámara de $ 5, 000 había sido robada. Los sistemas de inteligencia artificial de Lemonade, que analizan dichos videos en busca de signos de fraude, marcaron el video como sospechoso y descubrieron que la persona estaba tratando de crear una identidad falsa. La compañía dijo en una publicación de blog que anteriormente había presentado una demanda exitosa por daños y perjuicios bajo su apariencia habitual. La compañía Lemonade, que en su sitio web dice que utiliza el reconocimiento facial para etiquetar las solicitudes presentadas por la misma persona con diferentes nombres, declinó hacer comentarios.
A principios de este año, la Fiscalía China acusó a dos personas de robar más de $ 77 millones al crear una compañía ficticia para vender bolsos de cuero y enviar facturas de impuestos falsas a sus supuestos clientes. Según los fiscales citados en un informe de marzo del Xinhua Daily Telegraph, la pareja envió facturas de muestra estándar, engañando al sistema de reconocimiento facial de la oficina de impuestos del gobierno local, que se creó para rastrear pagos y combatir la evasión fiscal. La oficina del fiscal dijo en el chat chino wechat que los atacantes habían pirateado el Servicio de reconocimiento facial del gobierno local a través de videos que habían capturado. No fue posible ponerse en contacto con la oficina del fiscal de Shanghai para recibir comentarios.
El informe dice que los atacantes compraron fotos de alta resolución de caras en un mercado negro en línea y luego usaron la aplicación para crear videos a partir de fotos para que parecieran caras asintiendo, parpadeando y abriendo la boca.
Los miembros de este dúo, con los apellidos Wu y Zhou, usaron un Teléfono móvil especial que apagó la cámara frontal y cargó videos procesados cuando tuvo que tomar un video selfie para el sistema tributario de Shanghai, que usa reconocimiento facial para asegurar las declaraciones de impuestos, según el informe. Wu y Zhou han estado trabajando de esta manera desde 2018, según la Fiscalía.
No siempre se necesita un software sofisticado para falsificar un sistema de reconocimiento facial, dijo John Spencer, director de estrategia de la compañía de identificación biométrica Veridium LLC. Una de las formas más comunes de engañar al sistema de identificación facial es imprimir una foto de la cara de alguien y cortar los ojos usando la foto como máscara, dice. Muchos sistemas de reconocimiento facial, como los utilizados por las plataformas de comercio financiero, verifican si un video muestra a una persona en vivo al examinar sus ojos parpadeantes o en movimiento.
En la mayoría de los casos, su equipo podría usar esta y otras tácticas para probar los límites de los sistemas de reconocimiento facial, a veces doblando una "cara" de papel para darle una percepción más profunda, dijo Spencer. "En una hora, puedo romper casi todos estos sistemas", dice.
Según los científicos, Face ID de Apple Inc., que se lanzó en 2017 junto con el iPhone X, es uno de los más difíciles de descifrar. Su cámara proyecta más de 30, 000 puntos invisibles para crear un mapa de la profundidad de la cara de una persona, que luego analiza y también toma una imagen infrarroja de la cara. Usando un chip de iPhone, convierte esa imagen en una representación matemática que se compara con su propia base de datos sobre la cara del usuario, según el sitio web de Apple. Un portavoz de Apple dijo que el sitio web de la compañía indica que, por razones de privacidad, los datos de Face ID nunca abandonan el iPhone.
Algunos bancos y compañías financieras utilizan servicios de identificación facial de terceros, en lugar del sistema Face ID de Apple, para registrar clientes en sus aplicaciones de iPhone, dijo Spencer. Este es un cheque potencialmente menos escrupuloso. "Terminas mirando cámaras normales en un Teléfono móvil", dice. "No hay puerto de infrarrojos ni proyectores de puntos".
Muchos bancos en línea les piden a los usuarios que suban selfies de video junto con fotos de su licencia de conducir o pasaportes, y luego usan software de reconocimiento facial de terceros para hacer coincidir el video con la identificación. Las imágenes a veces llegan a los revisores si el sistema marca algo mal, dijo Spencer.
Buscando una solución
Alexei Polyakov prueba regularmente la seguridad de los sistemas de reconocimiento facial para sus clientes y dice que hay dos formas de proteger dichos sistemas contra el engaño. Una es actualizar los modelos básicos de inteligencia artificial para tener cuidado con los nuevos ataques cambiando los algoritmos detrás de ellos. Otro es entrenar modelos con tantos ejemplos de caras alteradas como sea posible que puedan engañarlos, conocidos como ejemplos contradictorios.
Desafortunadamente, entrenar un modelo de reconocimiento facial puede requerir 10 veces más imágenes, un proceso costoso y que consume mucho tiempo. Según Alexei Polyakov para cada persona, debe agregar su imagen con gafas, sombrero y similares para que el sistema pueda aprender y recordar todas las combinaciones posibles.
Los hackers no duermen. Están inventando nuevas y nuevas formas de engañar a los sistemas de reconocimiento facial.Gracias a la tecnología moderna, ahora no solo pueden trabajar a la antigua usanza tallando agujeros en lugar de ojos en las fotos, sino también crear un "guiño vertical" bastante realista con la ayuda de la inteligencia artificial.
Según datos ID.me. miles de personas han usado máscaras y maniquíes similares para tratar de eludir el sistema de identificación facial.
Los sistemas de reconocimiento facial, que se promocionan como una forma rápida y confiable de identificar a todos y cada uno, están bajo el escrutinio de los estafadores. Durante años, los investigadores han advertido sobre las vulnerabilidades de estas tecnologías, pero los patrones ilegales recientes para usarlas han confirmado sus preocupaciones y han resaltado la difícil pero muy necesaria tarea de mejorarlas.
Según la firma ID.me Inc., que se especializa en verificación de identidad, en 2020, miles de personas en los Estados Unidos intentaron eludir la verificación de identidad facial para reclamar fraudulentamente beneficios de desempleo de las agencias estatales de recursos humanos. Entre junio de 2020 y enero de 2021, se detectaron más de 80, 000 intentos de fraude en 26 Estados de los Estados Unidos en la etapa en la que uno debe proporcionar su selfie para hacer coincidir las tarjetas de identificación. Esto incluye a las personas que usan máscaras especiales que usan dipfas (imágenes realistas creadas con inteligencia artificial) o que muestran imágenes o videos de otras personas, dice el CEO ID.me Blake Hall.
Según datos ID.me. miles de personas usaron máscaras y maniquíes para tratar de engañar a la verificación de identidad en la cara.
El reconocimiento facial para la identificación individual se ha convertido en una de las aplicaciones de inteligencia artificial más utilizadas, lo que permite a las personas realizar pagos a través de sus teléfonos, pasar con éxito cualquier verificación y verificación de su identidad. Por ejemplo, los conductores de Uber Technologies Inc. deben confirmar regularmente que son titulares de cuentas con licencia al tomar selfies con sus teléfonos y cargarlos en un programa que utiliza el sistema de reconocimiento facial de Microsoft Corp. para autenticarlos. Uber lo hizo porque se encontró con conductores que piratean su sistema para compartir sus cuentas.
Amazon.com Inc. y proveedores más pequeños como Idemia Group S. A. S., Thales Group y AnyVision Interactive Technologies Ltd.. venden sistemas de reconocimiento facial para la identificación. La tecnología funciona haciendo coincidir una cara para crear lo que se conoce como una huella digital facial. La identificación de individuos suele ser más precisa que la identificación de individuos en una multitud.
Sin embargo, según los investigadores, esta forma de identificación biométrica tiene sus limitaciones.
Por qué los delincuentes engañan a los sistemas de reconocimiento facial
Los analistas de la compañía de crédito Experian PLC dijeron en uno de sus informes de seguridad que esperan que los estafadores creen cada vez más "caras de Frankenstein" utilizando inteligencia artificial para combinar los rasgos faciales de diferentes personas para formar una nueva identidad con el objetivo de engañar al sistema de identificación facial.
La identificación por reconocimiento facial funciona haciendo coincidir la cara para crear lo que se conoce como una huella digital facial.
La estrategia es parte de un tipo de delito financiero de rápido crecimiento conocido como fraude de identidad artificial, donde los estafadores utilizan la combinación de información real y falsa para crear una nueva identidad, dijeron analistas.
Hasta hace poco, algunos activistas se han opuesto a los sistemas de reconocimiento facial. por Ejemplo, los activistas de privacidad en el Reino Unido han aplicado un maquillaje asimétrico diseñado específicamente para confundir las cámaras de seguridad con un sistema de reconocimiento facial mientras caminan por la ciudad.
Según Alexei Polyakov, CEO Adversa.ai. una firma de investigación de seguridad y inteligencia artificial, los delincuentes tienen una variedad de razones para piratear un sistema de reconocimiento facial, desde acceder a las billeteras digitales en los teléfonos de otras personas hasta acceder con éxito a lugares de alta seguridad (hoteles, centros de negocios u hospitales). Cualquier sistema de control de acceso que haya reemplazado a los guardias de seguridad con personas con cámaras con un sistema de reconocimiento facial está potencialmente en riesgo, dijo. También agregó que personalmente pudo confundir el software de reconocimiento facial que lo confundió con una persona completamente diferente, y que simplemente se puso gafas de sol y usó parches en su cara.
Amenaza creciente
La idea de engañar a estos sistemas automatizados surgió hace unos años. En 2017, un cliente masculino de la compañía de seguros Lemonade intentó engañar a su inteligencia artificial poniéndose una peluca rubia, aplicando lápiz labial y subiendo un video que decía que su cámara de $ 5, 000 había sido robada. Los sistemas de inteligencia artificial de Lemonade, que analizan dichos videos en busca de signos de fraude, marcaron el video como sospechoso y descubrieron que la persona estaba tratando de crear una identidad falsa. La compañía dijo en una publicación de blog que anteriormente había presentado una demanda exitosa por daños y perjuicios bajo su apariencia habitual. La compañía Lemonade, que en su sitio web dice que utiliza el reconocimiento facial para etiquetar las solicitudes presentadas por la misma persona con diferentes nombres, declinó hacer comentarios.
A principios de este año, la Fiscalía China acusó a dos personas de robar más de $ 77 millones al crear una compañía ficticia para vender bolsos de cuero y enviar facturas de impuestos falsas a sus supuestos clientes. Según los fiscales citados en un informe de marzo del Xinhua Daily Telegraph, la pareja envió facturas de muestra estándar, engañando al sistema de reconocimiento facial de la oficina de impuestos del gobierno local, que se creó para rastrear pagos y combatir la evasión fiscal. La oficina del fiscal dijo en el chat chino wechat que los atacantes habían pirateado el Servicio de reconocimiento facial del gobierno local a través de videos que habían capturado. No fue posible ponerse en contacto con la oficina del fiscal de Shanghai para recibir comentarios.
El informe dice que los atacantes compraron fotos de alta resolución de caras en un mercado negro en línea y luego usaron la aplicación para crear videos a partir de fotos para que parecieran caras asintiendo, parpadeando y abriendo la boca.
Los miembros de este dúo, con los apellidos Wu y Zhou, usaron un Teléfono móvil especial que apagó la cámara frontal y cargó videos procesados cuando tuvo que tomar un video selfie para el sistema tributario de Shanghai, que usa reconocimiento facial para asegurar las declaraciones de impuestos, según el informe. Wu y Zhou han estado trabajando de esta manera desde 2018, según la Fiscalía.
No siempre se necesita un software sofisticado para falsificar un sistema de reconocimiento facial, dijo John Spencer, director de estrategia de la compañía de identificación biométrica Veridium LLC. Una de las formas más comunes de engañar al sistema de identificación facial es imprimir una foto de la cara de alguien y cortar los ojos usando la foto como máscara, dice. Muchos sistemas de reconocimiento facial, como los utilizados por las plataformas de comercio financiero, verifican si un video muestra a una persona en vivo al examinar sus ojos parpadeantes o en movimiento.
En la mayoría de los casos, su equipo podría usar esta y otras tácticas para probar los límites de los sistemas de reconocimiento facial, a veces doblando una "cara" de papel para darle una percepción más profunda, dijo Spencer. "En una hora, puedo romper casi todos estos sistemas", dice.
Según los científicos, Face ID de Apple Inc., que se lanzó en 2017 junto con el iPhone X, es uno de los más difíciles de descifrar. Su cámara proyecta más de 30, 000 puntos invisibles para crear un mapa de la profundidad de la cara de una persona, que luego analiza y también toma una imagen infrarroja de la cara. Usando un chip de iPhone, convierte esa imagen en una representación matemática que se compara con su propia base de datos sobre la cara del usuario, según el sitio web de Apple. Un portavoz de Apple dijo que el sitio web de la compañía indica que, por razones de privacidad, los datos de Face ID nunca abandonan el iPhone.
Algunos bancos y compañías financieras utilizan servicios de identificación facial de terceros, en lugar del sistema Face ID de Apple, para registrar clientes en sus aplicaciones de iPhone, dijo Spencer. Este es un cheque potencialmente menos escrupuloso. "Terminas mirando cámaras normales en un Teléfono móvil", dice. "No hay puerto de infrarrojos ni proyectores de puntos".
Muchos bancos en línea les piden a los usuarios que suban selfies de video junto con fotos de su licencia de conducir o pasaportes, y luego usan software de reconocimiento facial de terceros para hacer coincidir el video con la identificación. Las imágenes a veces llegan a los revisores si el sistema marca algo mal, dijo Spencer.
Buscando una solución
Alexei Polyakov prueba regularmente la seguridad de los sistemas de reconocimiento facial para sus clientes y dice que hay dos formas de proteger dichos sistemas contra el engaño. Una es actualizar los modelos básicos de inteligencia artificial para tener cuidado con los nuevos ataques cambiando los algoritmos detrás de ellos. Otro es entrenar modelos con tantos ejemplos de caras alteradas como sea posible que puedan engañarlos, conocidos como ejemplos contradictorios.
Desafortunadamente, entrenar un modelo de reconocimiento facial puede requerir 10 veces más imágenes, un proceso costoso y que consume mucho tiempo. Según Alexei Polyakov para cada persona, debe agregar su imagen con gafas, sombrero y similares para que el sistema pueda aprender y recordar todas las combinaciones posibles.
Original message
Охота на лица
Хакеры не дремлют. Они изобретают все новые и новые способы, которые позволят им обмануть системы распознавания лиц. Благодаря современным технологиям теперь они не только могут работать по старинке, вырезая дырки вместо глаз на фотографиях, но так же создавать вполне реалистичный "портретный кивок" с помощью искусственного интеллекта.По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обойти систему идентификации личности по лицу.
Системы распознавания лиц, которые рекламируют как быстрый и надежный способ идентификации всех и каждого, находятся под пристальным вниманием мошенников. В течение многих лет исследователи предупреждали об уязвимостях данных технологий, но недавние незаконные схемы их использования подтвердили их опасения и подчеркнули сложную, но столь необходимую задачу по их улучшению.
По данным фирмы ID.me Inc., которая специализируется на проверке личности, в 2020 году тысячи людей в США пытались обойти проверку личности по лицу, чтобы обманным путем требовать пособия по безработице от государственных кадровых агентств. В период с июня 2020 года по январь 2021 года в 26 штатах США было обнаружено более 80 000 попыток обмануть этап, в котором необходимо предоставить свое селфи для сопоставления удостоверений личности. Сюда входят люди, носящие специальные маски, использующие дипфейки - реалистичные изображения, созданные с помощью искусственного интеллекта, - или показывающие изображения или видео других людей, - говорит генеральный директор ID.me Блейк Холл.
По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обмануть проверку личности по лицу.
Фото: Id.me
Распознавание лиц для индивидуальной идентификации стало одним из наиболее широко используемых приложений искусственного интеллекта, позволяя людям совершать платежи через свои телефоны, успешно проходить любые проверки и подтверждение своей личности. Например, водители Uber Technologies Inc. должны регулярно подтверждать, что они являются лицензированными владельцами учетных записей, делая селфи с помощью своих телефонов и загружая их в программу, которая использует систему распознавания лиц Microsoft Corp. для их аутентификации. Компания Uber сделала это, потому что столкнулась с водителями, взламывающими ее систему, чтобы поделиться своими учетными записями.
Amazon.com Inc. и более мелкие поставщики, такие как Idemia Group S.A.S., Thales Group и AnyVision Interactive Technologies Ltd., продают системы распознавания лиц для идентификации. Технология работает путем сопоставления лица для создания так называемого отпечатка лица. Идентификация отдельных людей обычно более точна, чем определение лиц в толпе.
Тем не менее, по мнению исследователей, у этой формы биометрической идентификации есть свои ограничения.
Почему преступники обманывают системы распознавание лиц
Аналитики кредитной компании Experian PLC заявили в одном из своих отчетов по безопасности, что они ожидают, что мошенники все чаще будут создавать «лица Франкенштейна», используя искусственный интеллект для объединения черт лица разных людей, чтобы сформировать новую личность с целью обмана системы идентификации лиц.Идентификация по распознаванию лица работает путем сопоставления лица для создания так называемого отпечатка лица.
Фото: JAMIE CHUNG FOR THE WALL STREET JOURNAL
Аналитики заявили, что эта стратегия является частью быстрорастущего типа финансовых преступлений, известных как искусственное мошенничество с идентификационными данными, когда мошенники используют объединение реальной и поддельной информации для создания новой личности.
До недавнего времени некоторые активисты выступали против систем распознавания лиц. Например, участники кампании по защите конфиденциальности в Великобритании нанесли асимметричный макияж, специально разработанный для того, чтобы запутать во время прогулки по городу камеры видеонаблюдения с системой распознавания лиц.
По словам Алексея Полякова, генерального директора Adversa.ai, фирмы занимающейся исследованиями безопасноти искусственного интеллекта, у преступников есть целый ряд причин для взлома системы распознавания лиц: от получения доступа к цифровым кошелькам на чужих телефонах до успешного получения доступа к местам с повышенной степенью защиты (в отели, бизнес-центры или больницы). По его словам, любая система контроля доступа, которая заменила охранников на людей с камерами с системой распознавания лиц, потенциально подвержена риску. Он также добавил, что лично смог запутать программное обеспечение для распознавания лиц, которое приняло его за совершенно другого человека, а он просто надел солнцезащитные очки и использовал пластыри на своем лице.
Растущая угроза
Идея обмануть эти автоматизированные системы возникла несколько лет назад. В 2017 году мужчина-клиент страховой компании Lemonade попытался обмануть ее искусственный интеллект, надев светлый парик, нанесся помаду и загрузив видео, в котором говорилось, что его камера за 5000 долларов была украдена. Системы искусственного интеллекта Lemonade, которые анализируют такие видео на наличие признаков мошенничества, отметили видео как подозрительное и обнаружили, что человек пытался создать поддельную личность. Компания сообщила в своем блоге, что ранее он подал успешный иск на возмещение ущерба под своим обычным видом. Компания Lemonade, которая на своем веб-сайте сообщает, что использует распознавание лиц для пометки заявлений, поданных одним и тем же человеком под разными именами, отказалась от комментариев.Ранее в этом году прокуратура Китая обвинила двух людей в краже более 77 миллионов долларов путем создания фиктивной подставной компании для продажи кожаных сумок и отправки поддельных налоговых счетов своим предполагаемым клиентам. По словам прокуроров, цитируемых в мартовском отчете Xinhua Daily Telegraph, пара отправляла счета-фактуры стандартного образца, обманывая систему распознавания лиц местного государственного налогового управления, которая была создана для отслеживания платежей и борьбы с уклонением от уплаты налогов. Прокуратура сообщила в китайском чате WeChat, что злоумышленники взломали местную правительственную службу распознавания лиц с помощью снятых ими видеороликов. Связаться с прокуратурой Шанхая для получения комментариев не удалось.
В отчете говорится, что злоумышленники купили фотографии лиц в высоком разрешении на черном онлайн-рынке, а затем использовала приложение для создания видео из фотографий, чтобы они выглядели так, как будто лица кивали, моргали и открывали рты.
Участники этого дуэта с фамилиями Ву и Чжоу, использовали специальный мобильный телефон, который отключал фронтальную камеру и загружал обработанные видео, когда он должен был делать видео-селфи для налоговой системы Шанхая, которая использует распознавание лиц для того, чтобы заверять налоговые декларации, говорится в отчете. По словам прокуратуры, Ву и Чжоу промышляли таким образом с 2018 года.
По словам Джона Спенсера, директора по стратегии компании Veridium LLC, занимающейся биометрической идентификацией, для подделки системы распознавания лиц не всегда требуется сложное программное обеспечение. По его словам, один из наиболее распространенных способов обмануть систему идентификации по лицу - это распечатать фотографию чьего-то лица и вырезать глаза, используя фотографию в качестве маски. Многие системы распознавания лиц, например те, которые используются платформами финансовой торговли, проверяют, показывает ли видео живого человека, исследуя его моргающие или движущиеся глаза.
По словам Спенсера, в большинстве случаев его команда могла использовать эту и другие тактики, чтобы проверить пределы систем распознавания лиц, иногда складывая бумажное «лицо», чтобы придать ему более глубокое восприятие. «В течение часа я могу сломать почти все эти системы», - говорит он.
По мнению ученых, Face ID от Apple Inc., который был запущен в 2017 году вместе с iPhone X, является одним из самых сложных для взлома. Его камера проецирует более 30 000 невидимых точек для создания карты глубины лица человека, которую затем анализирует, а также делает инфракрасное изображение лица. Используя чип iPhone, он затем преобразует это изображение в математическое представление, которое сравнивает со своей собственной базой данных о лице пользователя, согласно веб-сайту Apple. Представитель Apple заявил, что на веб-сайте компании указано, что из соображений конфиденциальности данные Face ID никогда не покидают iPhone.
По словам Спенсера, некоторые банки и финансовые компании используют сторонние сервисы идентификации лиц, а не систему Face ID от Apple, для регистрации клиентов в своих приложениях для iPhone. Это потенциально менее скрупулезная проверка. «В конечном итоге вы смотрите на обычные камеры на мобильном телефоне, - говорит он. - Нет ни инфракрасного порта, ни точечных проекторов».
Многие онлайн-банки просят пользователей загружать видео-селфи вместе с фотографиями их водительских прав или паспортов, а затем используют стороннее программное обеспечение для распознавания лиц, чтобы сопоставить видео с удостоверением личности. По словам Спенсера, изображения иногда попадают к рецензентам, если система отмечает что-то не так.
В поисках решения
Алексей Поляков регулярно тестирует безопасность систем распознавания лиц для своих клиентов и говорит, что есть два способа защитить такие системы от обмана. Один из них - обновить базовые модели искусственного интеллекта, чтобы остерегаться новых атак, изменив алгоритмы, лежащие в их основе. Другой - обучить модели с помощью как можно большего количества примеров измененных лиц, которые могут ввести их в заблуждение, известных как состязательные примеры.К сожалению, для обучения модели распознавания лиц может потребоваться в 10 раз больше изображений - дорогостоящий и трудоемкий процесс. По словам Алексея Полякова для каждого человека нужно добавить его изображение в очках, шляпе и тому подобное, чтобы система могла узнать и запомнить все возможные комбинации.
Такие компании, как Google, Facebook и Apple, постоянно работают над поиском способов предотвращения взломов систем искусственного интеллекта по распознаванию лиц. Facebook, например, заявил в июне 2021 года, что выпускает новый инструмент для обнаружения дипфейков.
По словам Блейка Холла из ID.me, к февралю 2021 года его компания смогла остановить почти все попытки мошенничества с селфи на правительственных сайтах. Он утверждает, что компания стала лучше обнаруживать определенные маски, маркируя изображения как мошеннические, а также отслеживая устройство, IP-адреса и номера телефонов мошенников, которые повторяются по нескольким поддельным учетным записям. Теперь он также проверяет, как свет смартфона отражается и взаимодействует с кожей человека или другим материалом.
Источники: wsj.com, habr.com, ITSOFT
Última edición por un moderador:
