- Entrou
- Fev 17, 2007
- Mensagens
- 677
- Reaction score
- 1,021
- Pontos
- 93
- Idade
- 57
Caça facial
Os hackers não dormem. Eles inventam-se novas formas de ajudá-los a enganar o sistema de reconhecimento de лиц. Graças à tecnologia moderna, agora, eles não só podem trabalhar à moda antiga, de retirada do buraco, em vez de olho nas fotos, mas assim criar bastante realista de "retrato assentimento" usando inteligência artificial.
De acordo com os dados ID.me. milhares de pessoas usaram Máscaras e manequins semelhantes para tentar contornar o sistema de identificação pessoal.
Os sistemas de reconhecimento facial, que anunciam como uma maneira rápida e confiável de identificar todos e cada um, estão sob o escrutínio dos golpistas. Durante anos, os pesquisadores alertaram sobre as vulnerabilidades dos dados da tecnologia, mas os recentes esquemas ilegais de usá-los confirmaram suas preocupações e destacaram o desafio difícil, mas muito necessário, de melhorá-los.
Segundo a empresa ID.me Inc., especializada em verificação de identidade, em 2020, milhares de Pessoas nos EUA tentaram contornar a verificação de identidade para reivindicar fraudulentamente benefícios de desemprego de agências de pessoal do governo. Entre junho de 2020 e janeiro de 2021, mais de 80.000 tentativas foram encontradas em 26 estados dos EUA para enganar o estágio em que é necessário fornecer sua selfie para combinar cartões de identificação. Isso inclui pessoas usando máscaras especiais, usando deepfakes - imagens realistas criadas com inteligência artificial - ou mostrando imagens ou vídeos de outras pessoas, diz O CEO ID.me Blake Hall.
De acordo com os dados ID.me. milhares de pessoas usaram Máscaras e manequins para tentar enganar uma verificação de identidade no rosto.
O reconhecimento facial para identificação individual tornou-se um dos aplicativos de inteligência artificial mais utilizados, permitindo que as pessoas façam pagamentos através de seus telefones, passem com sucesso por qualquer verificação e prova de sua identidade. Por exemplo, os motoristas da Uber Technologies Inc. devem confirmar regularmente que são titulares de contas licenciados, tirando selfies com seus telefones e carregando-os em um programa que usa o sistema de reconhecimento facial da Microsoft. para autenticá-los. A Uber fez isso porque encontrou motoristas invadindo seu sistema para compartilhar suas contas.
Amazon.com Inc. e fornecedores menores, como Idemia Group S. A. S., Thales Group e AnyVision Interactive Technologies Ltd.. vendem sistemas de reconhecimento facial para identificação. A tecnologia funciona combinando o rosto para criar o que é chamado de impressão facial. Identificar indivíduos é geralmente mais preciso do que identificar indivíduos em uma multidão.
No entanto, segundo os pesquisadores, essa forma de identificação biométrica tem suas limitações.
Por que os criminosos enganam os sistemas de reconhecimento facial
Os analistas de crédito Experian PLC disse em um dos seus relatórios de segurança, o que eles esperam que os bandidos cada vez mais vão criar o "rosto de Frankenstein", utilizando inteligência artificial para combinar características faciais de pessoas diferentes, para formar uma nova identidade, com o objetivo de fraudar o sistema de identificação лиц.
A identificação pelo reconhecimento facial funciona combinando o rosto para criar o que é conhecido como impressão facial.
Analistas disseram que a estratégia faz parte de um tipo de crime financeiro em rápido crescimento conhecido como fraude de identidade artificial, em que os golpistas usam a combinação de informações reais e falsas para criar uma nova identidade.
Até recentemente, alguns ativistas se opunham aos sistemas de reconhecimento facial. por exemplo, os ativistas da privacidade no Reino Unido aplicaram uma maquiagem assimétrica projetada especificamente para confundir Câmeras de segurança com um sistema de reconhecimento facial enquanto caminhavam pela cidade.
De acordo com Alexei esta cultura, diretor-geral do Adversa.ai, empresa dedicada à pesquisa segurança a inteligência artificial, os criminosos há uma série de razões para invadir o sistema de reconhecimento de face: a partir de acessar digital carteiras a estranhos telefones com sucesso antes de obter acesso aos locais com elevado grau de proteção (hotéis, centros de negócios ou um hospital). Qualquer sistema de controle de acesso que substitua os guardas por pessoas com câmeras com um sistema de reconhecimento facial está potencialmente em risco, disse ele. Ele também acrescentou que, pessoalmente, foi capaz de confundir o software de reconhecimento facial que o confundia com uma pessoa completamente diferente, enquanto ele simplesmente colocava óculos escuros e usava adesivos em seu rosto.
Ameaça crescente
A idéia de enganar esses sistemas automatizados surgiu há alguns anos. Em 2017, um cliente do sexo masculino da companhia de seguros Lemonade tentou enganar sua inteligência artificial usando uma peruca loira, aplicando batom e enviando um vídeo dizendo que sua câmera de US.5.000 havia sido roubada. Os sistemas de Inteligência Artificial Da Lemonade, que analisam esses vídeos em busca de sinais de fraude, marcaram o vídeo como suspeito e descobriram que a pessoa estava tentando criar uma identidade falsa. A empresa disse em um post no blog que já havia entrado com uma ação bem-sucedida por danos sob sua aparência habitual. A Lemonade, que diz em seu site que usa reconhecimento facial para marcar declarações feitas pela mesma pessoa sob nomes diferentes, se recusou a comentar.
No início deste ano, os promotores chineses acusaram duas pessoas de roubar mais de US.77 milhões, criando uma empresa fictícia para vender bolsas de couro e enviar contas fiscais falsas para seus supostos clientes. De acordo com promotores citados em um relatório de março do Xinhua Daily Telegraph, o casal estava enviando faturas de amostra padrão, enganando o sistema de reconhecimento facial do escritório de impostos do estado local, que foi criado para rastrear pagamentos e combater a evasão fiscal. Os promotores disseram em um bate-papo chinês no WeChat que os invasores invadiram um serviço de reconhecimento facial do governo local usando vídeos que eles capturaram. Não foi possível entrar em contato com o Ministério Público de Xangai para comentar.
O relatório diz que os invasores compraram fotos de alta resolução de rostos em um mercado on-line negro e depois usaram um aplicativo para criar vídeos a partir de fotos para fazer parecer que os rostos estavam balançando a cabeça, piscando e abrindo a boca.
Os participantes desta dupla, com os sobrenomes Wu e Zhou, usaram um telefone celular especial que desligava a câmera frontal e carregava vídeos processados quando ele deveria tirar selfies em vídeo para o sistema tributário de Xangai, que usa reconhecimento facial para garantir declarações fiscais, diz O Relatório. Wu e Zhou têm pescado dessa maneira desde 2018, de acordo com o Ministério Público.
A falsificação de um sistema de reconhecimento facial nem sempre requer software sofisticado, disse John Spencer, diretor de estratégia da Empresa de identificação biométrica Veridium LLC. Uma das maneiras mais comuns de enganar o sistema de identificação facial é imprimir uma foto do rosto de alguém e cortar os olhos usando a foto como máscara, disse ele. Muitos sistemas de reconhecimento facial, como os usados por plataformas de negociação financeira, verificam se um vídeo mostra uma pessoa viva examinando seus olhos piscando ou em movimento.
Na maioria dos casos, sua equipe poderia usar essa e outras táticas para testar os limites dos sistemas de reconhecimento facial, às vezes dobrando um "rosto" de papel para dar uma percepção mais profunda, disse Spencer. "Dentro de uma hora, posso quebrar quase todos esses sistemas", diz ele.
Segundo os cientistas, o Face ID é da Apple Inc., lançado em 2017 ao lado do iPhone X, é um dos mais difíceis de quebrar. Sua câmera projeta mais de 30.000 pontos invisíveis para criar um mapa da profundidade do rosto de uma pessoa, que ele analisa e também faz uma imagem infravermelha do rosto. Usando o chip do iPhone, ele converte essa imagem em uma representação matemática que se compara ao seu próprio banco de dados sobre o rosto do usuário, de acordo com o site da Apple. Um porta-voz da Apple disse que o site da empresa afirma que, por razões de privacidade, os dados do Face ID nunca saem do iPhone.
Alguns bancos e empresas financeiras usam serviços de identificação facial de terceiros, em vez do sistema Face ID da Apple, para registrar clientes em seus aplicativos para iPhone, disse Spencer. Esta é uma verificação potencialmente menos escrupulosa. "Você acaba olhando para câmeras comuns em um telefone celular", diz ele. "Não há infravermelho nem Projetores pontuais."
Muitos bancos on-line pedem aos usuários que enviem selfies de vídeo junto com fotos de sua carteira de motorista ou passaporte e, em seguida, usam software de reconhecimento facial de terceiros para combinar o vídeo com o cartão de identificação. Às vezes, as imagens chegam aos revisores se o sistema observa algo errado, disse Spencer.
Encontrando uma solução
Alexei Polyakov testa regularmente a segurança dos sistemas de reconhecimento facial para seus clientes e diz que existem duas maneiras de proteger esses sistemas contra fraudes. Um deles é atualizar os modelos básicos de inteligência artificial para tomar cuidado com novos ataques, alterando os algoritmos subjacentes a eles. Outra é treinar modelos com o maior número possível de exemplos de rostos alterados que possam enganá-los, conhecidos como exemplos contraditórios.
Infelizmente, pode ser necessário 10 vezes mais imagens para treinar um modelo de reconhecimento facial - um processo caro e demorado. De acordo com Alexei Polyakov, cada pessoa precisa adicionar sua imagem em óculos, chapéu e similares, para que o sistema possa aprender e lembrar todas as combinações possíveis.
Os hackers não dormem. Eles inventam-se novas formas de ajudá-los a enganar o sistema de reconhecimento de лиц. Graças à tecnologia moderna, agora, eles não só podem trabalhar à moda antiga, de retirada do buraco, em vez de olho nas fotos, mas assim criar bastante realista de "retrato assentimento" usando inteligência artificial.
De acordo com os dados ID.me. milhares de pessoas usaram Máscaras e manequins semelhantes para tentar contornar o sistema de identificação pessoal.
Os sistemas de reconhecimento facial, que anunciam como uma maneira rápida e confiável de identificar todos e cada um, estão sob o escrutínio dos golpistas. Durante anos, os pesquisadores alertaram sobre as vulnerabilidades dos dados da tecnologia, mas os recentes esquemas ilegais de usá-los confirmaram suas preocupações e destacaram o desafio difícil, mas muito necessário, de melhorá-los.
Segundo a empresa ID.me Inc., especializada em verificação de identidade, em 2020, milhares de Pessoas nos EUA tentaram contornar a verificação de identidade para reivindicar fraudulentamente benefícios de desemprego de agências de pessoal do governo. Entre junho de 2020 e janeiro de 2021, mais de 80.000 tentativas foram encontradas em 26 estados dos EUA para enganar o estágio em que é necessário fornecer sua selfie para combinar cartões de identificação. Isso inclui pessoas usando máscaras especiais, usando deepfakes - imagens realistas criadas com inteligência artificial - ou mostrando imagens ou vídeos de outras pessoas, diz O CEO ID.me Blake Hall.
De acordo com os dados ID.me. milhares de pessoas usaram Máscaras e manequins para tentar enganar uma verificação de identidade no rosto.
O reconhecimento facial para identificação individual tornou-se um dos aplicativos de inteligência artificial mais utilizados, permitindo que as pessoas façam pagamentos através de seus telefones, passem com sucesso por qualquer verificação e prova de sua identidade. Por exemplo, os motoristas da Uber Technologies Inc. devem confirmar regularmente que são titulares de contas licenciados, tirando selfies com seus telefones e carregando-os em um programa que usa o sistema de reconhecimento facial da Microsoft. para autenticá-los. A Uber fez isso porque encontrou motoristas invadindo seu sistema para compartilhar suas contas.
Amazon.com Inc. e fornecedores menores, como Idemia Group S. A. S., Thales Group e AnyVision Interactive Technologies Ltd.. vendem sistemas de reconhecimento facial para identificação. A tecnologia funciona combinando o rosto para criar o que é chamado de impressão facial. Identificar indivíduos é geralmente mais preciso do que identificar indivíduos em uma multidão.
No entanto, segundo os pesquisadores, essa forma de identificação biométrica tem suas limitações.
Por que os criminosos enganam os sistemas de reconhecimento facial
Os analistas de crédito Experian PLC disse em um dos seus relatórios de segurança, o que eles esperam que os bandidos cada vez mais vão criar o "rosto de Frankenstein", utilizando inteligência artificial para combinar características faciais de pessoas diferentes, para formar uma nova identidade, com o objetivo de fraudar o sistema de identificação лиц.
A identificação pelo reconhecimento facial funciona combinando o rosto para criar o que é conhecido como impressão facial.
Analistas disseram que a estratégia faz parte de um tipo de crime financeiro em rápido crescimento conhecido como fraude de identidade artificial, em que os golpistas usam a combinação de informações reais e falsas para criar uma nova identidade.
Até recentemente, alguns ativistas se opunham aos sistemas de reconhecimento facial. por exemplo, os ativistas da privacidade no Reino Unido aplicaram uma maquiagem assimétrica projetada especificamente para confundir Câmeras de segurança com um sistema de reconhecimento facial enquanto caminhavam pela cidade.
De acordo com Alexei esta cultura, diretor-geral do Adversa.ai, empresa dedicada à pesquisa segurança a inteligência artificial, os criminosos há uma série de razões para invadir o sistema de reconhecimento de face: a partir de acessar digital carteiras a estranhos telefones com sucesso antes de obter acesso aos locais com elevado grau de proteção (hotéis, centros de negócios ou um hospital). Qualquer sistema de controle de acesso que substitua os guardas por pessoas com câmeras com um sistema de reconhecimento facial está potencialmente em risco, disse ele. Ele também acrescentou que, pessoalmente, foi capaz de confundir o software de reconhecimento facial que o confundia com uma pessoa completamente diferente, enquanto ele simplesmente colocava óculos escuros e usava adesivos em seu rosto.
Ameaça crescente
A idéia de enganar esses sistemas automatizados surgiu há alguns anos. Em 2017, um cliente do sexo masculino da companhia de seguros Lemonade tentou enganar sua inteligência artificial usando uma peruca loira, aplicando batom e enviando um vídeo dizendo que sua câmera de US.5.000 havia sido roubada. Os sistemas de Inteligência Artificial Da Lemonade, que analisam esses vídeos em busca de sinais de fraude, marcaram o vídeo como suspeito e descobriram que a pessoa estava tentando criar uma identidade falsa. A empresa disse em um post no blog que já havia entrado com uma ação bem-sucedida por danos sob sua aparência habitual. A Lemonade, que diz em seu site que usa reconhecimento facial para marcar declarações feitas pela mesma pessoa sob nomes diferentes, se recusou a comentar.
No início deste ano, os promotores chineses acusaram duas pessoas de roubar mais de US.77 milhões, criando uma empresa fictícia para vender bolsas de couro e enviar contas fiscais falsas para seus supostos clientes. De acordo com promotores citados em um relatório de março do Xinhua Daily Telegraph, o casal estava enviando faturas de amostra padrão, enganando o sistema de reconhecimento facial do escritório de impostos do estado local, que foi criado para rastrear pagamentos e combater a evasão fiscal. Os promotores disseram em um bate-papo chinês no WeChat que os invasores invadiram um serviço de reconhecimento facial do governo local usando vídeos que eles capturaram. Não foi possível entrar em contato com o Ministério Público de Xangai para comentar.
O relatório diz que os invasores compraram fotos de alta resolução de rostos em um mercado on-line negro e depois usaram um aplicativo para criar vídeos a partir de fotos para fazer parecer que os rostos estavam balançando a cabeça, piscando e abrindo a boca.
Os participantes desta dupla, com os sobrenomes Wu e Zhou, usaram um telefone celular especial que desligava a câmera frontal e carregava vídeos processados quando ele deveria tirar selfies em vídeo para o sistema tributário de Xangai, que usa reconhecimento facial para garantir declarações fiscais, diz O Relatório. Wu e Zhou têm pescado dessa maneira desde 2018, de acordo com o Ministério Público.
A falsificação de um sistema de reconhecimento facial nem sempre requer software sofisticado, disse John Spencer, diretor de estratégia da Empresa de identificação biométrica Veridium LLC. Uma das maneiras mais comuns de enganar o sistema de identificação facial é imprimir uma foto do rosto de alguém e cortar os olhos usando a foto como máscara, disse ele. Muitos sistemas de reconhecimento facial, como os usados por plataformas de negociação financeira, verificam se um vídeo mostra uma pessoa viva examinando seus olhos piscando ou em movimento.
Na maioria dos casos, sua equipe poderia usar essa e outras táticas para testar os limites dos sistemas de reconhecimento facial, às vezes dobrando um "rosto" de papel para dar uma percepção mais profunda, disse Spencer. "Dentro de uma hora, posso quebrar quase todos esses sistemas", diz ele.
Segundo os cientistas, o Face ID é da Apple Inc., lançado em 2017 ao lado do iPhone X, é um dos mais difíceis de quebrar. Sua câmera projeta mais de 30.000 pontos invisíveis para criar um mapa da profundidade do rosto de uma pessoa, que ele analisa e também faz uma imagem infravermelha do rosto. Usando o chip do iPhone, ele converte essa imagem em uma representação matemática que se compara ao seu próprio banco de dados sobre o rosto do usuário, de acordo com o site da Apple. Um porta-voz da Apple disse que o site da empresa afirma que, por razões de privacidade, os dados do Face ID nunca saem do iPhone.
Alguns bancos e empresas financeiras usam serviços de identificação facial de terceiros, em vez do sistema Face ID da Apple, para registrar clientes em seus aplicativos para iPhone, disse Spencer. Esta é uma verificação potencialmente menos escrupulosa. "Você acaba olhando para câmeras comuns em um telefone celular", diz ele. "Não há infravermelho nem Projetores pontuais."
Muitos bancos on-line pedem aos usuários que enviem selfies de vídeo junto com fotos de sua carteira de motorista ou passaporte e, em seguida, usam software de reconhecimento facial de terceiros para combinar o vídeo com o cartão de identificação. Às vezes, as imagens chegam aos revisores se o sistema observa algo errado, disse Spencer.
Encontrando uma solução
Alexei Polyakov testa regularmente a segurança dos sistemas de reconhecimento facial para seus clientes e diz que existem duas maneiras de proteger esses sistemas contra fraudes. Um deles é atualizar os modelos básicos de inteligência artificial para tomar cuidado com novos ataques, alterando os algoritmos subjacentes a eles. Outra é treinar modelos com o maior número possível de exemplos de rostos alterados que possam enganá-los, conhecidos como exemplos contraditórios.
Infelizmente, pode ser necessário 10 vezes mais imagens para treinar um modelo de reconhecimento facial - um processo caro e demorado. De acordo com Alexei Polyakov, cada pessoa precisa adicionar sua imagem em óculos, chapéu e similares, para que o sistema possa aprender e lembrar todas as combinações possíveis.
Original message
Охота на лица
Хакеры не дремлют. Они изобретают все новые и новые способы, которые позволят им обмануть системы распознавания лиц. Благодаря современным технологиям теперь они не только могут работать по старинке, вырезая дырки вместо глаз на фотографиях, но так же создавать вполне реалистичный "портретный кивок" с помощью искусственного интеллекта.По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обойти систему идентификации личности по лицу.
Системы распознавания лиц, которые рекламируют как быстрый и надежный способ идентификации всех и каждого, находятся под пристальным вниманием мошенников. В течение многих лет исследователи предупреждали об уязвимостях данных технологий, но недавние незаконные схемы их использования подтвердили их опасения и подчеркнули сложную, но столь необходимую задачу по их улучшению.
По данным фирмы ID.me Inc., которая специализируется на проверке личности, в 2020 году тысячи людей в США пытались обойти проверку личности по лицу, чтобы обманным путем требовать пособия по безработице от государственных кадровых агентств. В период с июня 2020 года по январь 2021 года в 26 штатах США было обнаружено более 80 000 попыток обмануть этап, в котором необходимо предоставить свое селфи для сопоставления удостоверений личности. Сюда входят люди, носящие специальные маски, использующие дипфейки - реалистичные изображения, созданные с помощью искусственного интеллекта, - или показывающие изображения или видео других людей, - говорит генеральный директор ID.me Блейк Холл.
По данным ID.me, тысячи людей использовали подобные маски и манекены, чтобы попытаться обмануть проверку личности по лицу.
Фото: Id.me
Распознавание лиц для индивидуальной идентификации стало одним из наиболее широко используемых приложений искусственного интеллекта, позволяя людям совершать платежи через свои телефоны, успешно проходить любые проверки и подтверждение своей личности. Например, водители Uber Technologies Inc. должны регулярно подтверждать, что они являются лицензированными владельцами учетных записей, делая селфи с помощью своих телефонов и загружая их в программу, которая использует систему распознавания лиц Microsoft Corp. для их аутентификации. Компания Uber сделала это, потому что столкнулась с водителями, взламывающими ее систему, чтобы поделиться своими учетными записями.
Amazon.com Inc. и более мелкие поставщики, такие как Idemia Group S.A.S., Thales Group и AnyVision Interactive Technologies Ltd., продают системы распознавания лиц для идентификации. Технология работает путем сопоставления лица для создания так называемого отпечатка лица. Идентификация отдельных людей обычно более точна, чем определение лиц в толпе.
Тем не менее, по мнению исследователей, у этой формы биометрической идентификации есть свои ограничения.
Почему преступники обманывают системы распознавание лиц
Аналитики кредитной компании Experian PLC заявили в одном из своих отчетов по безопасности, что они ожидают, что мошенники все чаще будут создавать «лица Франкенштейна», используя искусственный интеллект для объединения черт лица разных людей, чтобы сформировать новую личность с целью обмана системы идентификации лиц.Идентификация по распознаванию лица работает путем сопоставления лица для создания так называемого отпечатка лица.
Фото: JAMIE CHUNG FOR THE WALL STREET JOURNAL
Аналитики заявили, что эта стратегия является частью быстрорастущего типа финансовых преступлений, известных как искусственное мошенничество с идентификационными данными, когда мошенники используют объединение реальной и поддельной информации для создания новой личности.
До недавнего времени некоторые активисты выступали против систем распознавания лиц. Например, участники кампании по защите конфиденциальности в Великобритании нанесли асимметричный макияж, специально разработанный для того, чтобы запутать во время прогулки по городу камеры видеонаблюдения с системой распознавания лиц.
По словам Алексея Полякова, генерального директора Adversa.ai, фирмы занимающейся исследованиями безопасноти искусственного интеллекта, у преступников есть целый ряд причин для взлома системы распознавания лиц: от получения доступа к цифровым кошелькам на чужих телефонах до успешного получения доступа к местам с повышенной степенью защиты (в отели, бизнес-центры или больницы). По его словам, любая система контроля доступа, которая заменила охранников на людей с камерами с системой распознавания лиц, потенциально подвержена риску. Он также добавил, что лично смог запутать программное обеспечение для распознавания лиц, которое приняло его за совершенно другого человека, а он просто надел солнцезащитные очки и использовал пластыри на своем лице.
Растущая угроза
Идея обмануть эти автоматизированные системы возникла несколько лет назад. В 2017 году мужчина-клиент страховой компании Lemonade попытался обмануть ее искусственный интеллект, надев светлый парик, нанесся помаду и загрузив видео, в котором говорилось, что его камера за 5000 долларов была украдена. Системы искусственного интеллекта Lemonade, которые анализируют такие видео на наличие признаков мошенничества, отметили видео как подозрительное и обнаружили, что человек пытался создать поддельную личность. Компания сообщила в своем блоге, что ранее он подал успешный иск на возмещение ущерба под своим обычным видом. Компания Lemonade, которая на своем веб-сайте сообщает, что использует распознавание лиц для пометки заявлений, поданных одним и тем же человеком под разными именами, отказалась от комментариев.Ранее в этом году прокуратура Китая обвинила двух людей в краже более 77 миллионов долларов путем создания фиктивной подставной компании для продажи кожаных сумок и отправки поддельных налоговых счетов своим предполагаемым клиентам. По словам прокуроров, цитируемых в мартовском отчете Xinhua Daily Telegraph, пара отправляла счета-фактуры стандартного образца, обманывая систему распознавания лиц местного государственного налогового управления, которая была создана для отслеживания платежей и борьбы с уклонением от уплаты налогов. Прокуратура сообщила в китайском чате WeChat, что злоумышленники взломали местную правительственную службу распознавания лиц с помощью снятых ими видеороликов. Связаться с прокуратурой Шанхая для получения комментариев не удалось.
В отчете говорится, что злоумышленники купили фотографии лиц в высоком разрешении на черном онлайн-рынке, а затем использовала приложение для создания видео из фотографий, чтобы они выглядели так, как будто лица кивали, моргали и открывали рты.
Участники этого дуэта с фамилиями Ву и Чжоу, использовали специальный мобильный телефон, который отключал фронтальную камеру и загружал обработанные видео, когда он должен был делать видео-селфи для налоговой системы Шанхая, которая использует распознавание лиц для того, чтобы заверять налоговые декларации, говорится в отчете. По словам прокуратуры, Ву и Чжоу промышляли таким образом с 2018 года.
По словам Джона Спенсера, директора по стратегии компании Veridium LLC, занимающейся биометрической идентификацией, для подделки системы распознавания лиц не всегда требуется сложное программное обеспечение. По его словам, один из наиболее распространенных способов обмануть систему идентификации по лицу - это распечатать фотографию чьего-то лица и вырезать глаза, используя фотографию в качестве маски. Многие системы распознавания лиц, например те, которые используются платформами финансовой торговли, проверяют, показывает ли видео живого человека, исследуя его моргающие или движущиеся глаза.
По словам Спенсера, в большинстве случаев его команда могла использовать эту и другие тактики, чтобы проверить пределы систем распознавания лиц, иногда складывая бумажное «лицо», чтобы придать ему более глубокое восприятие. «В течение часа я могу сломать почти все эти системы», - говорит он.
По мнению ученых, Face ID от Apple Inc., который был запущен в 2017 году вместе с iPhone X, является одним из самых сложных для взлома. Его камера проецирует более 30 000 невидимых точек для создания карты глубины лица человека, которую затем анализирует, а также делает инфракрасное изображение лица. Используя чип iPhone, он затем преобразует это изображение в математическое представление, которое сравнивает со своей собственной базой данных о лице пользователя, согласно веб-сайту Apple. Представитель Apple заявил, что на веб-сайте компании указано, что из соображений конфиденциальности данные Face ID никогда не покидают iPhone.
По словам Спенсера, некоторые банки и финансовые компании используют сторонние сервисы идентификации лиц, а не систему Face ID от Apple, для регистрации клиентов в своих приложениях для iPhone. Это потенциально менее скрупулезная проверка. «В конечном итоге вы смотрите на обычные камеры на мобильном телефоне, - говорит он. - Нет ни инфракрасного порта, ни точечных проекторов».
Многие онлайн-банки просят пользователей загружать видео-селфи вместе с фотографиями их водительских прав или паспортов, а затем используют стороннее программное обеспечение для распознавания лиц, чтобы сопоставить видео с удостоверением личности. По словам Спенсера, изображения иногда попадают к рецензентам, если система отмечает что-то не так.
В поисках решения
Алексей Поляков регулярно тестирует безопасность систем распознавания лиц для своих клиентов и говорит, что есть два способа защитить такие системы от обмана. Один из них - обновить базовые модели искусственного интеллекта, чтобы остерегаться новых атак, изменив алгоритмы, лежащие в их основе. Другой - обучить модели с помощью как можно большего количества примеров измененных лиц, которые могут ввести их в заблуждение, известных как состязательные примеры.К сожалению, для обучения модели распознавания лиц может потребоваться в 10 раз больше изображений - дорогостоящий и трудоемкий процесс. По словам Алексея Полякова для каждого человека нужно добавить его изображение в очках, шляпе и тому подобное, чтобы система могла узнать и запомнить все возможные комбинации.
Такие компании, как Google, Facebook и Apple, постоянно работают над поиском способов предотвращения взломов систем искусственного интеллекта по распознаванию лиц. Facebook, например, заявил в июне 2021 года, что выпускает новый инструмент для обнаружения дипфейков.
По словам Блейка Холла из ID.me, к февралю 2021 года его компания смогла остановить почти все попытки мошенничества с селфи на правительственных сайтах. Он утверждает, что компания стала лучше обнаруживать определенные маски, маркируя изображения как мошеннические, а также отслеживая устройство, IP-адреса и номера телефонов мошенников, которые повторяются по нескольким поддельным учетным записям. Теперь он также проверяет, как свет смартфона отражается и взаимодействует с кожей человека или другим материалом.
Источники: wsj.com, habr.com, ITSOFT
Última edição por um moderador:
