Usando os óculos inteligentes da Meta com IA e LLM para doxing de estranhos

Os mais recentes óculos de realidade aumentada (RA) da Meta, chamados Orion, podem ter atraído bastante atenção na semana passada, mas um projeto iniciado por dois estudantes de Harvard está reacendendo as discussões em torno dos óculos inteligentes Ray-Ban da Meta.

Os Ray-Ban Meta Smart Glasses são equipados com uma câmera de alta definição (HD) e um alto-falante integrado, permitindo que os usuários desfrutem de uma experiência digital com as mãos livres. Com esses óculos, os usuários podem fazer chamadas, ouvir música e capturar ou transmitir fotos e vídeos ao vivo perfeitamente.

Uma demonstração criada pelos estudantes AnhPhu Nguyen e Caine Ardayfio revela como as filmagens dos óculos, combinadas com a tecnologia de reconhecimento facial, podem potencialmente expor informações privadas de estranhos em espaços públicos. Apesar da tecnologia subjacente estar disponível há anos, esta demonstração evoca uma sensação de desconforto, particularmente porque muitas pessoas não sabiam o quão facilmente acessível essa tecnologia é para o civil médio. Isso levou vários usuários a rotular a tecnologia como distópica, refletindo a maneira como muitos a imaginavam. No entanto, atualmente é uma realidade.

Nguyen postou um vídeo no X (antigo Twitter) que mostra a tecnologia, chamada I-XRAY, em ação.

Estamos prontos para um mundo onde nossos dados são expostos num piscar de olhos? @CaineArdayfio e eu oferecemos uma resposta para você se proteger aqui: https://t.co/LhxModhDpk
pic.twitter.com/Oo35TxBNtD

-AnhPhu Nguyen (@AnhPhuNguyen1) 30 de setembro de 2024

Essa tecnologia utiliza a câmera dos óculos para transmitir vídeos ao vivo para sua conta do Instagram. Eles programaram um aplicativo de computador para monitorar o fluxo e usar IA para identificar rostos.

Uma vez que um rosto é reconhecido, ele é processado por serviços de reconhecimento facial como o PimEyes, que correspondentemente combina a imagem com fotos publicamente acessíveis do indivíduo online. Essas imagens são então analisadas usando modelos de linguagem grandes (LLMs) para extrair informações como o nome da pessoa, ocupação e mais. Esses dados podem então ser referenciados de forma cruzada com bancos de dados disponíveis publicamente para descobrir números de telefone e até mesmo números parciais de previdência social.

Como mencionado anteriormente, quase toda a tecnologia empregada no I-XRAY está disponível há anos, abrangendo câmeras, ferramentas de reconhecimento facial como PimEyes e bancos de dados como FastPeopleSearch e Cloaked.com.

O que aumenta a natureza inquietante desta demonstração é a maneira discreta e instantânea com que ela opera. Os Ray-Ban Meta Glasses 2 apresentados no vídeo se assemelham a óculos comuns e, embora possuam um indicador de privacidade para quando a gravação de vídeo está ativa, pode ser desafiador perceber em ambientes externos bem iluminados. Consequentemente, uma pessoa usando esses óculos pode gravar você sem o seu conhecimento.

Além disso, a natureza autônoma da coleta de informações exacerba o desconforto. Os LLMs envolvidos podem descobrir detalhes como nomes e informações pessoais de várias fontes online automaticamente, sem qualquer envolvimento humano. O vídeo ilustra esses alunos doxando um indivíduo na rua, casualmente utilizando informações coletadas para fingir familiaridade, como se tivessem se conhecido em uma função comunitária.

A intenção principal por trás deste projeto é destacar como estranhos podem acessar informações pessoais sem esforço no cenário digital de hoje. A dupla de estudantes optou por não divulgar nenhum código publicamente, mas compartilhou métodos para que indivíduos protejam sua privacidade. Muitos desses bancos de dados oferecem serviços gratuitos para ajudar a remover informações pessoais. No entanto, continua sendo uma tarefa árdua eliminar sua presença online completamente. Com essas medidas, você pode tentar tornar suas informações um pouco menos acessíveis.

Fonte