A privacidade e a segurança da informação tornam-se preocupações centrais para indivíduos e organizações neste mundo cada vez mais digitalizado. A plataforma Gemini, desenvolvida pelo Google, representa um avanço significativo na interação humana com a inteligência artificial (IA), facilitando comunicações complexas e fornecendo soluções inovadoras. No entanto, um aspecto menos explorado, mas de grande importância, é a segurança dessas interações, especialmente quando informações confidenciais são compartilhadas através de links de chat. Este artigo explora as implicações dessa prática e sugere medidas para mitigar os riscos associados.
Sobre a IA Gemini do Google
A Gemini AI simboliza um marco na busca do Google para aprimorar a interação entre humanos e máquinas. A plataforma utiliza algoritmos avançados e oferece uma comunicação intuitiva, permitindo que usuários obtenham respostas e realizem tarefas com eficiência sem precedentes. No entanto, a facilidade de compartilhar chats através de links externos introduz uma vulnerabilidade significativa: a possibilidade de exposição de informações confidenciais.
O compartilhamento de chats e a exposição de informações
O mecanismo de compartilhamento de chats da Gemini permite aos usuários gerar links para suas conversas, facilitando o compartilhamento de informações. Contudo, essa funcionalidade também abre brechas para que esses links sejam indexados por motores de busca, como o Google, tornando as conversas acessíveis a qualquer pessoa com conhecimento específico para encontrá-las. Essa exposição não intencional pode ter consequências severas, desde a violação de privacidade pessoal até a divulgação de segredos comerciais.
Implicações e riscos
A indexação de links de chat no Google representa um risco substancial de segurança da informação, expondo dados sensíveis a atores mal-intencionados. Além das implicações diretas para indivíduos e empresas envolvidas, essa exposição pode descredibilizar a confiança dos usuários na segurança das plataformas de IA, questionando a responsabilidade dos provedores de tecnologia na proteção de dados dos usuários.
Medidas preventivas e soluções
Para combater essa exposição, é essencial adotar uma abordagem multifacetada. Enquanto os desenvolvedores da plataforma Gemini não implementam medidas técnicas que previnam a indexação de links de chats pelos motores de busca (como a utilização de metatags específicas para robôs de busca ou a configuração de links para que sejam inacessíveis sem autenticação adequada), é crucial aumentar a conscientização entre os usuários sobre os riscos associados ao compartilhamento de informações via links de chat. Educar os usuários sobre práticas seguras de compartilhamento de informações e a importância de verificar as configurações de privacidade pode reduzir significativamente o risco de exposição indesejada.
A sua empresa não precisa de mais uma solução de cibersegurança. Ela precisa da solução certa. Fale com um de nossos especialistas e encontre a opção mais eficaz para o seu negócio.
Prova de conceito
Para executar de forma precisa cada etapa do processo, é preciso compreender o funcionamento dos indexadores de pesquisa, como o Google, Bing, DuckDuckGo, entre outros.
Figura – Função de compartilhar Gemini
Por meio da aplicação de técnicas de Google Hacking, a equipe de Threat Intelligence da Redbelt conseguiu estabelecer um filtro de pesquisa específico para localizar os artigos indexados pelo Google. No estágio inicial de nossa Prova de Conceito, identificamos um total de 72 chats. Em questão de horas, esse número aumentou para 92, indicando que o Google estava de fato indexando os Chats Compartilhados.
Figura – Chats compartilhados com o Gemini
Figura – Chats compartilhados
Figura – Chats compartilhados
Figura – Utilizando o Bing
Não encontramos nenhuma informação vazada nos outros provedores, apenas no Google, que estava indexando tais dados. Isso pode sugerir a presença de uma whitelist.
Figura – Utilizando o DuckDuckGo
Passamos então a verificar o conteúdo de cada chat compartilhado, confirmando nossa suspeita inicial. Conseguimos visualizar uma variedade de compartilhamentos.
Nossa abordagem inicial era identificar compartilhamentos feitos por desenvolvedores, expondo informações do código fonte diretamente no chat. Além disso, buscávamos qualquer conversa que alguém pudesse compartilhar, seja com um amigo ou parente, sem perceber que estava sendo exposta ao mundo.
A partir da confirmação dessa suspeita, analisamos o que as pessoas estavam compartilhando com o Gemini. Conseguimos acessar o nosso primeiro chat com sucesso. Nele, havia uma história sobre um programador sendo compartilhada por um usuário.
Figura – Legacy Code
Neste outro chat compartilhado, encontramos uma interação com o Gemini que buscava entender sobre a criação de um possível bypass de EDR no Windows (não testado).
Figura – Event Trace
Figura – Event Trace
Por fim, encontramos mais um desenvolvedor procurando resolver um problema de integração a uma API. Neste caso, conseguimos receber a última interação do usuário com o Gemini, indicando que essas mudanças podem ter sido passadas para o código do desenvolvedor.
Figura – Primeiro compartilhamento
Figura – Primeiro compartilhamento
Conclusão
Enquanto a Gemini AI do Google e plataformas similares oferecem avanços significativos na facilidade e eficiência da comunicação, a segurança das informações compartilhadas através desses canais deve ser uma prioridade. Ao reconhecer a vulnerabilidade associada ao compartilhamento de links de chat, podemos proteger a privacidade dos usuários e manter a integridade e confiança nas tecnologias de IA.
Além dos compartilhamentos mencionados anteriormente, identificamos uma variedade de outros compartilhamentos que envolviam interações com o Gemini. Algumas dessas interações eram claramente pessoais e não caberia expor detalhes específicos neste artigo.
Todos os artigos compartilhados, em algum momento, estarão expostos ao indexador do Google. Embora o teste atual não tenha revelado nenhuma informação crítica do usuário, é apenas uma questão de tempo até que uma exposição de informações mais sensíveis ocorra. Por isso, compartilhamos esse conhecimento com nossos leitores para que estejam cientes de que o que compartilham usando essa função do Google, até o momento, fica público para praticamente qualquer atacante com conhecimentos básicos em Google Hacking.
Marcos de Almeida, gerente de Red Team na Redbelt Security
