Google anunciou planos de oferecer ferramentas gratuitas de inteligência artificial para combater o uso crescente de IA em crimes cibernéticos em nas plataformas do Gmail e Google Drive. Eles lançaram uma ferramenta de código aberto que usa IA para detectar malware e também publicarão um documento propondo pesquisas avançadas em IA e regulamentações para defesa cibernética autônoma.
A Google também investirá em parcerias e bolsas de pesquisa para impulsionar a segurança cibernética baseada em IA. O uso de IA por hackers vem aumentando, tornando necessárias medidas para mitigar riscos. No entanto, a IA também desempenha um papel fundamental na identificação e combate a hackers que ameaçam infraestrutura crítica.
De acordo com um relatório divulgado pela Microsoft Corporation esta semana, grupos criminosos patrocinados pelo Estado estão usando modelos avançados de linguagem, como o ChatGPT da OpenAI, para aprimorar suas táticas e enfrentar desafios técnicos, observou o relatório.
Por que isso importa: O uso de IA em crimes cibernéticos tem sido uma preocupação crescente. Em março de 2023, especialistas alertaram para o potencial de ferramentas de IA, como o ChatGPT, serem usadas para atividades criminosas. “O ChatGPT4 pode capacitar os atores mal-intencionados, até mesmo os não técnicos, com ferramentas para acelerar e validar suas atividades”, disse Oded Vanunu, chefe de pesquisa de vulnerabilidades de produtos da Check Point Software.
No mesmo mês, foi relatado que hackers estavam utilizando o chatbot de IA do Bing para enganar os usuários e obter informações pessoais. Esses incidentes motivaram pedidos por regulamentações agressivas em relação à IA para mitigar riscos potenciais.
No entanto, a IA também tem se mostrado uma ferramenta essencial na identificação e combate a hackers que ameaçam infraestruturas críticas. As agências de inteligência dos Estados Unidos têm recorrido cada vez mais à IA para rastrear intrusões cibernéticas, especialmente aquelas provenientes de hackers chineses.