Pesquisadores mostram como hackers violam mensagens no ChatGPT
Pesquisadores israelenses mostram que cibercriminosos conseguem decodificar mensagens criptografadas em bots e no ChatGPT
14/05/202413/07/2023
Por redação AIoT Brasil
O Bard, inteligência artificial do Google que acaba de ganhar versão em português, tem vários problemas de segurança. É o que afirma a Check Point Research (CPR), divisão de Inteligência em Ameaças da Check Point Software, que conduziu recentemente uma pesquisa de segurança do Google Bard e fez uma análise comparativa em relação ao ChatGPT.
O que os pesquisadores da CPR encontraram foram várias limitações de segurança pela qual a plataforma permite esforços nocivos de cibercriminosos. Após várias rodadas de análise, os pesquisadores foram capazes de gerar:
Em relatórios anteriores, a Check Point Research (CPR) relatou como os cibercriminosos começaram a explorar a IA para uso nocivo, mais especificamente, criando código e conteúdo maliciosos na plataforma de inteligência artificial generativa da OpenAI, o ChatGPT.
Na análise a seguir, os pesquisadores da CPR se voltaram para a plataforma de IA generativa Google Bard. Com base na tecnologia LaMDA anterior, o Google descreveu o Bard como “um experimento baseado nessa mesma tecnologia que permite colaborar com IA generativa”.
“Parece que o Google Bard não aprendeu as lições do processamento inicial da plataforma de IA do ChatGPT, referente à implementação das melhores medidas antiabuso relacionadas ao abuso cibernético e de phishing da plataforma”, afirma Sergey Shykevich, gerente de Inteligência de Ameaça da Check Point Research.
Deve-se notar que nos últimos seis meses, o ChatGPT realizou várias melhorias para tornar a vida dos cibercriminosos mais difícil quando eles tentam tirar proveito de sua plataforma. “No entanto, o Google Bard ainda está em um estágio muito imaturo dessa perspectiva, embora se espere que, eventualmente, a plataforma examine e adote as limitações necessárias e os limites de segurança à medida que a ferramenta se desenvolve”, completa Shykevich.
#Bard#ChatGPT#open AI#phishing#ramsomware
Pesquisadores israelenses mostram que cibercriminosos conseguem decodificar mensagens criptografadas em bots e no ChatGPT
14/05/2024Legislação que entrou em vigor em 29 de abril impõe aos fabricantes regras de proteção dos dispositivos conectados à internet
06/05/2024Estudo indica que a tecnologia foi usada em mais de 50% das tentativas de violação registradas no país em 2023
25/04/2024