Suscetível à manipulação: DeepSeek falha em mais um teste de segurança
O DeepSeek foi reprovado em mais um teste de segurança, desta vez promovido pela Qualys, se mostrando suscetível a ataques que podem contornar suas políticas para a utilização do bot em atividades maliciosas. Anteriormente, a IA chinesa havia falhado em experimentos semelhantes conduzidos pela Cisco.
Na análise da empresa de tecnologia americana, o modelo R1 LLaMA 8B da startup asiática passou por avaliação em 16 categorias. Discurso de ódio, assédio, ataques de privacidade, conteúdo sexual, ações antiéticas, automutilação, excesso de confiança e tópicos controversos foram algumas delas.
De acordo com o relatório divulgado recentemente, o bot que chegou a superar o ChatGPT apresentou fraqueza em vários desses temas. Ele falhou em 58% das tentativas de jailbreak e 61% dos testes da base de conhecimento, se mostrando mais vulnerável a determinados tipos de ataques.
Com as taxas elevadas, o DeepSeek foi classificado como suscetível de maneira significativa à manipulação, como detalharam os pesquisadores responsáveis pelos testes. Assim, ele pode ser enganado para elaborar discursos de ódio, fornecer informações médicas incorretas e promover teorias da conspiração, entre outros conteúdos prejudiciais.
Violação de dados e outros problemas
O relatório da Qualys menciona, ainda, mais problemas relacionados à inteligência artificial generativa que ganhou o noticiário nas últimas semanas, como o armazenamento de dados em servidores da China. Segundo a empresa, isso levanta dúvidas sobre o acesso das informações pelo governo local mesmo sem o consentimento do usuário, o que é permitido pelas leis do país.
Além disso, o DeepSeek expôs uma grande quantidade de dados de usuários, recentemente, após ser alvo de uma violação de segurança. Registros de chats contendo interações confidenciais e chaves de autenticação estavam entre as informações vazadas, apontando falhas nas medidas de segurança da plataforma.
O DeepSeek foi reprovado em mais um teste de segurança, desta vez promovido pela Qualys, se mostrando suscetível a ataques que podem contornar suas políticas para a utilização do bot em atividades maliciosas. Anteriormente, a IA chinesa havia falhado em experimentos semelhantes conduzidos pela Cisco.
Na análise da empresa de tecnologia americana, o modelo R1 LLaMA 8B da startup asiática passou por avaliação em 16 categorias. Discurso de ódio, assédio, ataques de privacidade, conteúdo sexual, ações antiéticas, automutilação, excesso de confiança e tópicos controversos foram algumas delas.