OpenAI reforça a segurança com novo método de red teaming
Abordagem usa pessoas ou IA para explorar os riscos potenciais de um sistema de forma estruturada a fim de aumentar a proteção
26/11/202413/06/2024
Por redação AIoT Brasil
O navegador DuckDuckGo, dos Estados Unidos, anunciou nesta semana a disponibilização de um recurso inédito que dá acesso privado a chatbots de inteligência artificial e deixa mais protegidos os dados pessoais. O novo serviço está disponível globalmente e permite que o usuário escolha entre dois modelos de IA de código aberto (o Llama-3 70B da Meta e o Mixtral 8x7b da Mistral AI) e dois de código fechado (o GPT-3.5 Turbo da OpenAI e o Claude 3 Haiku da Anthropic).
O diferencial do DuckDuckGo AI Chat é a garantia de que o motor de busca e os provedores de chatbot não poderão usar as informações de usuários para treinar seus modelos de IA, a fim de que as interações permaneçam privadas e anônimas. De acordo com o portal AI News, o DuckDuckGo também remove metadados como servidores ou endereços de IP.
Para isso, foi feito um acordo com todas as operadoras de chatbots para assegurar que as interações salvas sejam completamente excluídas em 30 dias e que nenhum dos dados capturados na plataforma possam ser usados para treinar ou melhorar os modelos. “Isso torna mais fácil preservar a privacidade do que alterar as configurações de privacidade de cada serviço”, observou o AI News, que descreveu a restrição como “uma lufada de ar fresco, numa era em que os serviços online estão cada vez mais ávidos pelos dados dos usuários”.
O DuckDuckGo afirma que, diferentemente de motores de busca como o Google Chrome, seu navegador oferece estas garantias: pesquisa privada por predefinição, reprodução de vídeos do YouTube sem anúncios segmentados, eliminação dos dados com um clique e bloqueio de rastreadores de terceiros, anúncios que rastreiam dados, pop-ups de cookies e rastreadores de e-mail. O serviço é gratuito até um número determinado de acesso diário.
“Vemos o AI Chat e a pesquisa como duas ferramentas diferentes, mas poderosas, para ajudá-lo a encontrar o que procura, especialmente quando você está explorando um novo tópico”, explicou o DuckDuckGo. “Se você começar fazendo algumas perguntas ao AI Chat, as respostas podem inspirar pesquisas tradicionais para rastrear avaliações, preços ou outras fontes primárias. Se você começar com a pesquisa, talvez queira mudar para o AI Chat para consultas de acompanhamento que ajudam a entender o que você leu ou para obter respostas rápidas e diretas a novas perguntas que não foram abordadas nas páginas da web que você viu”, acrescentou.
#acesso privado#chatbots de inteligência artificial#dados dos usuários#dados pessoais#privacidade
Abordagem usa pessoas ou IA para explorar os riscos potenciais de um sistema de forma estruturada a fim de aumentar a proteção
26/11/2024Documento emitido no dia 24 afirma que quando mal utilizada a tecnologia pode “minar instituições e processos democráticos”
29/10/2024A quantia é oferecida a pesquisadores de segurança que conseguirem executar um ataque remoto aos dados com código arbitrário
28/10/2024