Agentes Adormecidos de IA: A Nova Ameaça Silenciosa
Agentes Adormecidos de IA: A Nova Ameaça Silenciosa
Entenda o que a guerra fria e os agentes adormecidos de IA tem em comum e representam para a segurança e a ética tecnológica
Você já assistiu a um filme de espionagem onde o agente secreto leva uma vida normal até receber a famosa "palavra-chave" que o ativa? Imagine agora que, em vez de um espião de carne e osso, temos uma Inteligência Artificial (IA) programada para se comportar de maneira inofensiva até receber um comando específico para desencadear ações potencialmente destrutivas. Esses são os chamados "Agentes Adormecidos de IA", e a possibilidade de sua existência é tão fascinante quanto preocupante.
Pense em um aplicativo de mensagens que você usa diariamente. Agora, imagine se, sob certas condições, esse aplicativo começasse a enviar informações confidenciais sem que você percebesse. Essa é a ideia por trás dos agentes adormecidos de IA: programas que aguardam um gatilho para ativar comportamentos ocultos.
Os riscos são tão variados quanto os possíveis usos desses agentes. Desde a invasão de privacidade até a desestabilização de sistemas financeiros, os agentes adormecidos de IA poderiam ser ferramentas poderosas nas mãos erradas. Detectar um agente adormecido de IA é como encontrar uma agulha no palheiro. Eles são projetados para se misturar, tornando sua detecção antes da ativação um desafio significativo.
Um caso ainda de faculdade
A ideia de agentes adormecidos não é nova. Durante a Guerra Fria, havia espiões que viviam vidas normais até serem ativados. Esses exemplos históricos podem nos ajudar a entender e preparar para os desafios que os agentes adormecidos de IA podem apresentar.
Um estudo sobre "Agentes Adormecidos de IA" envolve modelos de IA treinados para inserir vulnerabilidades em códigos sob certas condições. Por exemplo, um modelo foi treinado para escrever código seguro quando o ano indicado no prompt era 2023, mas inserir vulnerabilidades quando o ano era 2024. Essas vulnerabilidades incluíam injeção de comando do sistema operacional, cross-site scripting e injeção de SQL.
Apesar do treinamento de segurança, os modelos retiveram comportamentos inseguros quando acionados pelo gatilho específico, demonstrando a persistência de comportamentos indesejados mesmo após tentativas de remoção por meio de técnicas de segurança comportamental.
Enquanto isso, no mundo real
Não foram encontrados casos específicos de crimes ou acontecimentos reais envolvendo "Agentes Adormecidos de IA" que tenham impactado diretamente pessoas ou empresas. No entanto, há uma crescente preocupação com o potencial uso malicioso da inteligência artificial em geral, incluindo a possibilidade de agentes de IA serem usados para fins criminosos. Um relatório da Europol destaca que os criminosos estão explorando a IA para usos maliciosos, não se limitando apenas a deepfakes, mas abrangendo uma variedade de atividades criminosas.
Além disso, um estudo realizado por uma equipe de pesquisadores na University College London (UCL) identificou e classificou possíveis crimes futuros habilitados por IA, avaliando-os em termos de dano, lucro criminal, viabilidade e dificuldade de prevenção. Embora esse estudo não aponte casos específicos de agentes adormecidos de IA, ele destaca a importância de considerar e preparar-se para o potencial uso malicioso da tecnologia de IA.
Portanto, enquanto ainda não há relatos públicos de incidentes específicos envolvendo agentes adormecidos de IA, a preocupação com o uso malicioso da IA em geral é bem fundamentada e merece atenção.
Acontecendo no Mundo
A Swarovski desenvolveu um par de binóculos alimentados por IA que podem identificar 9.000 tipos diferentes de pássaros e animais selvagens. Eles também podem capturar fotos e vídeos.
Apple lança ferramenta de animação
A Apple tem uma nova ferramenta de IA chamada “Keyframer” que anima imagens estáticas. Basicamente, ele permite que você use instruções em “linguagem natural” para dar vida às suas imagens. Se você não é um grande animador, isso pode ajudá-lo com essas postagens nas redes sociais.
Robôs proibidos de telefonar nos EUA
Os Estados Unidos proibiram chamadas telefônicas não solicitadas que usam vozes geradas por IA. A Comissão Federal de Comunicações decidiu que a atual restrição legal às comunicações de voz que utilizam “vozes artificiais ou pré-gravadas” abrange a geração de voz alimentada por IA. A decisão ocorreu após um incidente em que ligações que apresentavam a voz clonada do presidente dos EUA, Biden, foram feitas com a aparente intenção de interferir nas eleições.
De que forma AI pode contribuir com geração de retorno em investimentos
Em um painel recente organizado pela Dow Jones Factiva, especialistas do meio académico e da indústria financeira discutiram novas formas de gerar alfa — simplificando o termo: retorno — a partir de notícias financeiras com a ajuda de inteligência artificial.
Ferramenta da Semana
No geral, criar demos pode ser uma atividade importante na hora de otimizar os vídeos que vai mostrar para os seus clientes. Mas, a proposta da Supademo é tirar o seu potencial cliente da cadeira de expectador e colocar ele na cadeira ativa de quem vai participar da demo interagindo e clicando na ferramenta junto com o vídeo. Tem uma demonstração dentro do site de demonstração.
Prompt da Semana
Você precisa de uma resposta, entra no ChatGPT e vai logo pedindo o que quer. Ele responde de qualquer jeito, e você não curte. O que você deveria fazer: começar a instruir como quer a estrutura da resposta.
Peça ao ChatGPT para funcionar de acordo com o estilo que você deseja usar:
Escreva um breve post sobre por que escrever é uma habilidade essencial em 2023.
Use estas estratégias:
- Use uma linguagem forte e persuasiva
- Faça perguntas para fazer a transição entre os parágrafos
- Faça backup dos pontos principais com evidências e exemplos
- Fale diretamente com o leitor
Charada do GPT
Eu posso ser ensinado, mas não tenho cérebro. Eu posso aprender, mas não tenho memória. Eu posso ver, mas não tenho olhos. Eu posso ouvir, mas não tenho ouvidos. O que sou eu?
🙏 Fique a vontade para clicar no botão de ❤️ neste artigo, assim mais pessoas podem descobrir esse conteúdo 😍 Também compartilha comigo o que você achou nos comentários!
