Skip to content
AI EngineeringEpisode 67

Quando a IA Começa a Encontrar Vulnerabilidades

Quando o software começa a pensar, planear, utilizar ferramentas e executar ações, a segurança deixa de ser apenas uma questão de código. Passa a ser uma questão de comportamento, autonomia e controlo.

Watch the episode

About this episode

Quando o software começa a pensar, planear, utilizar ferramentas e executar ações, a segurança deixa de ser apenas uma questão de código. Passa a ser uma questão de comportamento, autonomia e controlo.

Neste episódio do Decoding AI, converso com Fred Oliveira, engenheiro, empreendedor e product builder, que trabalha atualmente nas áreas de AI Risk e Agentic Security na Snyk.

O seu percurso passou pela TechCrunch, onde foi o primeiro colaborador, pela criação de empresas como a WBS e a Union e pela liderança de engenharia na Capital Factory. Fred é também um dos responsáveis pela LisbonAI, uma conferência dedicada às pessoas que estão efetivamente a construir, avaliar e colocar sistemas de inteligência artificial em produção.

Ao longo desta conversa, analisamos o verdadeiro lugar de Portugal na corrida global da inteligência artificial, o impacto da IA na engenharia de software e os riscos que surgem quando os modelos deixam de se limitar a gerar respostas e começam a descobrir vulnerabilidades, utilizar ferramentas e executar tarefas de forma autónoma.

🧠 10 Tópicos-Chave do Episódio

1️⃣ O verdadeiro lugar de Portugal na corrida global pela inteligência artificial. 2️⃣ Onde Portugal pode construir uma vantagem competitiva e defensável em IA. 3️⃣ O que ainda falta ao ecossistema português para criar empresas de IA relevantes. 4️⃣ Soberania tecnológica: criar um modelo português ou saber operar modelos globais? 5️⃣ Como a inteligência artificial está a aproximar os engenheiros dos product managers. 6️⃣ O futuro das equipas de engenharia: menos pessoas, mais senioridade e mais agentes. 7️⃣ O que distingue um verdadeiro AI agent de um workflow tradicional. 8️⃣ Sistemas multi-agent: inovação real ou uma nova camada de complexidade? 9️⃣ O que acontece quando a IA começa a encontrar e explorar vulnerabilidades. 🔟 AI alignment, jailbreaks e os limites das atuais salvaguardas de segurança.

📺 Subscreve para mais conversas com líderes que estão a usar IA para transformar os negócios: 👉 https://www.youtube.com/@DecodingArtificialIntelligence

Share

Share on LinkedInQuando a IA Começa a Encontrar Vulnerabilidades

More episodes