Na próxima quarta-feira, 17 de setembro, às 11h, o Grupo de Sistemas de Software do IME-USP promove a palestra “10, 23, 81 — Stacking up the LLM Risks: Applied Machine Learning Security”, com o pesquisador e escritor Gary McGraw, referência mundial em segurança de software.
O evento será realizado no Auditório do NUMEC e contará também com transmissão ao vivo no canal do IME-USP no YouTube (link aqui). A atividade integra a série de seminários 2025.2 do Grupo de Sistemas de Software.
Sobre a palestra
Na apresentação, McGraw abordará os riscos arquiteturais associados ao uso de grandes modelos de linguagem (LLMs) — tecnologia que sustenta sistemas de inteligência artificial generativa, como os chatbots, e que se expande rapidamente em diversas áreas.
Com base em análises conduzidas pelo Berryville Institute of Machine Learning (BIML), o especialista discutirá desde os 10 principais riscos dos LLMs, passando por 23 riscos identificados em modelos de fundação de caixa-preta, até chegar a uma visão panorâmica dos 81 riscos mapeados pelo BIML. O estudo destaca a importância de incorporar práticas de engenharia de segurança desde a concepção desses sistemas.
Sobre o palestrante
Gary McGraw é cofundador do Berryville Institute of Machine Learning, onde se dedica à segurança em sistemas de aprendizado de máquina. Reconhecido como uma das maiores autoridades globais em segurança de software, é autor de oito livros de grande impacto na área, incluindo “Software Security: Building Security In”, “Exploiting Software” e “Building Secure Software”.
Com mais de 100 publicações científicas e uma trajetória de consultoria em empresas de tecnologia adquiridas por gigantes como HP, Synopsys e Twitter, McGraw também produziu, durante treze anos, o Silver Bullet Security Podcast para a IEEE Security & Privacy Magazine. Ele é PhD em Ciência Cognitiva e Ciência da Computação pela Indiana University Bloomington.
📍 Serviço
- Data e hora: 17 de setembro de 2025, às 11h
- Local: Auditório do NUMEC, IME-USP
- Transmissão ao vivo: Canal do IME-USP no YouTube
- Série: Seminários 2025.2 – Grupo de Sistemas de Software