*25-01-14*
🚀 Nuevo paper en seguridad de AI generativa de Microsoft 🚀
Hemos publicado un nuevo whitepaper: “Lessons from Red Teaming 100 Generative AI Products”. El red team de IA se formó en 2018 para abordar el creciente panorama de los riesgos de seguridad y protección de la IA.
En el tratamos varios puntos relacionados con: 🔍 Nuestro modelo ontológico para equipos de red teaming para IA generativa que ayudan a entender entender y comunicar riesgos de seguridad. 📚 Las estrategias que utilizamos para identificar y mitigar riesgos en sistemas de IA. 🛡️ Y cinco ejemplos prácticos de vulnerabilidades y cómo abordarlas.
También se detallan 3 conclusiones... 1️⃣ Que los sistemas de IA generativa amplifican riesgos de seguridad existentes y crean nuevos. Parece evidente, pero se detallan como. 2️⃣ Que la intervención humana es esencial para mejorar y asegurar la IA. 3️⃣ Y, que la defensa en profundidad es fundamental para mantener seguros los sistemas de IA.
📰 Ver la noticia: https://lnkd.in/e7Vt6KU4 📑 Informe: https://lnkd.in/eXAefj_n
#AI #Seguridad #Microsoft #Innovación #Tecnología #Cloud Microsoft Microsoft