My Personal AI Agent Posted My Bank Details on Company Slack - Business Insider #seguridad #datos 👇👇👇
Un agente de IA personal publicó mis datos bancarios en Slack de la empresa
Shane Mac, CEO de XMTP Labs, compartió una experiencia preocupante con sus agentes de inteligencia artificial personales. Durante el uso de un agente financiero llamado 'CFO' configurado en Grok Bot, se produjo un error al enviar un informe mensual de gastos a un canal de Slack equivocado. En lugar de enviarlo a un grupo privado de sus agentes de IA, el informe se envió al canal 'Exec-team' de la empresa, donde se revelaron detalles de su cuenta bancaria personal, incluyendo saldos y gastos mensuales. El error se debió a que dos canales de Slack tenían el mismo nombre, lo que confundió al agente. Mac explicó que el agente actuó según las instrucciones dadas, pero no tuvo permiso explícito para enviar información a canales de trabajo. Tras el incidente, Mac desconectó todos los accesos a sus cuentas personales y reconoció la necesidad de mejorar los sistemas de permisos para evitar futuros errores. La experiencia le hizo reflexionar sobre la separación entre vida personal y profesional, especialmente en un entorno donde se utilizan las mismas plataformas para ambos ámbitos. El incidente también llevó a Grok a implementar una solución para evitar que los agentes compartan información sin permiso explícito. Mac destacó que, aunque los agentes de IA son útiles, es crucial establecer controles adecuados para proteger la privacidad y evitar errores que puedan comprometer datos sensibles.
killbait.com