La Seguridad en la Era de la IA: Reflexiones de Francis de Souza, COO de Google Cloud
En un mundo donde la inteligencia artificial (IA) se ha convertido en un motor impulsor de la innovación empresarial, la seguridad se ha vuelto más crucial que nunca. Recientemente, tuve la oportunidad de conversar con Francis de Souza, COO de Google Cloud, durante un evento en Los Ángeles. Su mensaje sobre la necesidad de un enfoque estratégico en la seguridad durante la adopción de tecnologías de IA resonó profundamente, destacando tanto las oportunidades como los desafíos que enfrentan las organizaciones. La conversación subraya la urgencia de que las compañías reconsideren su postura de seguridad en una era donde el riesgo de brechas de datos ha aumentado exponencialmente.
El Momento de la IA: Un Llamado a la Acción
De Souza enfatizó que las empresas deben abordar la seguridad como una prioridad fundamental, no como una mera consideración secundaria. “La seguridad no es algo que se puede añadir más tarde”, subrayó. Este consejo cobra particular relevancia en el contexto actual, donde el concepto de “shadow AI” —el uso de herramientas de IA sin la supervisión adecuada de la organización— está ganando terreno. La falta de control sobre estas herramientas puede conducir a vulnerabilidades significativas, por lo que de Souza instó a las empresas a exigir “seguridad, gobernanza y auditabilidad” desde el principio.
Por lo tanto, es fundamental que las estrategias de IA vayan de la mano con estrategias de datos y seguridad. Según de Souza, “no existe una estrategia de IA sin una estrategia de datos y una estrategia de seguridad”. Esta afirmación resalta la necesidad de una integración holística entre todas las dimensiones tecnológicas de una empresa.
El Cambio en el Panorama de Amenazas
El COO de Google Cloud también analizó cómo la naturaleza de las amenazas ha evolucionado drásticamente. “El tiempo promedio entre una brecha inicial y el siguiente paso del ataque ha caído de ocho horas a 22 segundos” afirmó, lo que demuestra que la velocidad con la que operan los ataques cibernéticos ha cambiado de manera fundamental. Con la expansión del perímetro de ataque más allá de la red tradicional, las organizaciones deben recalibrar sus defensas para incluir no solo sus infraestructuras, sino también los modelos y datos que alimentan la IA.
Uno de los riesgos que de Souza destacó fue la aparición de agentes que recorren los sistemas internos de las empresas, muchas veces descubriendo repositorios de datos olvidados. Estos datos, si no están adecuadamente protegidos, pueden ser la puerta de entrada para un ataque cibernético.
Defensas Impulsadas por IA: ¿La Solución Futuro?
De Souza propuso una solución innovadora: una defensa totalmente “agente”. Esto significa que las organizaciones ahora pueden implementar sistemas de defensa que funcionan a la velocidad de la máquina. En vez de depender de un modelo de defensa liderado por humanos, se pueden emplear agentes de IA que supervisen constantemente el entorno, detectando y respondiendo a amenazas en tiempo real. “Esto se ha convertido en un problema de liderazgo, no solo en un problema tecnológico”, afirmó, subrayando que este asunto debería ser una prioridad para los equipos directivos y los consejos de administración.
A pesar de las ventajas que promete la IA en la defensa cibernética, hay una preocupación creciente sobre la escasez de profesionales calificados necesarios para supervisar estos sistemas. Lea Kissner, CISO de LinkedIn, comentó que es poco probable que la industria comprenda plenamente la seguridad de IA de manera sostenible a largo plazo en los próximos años, lo que resulta en un desafío considerable para las empresas.
Desafíos de los Proveedores de Plataformas
El uso de IA no está exento de riesgos, y los desarrolladores enfrentan su propia serie de desafíos. Recientemente, se reportó que varios desarrolladores de Google Cloud recibieron facturas exorbitantes debido a llamadas no autorizadas a la API de modelos de Gemini. A pesar de que algunas de estas facturas fueron reembolsadas después de la cobertura mediática, el problema de la falta de comunicación en torno a las políticas de facturación y las capacidades de las API persiste.
Rod Danan, CEO de la plataforma de preparación de entrevistas Prentus, experimentó una factura de $10,138 en aproximadamente 30 minutos, mientras que otros desarrolladores se encontraron con costos mucho más altos debido a configuraciones predeterminadas problemáticas. Esto resalta la importancia de la transparencia en la forma en que los proveedores de servicios en la nube manejan las actualizaciones automáticas y la seguridad de las API.
Reflexiones Finales: La Importancia del Software Profesional
A medida que las empresas navegan por el complejo paisaje de la IA y la ciberseguridad, queda claro que adoptar un enfoque proactivo y estratégico es fundamental. Las plataformas como Google Cloud y otras herramientas profesionales (Adobe, Autodesk, etc.) son recursos vitales en esta travesía. Estas herramientas no solo ofrecen un entorno más controlado y seguro, sino que también proporcionan la gobernanza y las capacidades de auditoría necesarias para proteger los activos críticos de información.
El consejo de de Souza es un fuerte recordatorio de que en la era digital actual, la seguridad no debe ser una reflexión tardía. Al integrar la seguridad, la estrategia de datos y la IA de manera cohesiva, las empresas pueden crear un ecosistema más robusto y resiliente, lo que les permitirá
🔥 ¿Necesitas licencias Adobe o Autodesk?
Somos distribuidores autorizados. Precios especiales para profesionales y empresas.
✓ Licencias originales | ✓ Entrega inmediata | ✓ Soporte técnico
