La Seguridad y Confianza en la Era de la IA: Desafíos y Soluciones en TechCrunch Disrupt 2026
¿Confiarías en un agente de inteligencia artificial con acceso a los sistemas de tu empresa? ¿Permitirías que tus empleados se desplazan en un vehículo autónomo? Estas no son preguntas hipotéticas, sino desafíos reales que los fundadores de inteligencia artificial están enfrentando a medida que la tecnología se desplaza de las demostraciones a aplicaciones tangibles en negocios, vehículos y robots. La seguridad y la fiabilidad son ahora partes fundamentales de cualquier producto basado en IA. Durante el TechCrunch Disrupt 2026, se abordarán estos temas cruciales en sesiones que explorarán la confianza en el uso de la IA en el mundo real.
Un Vistazo a las Sesiones sobre Seguridad de la IA
El evento contará con cinco sesiones centrales en el escenario de IA y el escenario de IA en el mundo real, donde se discutirán los desafíos que enfrenta la IA en su implementación en la industria.
- ¿Qué ve Anthropic cuando las empresas despliegan a Claude? Cat de Jong, jefa de IA aplicada en Anthropic, analizará las diferencias entre las implementaciones exitosas y las que quedan atrapadas en la fase de piloto. La experiencia de de Jong proporciona una visión valiosa para los fundadores que buscan vender IA en el ámbito empresarial.
- El problema de seguridad de los agentes que nadie está discutiendo. Ric Smith de Okta y Gavriel Cohen de NanoCo abordarán los problemas de seguridad que surgen al otorgar a los agentes de IA autonomía. Discutirán las debilidades de los modelos de permisos a nivel de aplicación y las decisiones arquitectónicas cruciales que deben considerar los fundadores.
- Seguridad de la IA empresarial: Complicaciones en la nube. Rudy Mitra de AWS y otros expertos discutirán cómo la seguridad, la gobernanza y la observabilidad se han vuelto esenciales al considerar IA en sistemas críticos, lo que ha complicado el proceso de implementación de productos de IA en las empresas.
- Construyendo sistemas de IA donde el fracaso no es una opción. Esta sesión se centrará en el IA que opera en el mundo físico, donde los errores pueden tener consecuencias graves. Expertos de Shield AI, GM y Waabi discutirán sobre cómo garantizar la seguridad de estos sistemas autónomos.
- Los robots y su momento ChatGPT: ¿qué se interpone en el camino? Les Karpas de Nvidia explorará cómo las brechas de datos limitan los avances en la robótica y qué se necesita para que estos sistemas alcancen un nivel de confianza comparativo al de los modelos de lenguaje.
Desafíos en la Adopción de la IA: El Caso de Claude
El análisis de Cat de Jong sobre el éxito y el estancamiento en la implementación de IA revela que no todos los proyectos son igualmente efectivos. Algunas empresas experimentan un valor medible de la IA, mientras que otras siguen atrapadas en la fase de prueba durante más de un año. Esta interpretación profunda de los flujos de trabajo críticos requiere que los líderes empresariales comprendan no solo la tecnología, sino también el contexto de su aplicación.
La Seguridad de los Agentes de IA
Uno de los problemas más críticos que abordarán los expertos es la seguridad de los agentes de IA. A medida que estos sistemas asumen roles más autónomos, las preguntas sobre el acceso y los permisos cobraron más relevancia. ¿Qué información deberían manejar? ¿Qué acciones deben permitirles tomar? Estos son dilemas que se vuelven cruciales en la arquitectura de la IA empresarial. La charla promete ser reveladora, especialmente para aquellos que están en el proceso de diseñar productos de IA confiables y seguros.
Complicaciones en la Cloud Con IA
La llegada de la IA al entorno empresarial ha creado un paisaje complejo a nivel de seguridad en la nube. La gobernanza y la observabilidad se han vuelto esenciales al implementar IA en sistemas críticos, planteando preguntas sobre cómo las empresas pueden manejar estos desafíos al incorporar herramientas de IA. Con la opinión de expertos en seguridad como Rudy Mitra y Katie Moussouris, esta sesión se propone proporcionar a los fundadores un entendimiento claro sobre las infraestructuras requeridas para soportar la implementación de IA segura.
Preparar la IA para el Mundo Físico
La discusión sobre la seguridad en la IA que opera en el mundo físico tendrá implicaciones serias. Cuando la tecnología puede afectar vehículos, aeronaves y sistemas industriales, separar lo que es un error menor de lo que podría ser un fracaso catastrófico es esencial. Los líderes de la industria discutirán cómo fomentar una cultura de seguridad, las pruebas necesarias para validar la IA y los retos regulatorios que deben sortearse.
Un Nuevo Horizonte para la Robótica
La sesión de Les Karpas se centra en el hecho de que, a diferencia de los modelos de lenguaje, los robots han carecido de acceso a grandes volúmenes de datos que podrían acelerar su desarrollo. Entender cómo cerrar esta brecha será esencial para avanzar en la robótica y permitir que estos sistemas se integren en entornos
🔥 ¿Necesitas licencias Adobe o Autodesk?
Somos distribuidores autorizados. Precios especiales para profesionales y empresas.
✓ Licencias originales | ✓ Entrega inmediata | ✓ Soporte técnico
