Conversia lleva al AI Congress 2026 los retos de seguridad y gobernanza de la inteligencia artificial
Laura Aparicio Alba y Víctor García Domínguez participarán el 20 de octubre en AI Congress Barcelona 2026 para abordar cómo controlar los riesgos de los agentes de IA y combinar innovación, seguridad y cumplimiento normativo.
Conversia participa en el debate sobre el futuro de la inteligencia artificial
La inteligencia artificial está entrando en una nueva etapa. Las organizaciones ya no utilizan únicamente herramientas capaces de generar textos, analizar información o responder preguntas: cada vez cobran mayor protagonismo los agentes de inteligencia artificial, sistemas que pueden interactuar con aplicaciones, acceder a datos y ejecutar acciones para alcanzar objetivos.
Esta evolución abre oportunidades de automatización y eficiencia, pero plantea una cuestión decisiva: ¿quién controla las decisiones y actuaciones de estos sistemas?
Esta pregunta estará en el centro de la participación de Conversia en AI Congress Barcelona 2026, un encuentro especializado en inteligencia artificial. La compañía aportará una perspectiva que une conocimiento tecnológico, gestión de riesgos y responsabilidad jurídica.
De responder preguntas a ejecutar acciones: el cambio de los agentes de IA
Mientras que muchas aplicaciones de IA generativa se utilizan para producir contenidos o asistir en el análisis, los sistemas agénticos pueden intervenir en procesos empresariales: consultar documentación, utilizar herramientas, coordinarse con otros agentes o actuar sobre aplicaciones conectadas.
Generar y asistir
Responde consultas, redacta contenidos o ayuda a interpretar información bajo las instrucciones de una persona.
Conectar y actuar
Puede utilizar herramientas y encadenar tareas; por eso necesita límites de acceso, autorización y supervisión.
Protocolos como Model Context Protocol (MCP), que facilita la conexión con herramientas y fuentes de datos, y las comunicaciones Agent2Agent (A2A), orientadas a la colaboración entre agentes, amplían las posibilidades de estos ecosistemas. También hacen necesario revisar cómo se gestionan los permisos en cada conexión y delegación.
¿Qué riesgos deben controlar las empresas cuando conectan agentes de inteligencia artificial?
El riesgo no depende únicamente de la calidad del modelo. También intervienen los datos disponibles, las herramientas conectadas, las identidades utilizadas y la capacidad de un agente para delegar acciones en otros sistemas.
Accesos excesivos
Un agente puede disponer de permisos superiores a los necesarios para la tarea solicitada.
Filtración de datos
Una conexión o delegación puede exponer información a destinatarios no previstos.
Acciones encadenadas
Una instrucción maliciosa o ambigua puede propagarse entre agentes y provocar operaciones no autorizadas.
El cumplimiento normativo debe acompañar a la inteligencia artificial desde el diseño
La gobernanza de la inteligencia artificial reúne políticas, responsabilidades, procedimientos y controles para utilizar estas tecnologías de forma segura y responsable. Su objetivo no es eliminar la autonomía de los sistemas, sino establecer límites verificables.
El Reglamento Europeo de Inteligencia Artificial (AI Act) establece obligaciones diferenciadas según el papel de cada organización y las características de los sistemas de IA. No todos los agentes quedan automáticamente sujetos a los mismos requisitos. Si se tratan datos personales, también debe evaluarse la aplicación del Reglamento General de Protección de Datos (RGPD).
Por ello, la evaluación jurídica, la arquitectura tecnológica y la gestión organizativa deben avanzar conjuntamente durante todo el ciclo de vida de la solución.
- Identidad y autoridad: conocer quién actúa y en nombre de quién.
- Autonomía: delimitar qué decisiones requieren intervención humana.
- Datos: aplicar minimización, finalidad y control de accesos.
- Delegación: verificar qué facultades pueden transmitirse entre agentes.
- Trazabilidad: registrar decisiones y conservar evidencias auditables.
«¿Quién gobierna a los agentes?» La ponencia de Conversia
El 20 de octubre, de 12:30 a 13:00 h, Conversia participará en la sesión «¿Quién gobierna a los agentes? MCP, arquitecturas multiagente y riesgos de control». La intervención abordará escenarios de riesgo asociados a conexiones MCP, comunicaciones entre agentes, permisos y ejecuciones no autorizadas, así como medidas de mitigación y gobernanza.
Laura Aparicio Alba
Consultora Jurídica Senior · ConversiaLicenciada en Derecho por la Universidad de Girona y certificada como Delegada de Protección de Datos. Cuenta con más de nueve años de experiencia en compliance y trabaja en gobernanza, gestión de riesgos y cumplimiento normativo de la IA.
Víctor García Domínguez
Responsable de Inteligencia Artificial · ConversiaEspecialista en ciencia de datos e inteligencia artificial aplicada. Lidera el despliegue de soluciones de IA generativa en Conversia y aporta experiencia en proyectos y formación empresarial.
La sesión estará presentada por Mireya Saludes, responsable de desarrollo de negocio y de ecosistema de CIDAI.
La pregunta para las organizaciones no es solo qué puede hacer la IA, sino qué debe poder hacer
Incorporar inteligencia artificial a los procesos de negocio requiere algo más que identificar tareas automatizables. Es necesario definir qué nivel de autonomía resulta apropiado, qué información puede consultar cada sistema y cómo se comprueban sus actuaciones.
- Inventariar los sistemas: identificar agentes, herramientas conectadas y finalidades.
- Limitar privilegios: conceder únicamente los accesos necesarios para cada tarea.
- Validar acciones sensibles: solicitar autorizaciones concretas cuando el riesgo lo justifique.
- Probar escenarios adversos: verificar el comportamiento ante instrucciones ambiguas o maliciosas.
- Supervisar y documentar: mantener registros, alertas y mecanismos de intervención.
La participación de Conversia en AI Congress 2026 refleja la importancia de conectar el conocimiento jurídico y el desarrollo tecnológico para afrontar estos retos. El futuro de la IA no dependerá solo de lo que sea capaz de hacer, sino de nuestra capacidad para gobernar cómo lo hace.
Preguntas frecuentes sobre gobernanza de inteligencia artificial
¿Qué es la gobernanza de la inteligencia artificial?
Es el conjunto de políticas, responsabilidades y controles que una organización aplica para gestionar los riesgos y supervisar el uso de sus sistemas de IA durante todo su ciclo de vida.
¿Qué diferencia hay entre MCP y Agent2Agent?
MCP facilita que las aplicaciones de IA se conecten con herramientas y fuentes de datos. Agent2Agent (A2A) permite la comunicación y colaboración entre agentes. Son funciones diferentes y complementarias.
¿Qué riesgos presentan los agentes de IA para una empresa?
Entre otros, accesos excesivos, exposición de información, instrucciones maliciosas, errores de interpretación y acciones encadenadas sin autorización adecuada.
¿El AI Act se aplica a todos los agentes de IA de la misma forma?
No. Las obligaciones dependen de las características y finalidad del sistema, su clasificación de riesgo y el papel que desempeñe la organización. Debe analizarse cada caso.
¿Cuándo participa Conversia en AI Congress 2026?
El 20 de octubre de 2026, de 12:30 a 13:00 h, con Laura Aparicio Alba y Víctor García Domínguez como ponentes.