Actualidad · Inteligencia artificial

Conversia lleva al AI Congress 2026 los retos de seguridad y gobernanza de la inteligencia artificial

Laura Aparicio Alba y Víctor García Domínguez participarán el 20 de octubre en AI Congress Barcelona 2026 para abordar cómo controlar los riesgos de los agentes de IA y combinar innovación, seguridad y cumplimiento normativo.

20 de octubre de 2026Fecha de la ponencia
12:30–13:00 hHorario de la sesión
AI Congress BarcelonaConversia participa como ponente
Innovación y cumplimiento

Conversia participa en el debate sobre el futuro de la inteligencia artificial

La inteligencia artificial está entrando en una nueva etapa. Las organizaciones ya no utilizan únicamente herramientas capaces de generar textos, analizar información o responder preguntas: cada vez cobran mayor protagonismo los agentes de inteligencia artificial, sistemas que pueden interactuar con aplicaciones, acceder a datos y ejecutar acciones para alcanzar objetivos.

Esta evolución abre oportunidades de automatización y eficiencia, pero plantea una cuestión decisiva: ¿quién controla las decisiones y actuaciones de estos sistemas?

Esta pregunta estará en el centro de la participación de Conversia en AI Congress Barcelona 2026, un encuentro especializado en inteligencia artificial. La compañía aportará una perspectiva que une conocimiento tecnológico, gestión de riesgos y responsabilidad jurídica.

Evolución tecnológica

De responder preguntas a ejecutar acciones: el cambio de los agentes de IA

Mientras que muchas aplicaciones de IA generativa se utilizan para producir contenidos o asistir en el análisis, los sistemas agénticos pueden intervenir en procesos empresariales: consultar documentación, utilizar herramientas, coordinarse con otros agentes o actuar sobre aplicaciones conectadas.

IA generativa

Generar y asistir

Responde consultas, redacta contenidos o ayuda a interpretar información bajo las instrucciones de una persona.

IA agéntica

Conectar y actuar

Puede utilizar herramientas y encadenar tareas; por eso necesita límites de acceso, autorización y supervisión.

Protocolos como Model Context Protocol (MCP), que facilita la conexión con herramientas y fuentes de datos, y las comunicaciones Agent2Agent (A2A), orientadas a la colaboración entre agentes, amplían las posibilidades de estos ecosistemas. También hacen necesario revisar cómo se gestionan los permisos en cada conexión y delegación.

Seguridad de la IA

¿Qué riesgos deben controlar las empresas cuando conectan agentes de inteligencia artificial?

El riesgo no depende únicamente de la calidad del modelo. También intervienen los datos disponibles, las herramientas conectadas, las identidades utilizadas y la capacidad de un agente para delegar acciones en otros sistemas.

01

Accesos excesivos

Un agente puede disponer de permisos superiores a los necesarios para la tarea solicitada.

02

Filtración de datos

Una conexión o delegación puede exponer información a destinatarios no previstos.

03

Acciones encadenadas

Una instrucción maliciosa o ambigua puede propagarse entre agentes y provocar operaciones no autorizadas.

Gobernanza de IA

El cumplimiento normativo debe acompañar a la inteligencia artificial desde el diseño

La gobernanza de la inteligencia artificial reúne políticas, responsabilidades, procedimientos y controles para utilizar estas tecnologías de forma segura y responsable. Su objetivo no es eliminar la autonomía de los sistemas, sino establecer límites verificables.

El Reglamento Europeo de Inteligencia Artificial (AI Act) establece obligaciones diferenciadas según el papel de cada organización y las características de los sistemas de IA. No todos los agentes quedan automáticamente sujetos a los mismos requisitos. Si se tratan datos personales, también debe evaluarse la aplicación del Reglamento General de Protección de Datos (RGPD).

Por ello, la evaluación jurídica, la arquitectura tecnológica y la gestión organizativa deben avanzar conjuntamente durante todo el ciclo de vida de la solución.

  • Identidad y autoridad: conocer quién actúa y en nombre de quién.
  • Autonomía: delimitar qué decisiones requieren intervención humana.
  • Datos: aplicar minimización, finalidad y control de accesos.
  • Delegación: verificar qué facultades pueden transmitirse entre agentes.
  • Trazabilidad: registrar decisiones y conservar evidencias auditables.
AI Congress Barcelona 2026

«¿Quién gobierna a los agentes?» La ponencia de Conversia

El 20 de octubre, de 12:30 a 13:00 h, Conversia participará en la sesión «¿Quién gobierna a los agentes? MCP, arquitecturas multiagente y riesgos de control». La intervención abordará escenarios de riesgo asociados a conexiones MCP, comunicaciones entre agentes, permisos y ejecuciones no autorizadas, así como medidas de mitigación y gobernanza.

Laura Aparicio Alba, Consultora Jurídica Senior de Conversia

Laura Aparicio Alba

Consultora Jurídica Senior · Conversia

Licenciada en Derecho por la Universidad de Girona y certificada como Delegada de Protección de Datos. Cuenta con más de nueve años de experiencia en compliance y trabaja en gobernanza, gestión de riesgos y cumplimiento normativo de la IA.

Víctor García Domínguez, Responsable de Inteligencia Artificial de Conversia

Víctor García Domínguez

Responsable de Inteligencia Artificial · Conversia

Especialista en ciencia de datos e inteligencia artificial aplicada. Lidera el despliegue de soluciones de IA generativa en Conversia y aporta experiencia en proyectos y formación empresarial.

La sesión estará presentada por Mireya Saludes, responsable de desarrollo de negocio y de ecosistema de CIDAI.

Consultar la sesión en la web oficial de AI Congress ↗

Visión empresarial

La pregunta para las organizaciones no es solo qué puede hacer la IA, sino qué debe poder hacer

Incorporar inteligencia artificial a los procesos de negocio requiere algo más que identificar tareas automatizables. Es necesario definir qué nivel de autonomía resulta apropiado, qué información puede consultar cada sistema y cómo se comprueban sus actuaciones.

  • Inventariar los sistemas: identificar agentes, herramientas conectadas y finalidades.
  • Limitar privilegios: conceder únicamente los accesos necesarios para cada tarea.
  • Validar acciones sensibles: solicitar autorizaciones concretas cuando el riesgo lo justifique.
  • Probar escenarios adversos: verificar el comportamiento ante instrucciones ambiguas o maliciosas.
  • Supervisar y documentar: mantener registros, alertas y mecanismos de intervención.

La participación de Conversia en AI Congress 2026 refleja la importancia de conectar el conocimiento jurídico y el desarrollo tecnológico para afrontar estos retos. El futuro de la IA no dependerá solo de lo que sea capaz de hacer, sino de nuestra capacidad para gobernar cómo lo hace.

Respuestas rápidas

Preguntas frecuentes sobre gobernanza de inteligencia artificial

¿Qué es la gobernanza de la inteligencia artificial?

Es el conjunto de políticas, responsabilidades y controles que una organización aplica para gestionar los riesgos y supervisar el uso de sus sistemas de IA durante todo su ciclo de vida.

¿Qué diferencia hay entre MCP y Agent2Agent?

MCP facilita que las aplicaciones de IA se conecten con herramientas y fuentes de datos. Agent2Agent (A2A) permite la comunicación y colaboración entre agentes. Son funciones diferentes y complementarias.

¿Qué riesgos presentan los agentes de IA para una empresa?

Entre otros, accesos excesivos, exposición de información, instrucciones maliciosas, errores de interpretación y acciones encadenadas sin autorización adecuada.

¿El AI Act se aplica a todos los agentes de IA de la misma forma?

No. Las obligaciones dependen de las características y finalidad del sistema, su clasificación de riesgo y el papel que desempeñe la organización. Debe analizarse cada caso.

¿Cuándo participa Conversia en AI Congress 2026?

El 20 de octubre de 2026, de 12:30 a 13:00 h, con Laura Aparicio Alba y Víctor García Domínguez como ponentes.