“Lo que hacemos es muy disruptivo en el sentido de que somos la primera empresa en Europa y una de las primeras en el mundo que podemos dar un nivel de confianza muy alta cuando la gente usa las tecnologías como Chat GPT”, explica a Industry Talks Mustapha Annouh, CEO y cofundador de la firma, durante un B2B entre empresas españolas y belgas celebrado en la ciudad valona de Namur.
El riesgo, en sus palabras, radica en que se exponen datos sensibles cuando se redactan prompts o líneas de comando. Esos datos tienen un valor bastante importante con empresas que tienen obligación de regulación de acuerdo al Reglamento General de Protección de Datos o el AI Act.
El objetivo de Shield AI es ayudar a las empresas a entender los riesgos, proteger de las extracciones de datos. “Un ejemplo, tenemos un hospital que tiene 5.500 prompts y hemos hecho un informe donde hemos descubierto que la mitad contiene datos médicos privados” sobre medicamentos o el nivel de enfermedad.
La compañía trabaja, dice Annouh, en proyectos piloto con hospitales en Bélgica y Luxemburgo. También con la Universidad de Créteil, en París, y de la Guayana francesa. Y con el Ministerio del Interior de Francia, el Ministerio de Economía de Luxemburgo y el Ministerio de Ciberseguridad de la provincia canadiense de Québec.
Annouh, que viene del mundo de la ciberseguridad y estudió en la Universidad Autónoma de Barcelona, busca contactos con empresas tecnológicas españolas como Indra para vender sus servicios.
