Los desafíos de la Inteligencia Artificial en el área de Compliance: CUMPLA

La industria farmacéutica está experimentando una acelerada transformación digital, impulsada por avances tecnológicos donde destacan especialmente la inteligencia artificial (IA), el análisis de big data, el internet de las cosas (IoT) o la automatización de procesos.

Estas tecnologías están redefiniendo áreas clave como la investigación y desarrollo de medicamentos, permitiendo un análisis más rápido y preciso de grandes volúmenes de datos clínicos y genéticos. Esto acelera la identificación de nuevas moléculas y facilita la personalización de tratamientos, mejorando la eficacia terapéutica y reduciendo los efectos secundarios. Además, la digitalización está optimizando la producción farmacéutica mediante el uso de sensores conectados y sistemas automatizados que mejoran la trazabilidad, el control de calidad y la eficiencia en la cadena de suministro. En el ámbito de la relación con pacientes y profesionales de la salud, las plataformas digitales facilitan una comunicación más ágil y el seguimiento remoto de pacientes, potenciando la adherencia al tratamiento y permitiendo una atención más personalizada. Estos ejemplos, entre los múltiples que podríamos citar, tienen un aspecto en común que es de vital importancia para todos. De la misma manera que un vehículo no puede funcionar sin combustible, las nuevas tecnologías disruptivas—donde destaca especialmente la inteligencia artificial—no pueden aprender sin lo más importante: los datos. Es precisamente aquí donde el departamento de compliance ha de hacer frente a un gran reto: garantizar que el uso y manejo de estos datos cumplan con las regulaciones y normativas aplicables.

El departamento de compliance juega un papel fundamental en la industria farmacéutica al garantizar que las empresas cumplan con las normativas éticas, legales y regulatorias que rigen el desarrollo, fabricación y comercialización de medicamentos. En este sentido, la acelerada transformación digital enfrenta a esta área a nuevos retos fruto de tener que revisar y adaptar políticas y procedimientos a la hora de integrar dichas tecnologías en la actividad convencional. Todo esto incrementa notablemente la complejidad de la supervisión y gestión de riesgos, dado que tecnologías como la IA y la automatización, unido a la necesidad del uso masivo de datos puede generar brechas regulatorias si no se monitorean adecuadamente.  Por otro lado, estas mismas tecnologías ofrecen una oportunidad significativa para optimizar el trabajo del departamento, permitiendo una vigilancia más transparente, precisa y en tiempo real, reduciendo cargas administrativas y mejorando la capacidad para anticipar riesgos regulatorios y normativos. Como resultado, al área de compliance convergerá hacía a un papel más estratégico dentro de las organizaciones farmacéuticas, sobre todo teniendo en cuenta la necesidad de adaptación a un entorno regulatorio cada vez más exigente y dinámico. A continuación presentamos algunas de las principales dimensiones  afectadas por la IA en relación al Cumplimiento, Utilización, Monitorización, Protección, Liderazgo y Adaptabilidad del entorno.

Cumplimiento normativo y seguridad de los datos

La implementación de tecnologías basadas en la IA requiere el manejo de grandes volúmenes de datos sensibles, lo que incrementa los riesgos relacionados con la privacidad y la seguridad de los datos. Normativas como el GDPR en Europa y leyes de privacidad de datos en Estados Unidos, como HIPAA, imponen estrictas exigencias sobre el tratamiento, almacenamiento y transferencia de datos personales y de salud. Las empresas farmacéuticas deben asegurarse de que la recolección, procesamiento y almacenamiento de estos datos cumplan con las normativas locales e internacionales, algo que se vuelve más complejo cuando se integran soluciones basadas en IA?, donde no siempre es posible conocer las fuentes de información utilizadas en los entrenamientos, ni como estas han sido integradas en los modelos. El departamento de compliance debe garantizar que se realicen evaluaciones de impacto de protección de datos (DPIA) antes de implementar nuevas tecnologías y que se establezcan medidas técnicas y organizativas adecuadas para proteger los datos. Además, es esencial asegurar el cumplimiento con estándares internacionales como ISO 27001 para la gestión de la seguridad de la información. La falta de cumplimiento puede resultar en sanciones significativas, incluyendo multas económicas y daños reputacionales.

Utilización y validación de automatización de procesos

Otra de las grandes aportaciones de la IA es la capacidad de automatizar tares complejas, las cuales permiten mejorar la eficiencia operativa y reducir los costos.  Si los procesos automatizados no se diseñan, validan o monitorean adecuadamente, pueden surgir errores que afecten la calidad del producto o el cumplimiento regulatorio. Procesos de fabricación y control de calidad como las Buenas Prácticas de Manufactura (GMP) o las Buenas Prácticas de Laboratorio (GLP) están sujetos a estrictas regulaciones.

Es fundamental que cualquier sistema automatizado utilizado en estos procesos sea validado de acuerdo con los estándares regulatorios, y que se mantenga documentación detallada y auditable. El departamento de compliance debe establecer métricas e indicadores que permitan reportar sobre el correcto funcionamiento de los procesos, así como su alineación con las normativas vigentes. Además, debe asegurarse de que existan planes de contingencia y procedimientos para gestionar desviaciones o no conformidades.

Monitorización de transparencia y sesgos en los algoritmos de IA

Los sistemas basados en IA aprenden de una manera similar a como lo hacemos nosotros. De la misma manera que nosotros adquirimos nuestro conocimiento a partir de la experiencia de la vida, los sistemas de IA aprenden de masivos volúmenes de datos y de sistemas que recompensan o penalizan los modelos que crean. Por este motivo, se hace especialmente fundamental disponer de conjuntos de datos representativos que puedan contener todo el saber necesario para comprender el problema y que, al mismo tiempo, minimicen los sesgos y discriminaciones fruto de no haber entrenado los sistemas con todos los posibles escenarios.  La opacidad de algunos algoritmos de IA, conocidos como "cajas negras", dificulta entender cómo se toman ciertas decisiones, lo que puede ser problemático desde una perspectiva regulatoria y ética. Ante una situación nueva, las personas tenemos la capacidad de reflexionar cual es la opción o decisión que más conviene en función de la circunstancia. Sin embargo, un modelo de IA no sabrá que hacer y tendrá lo que se conoce como una alucinación, es decir, ofrecerá una respuesta que para ojos no expertos parecerá correcta pero que simplemente es correcta en la forma, pero no en el fondo. Todo esto puede afectar directamente a la precisión de los resultados y poner en riesgo el cumplimiento de los estándares éticos y regulatorios.

La nueva regulación sobre IA que se está desarrollando en Europa, conocida como el Reglamento de Inteligencia Artificial, tiene como uno de sus pilares asegurar que los sistemas de IA velen por la privacidad de los usuarios y sean transparentes, seguros, no sesgados y no discriminatorios. Exige que las empresas puedan explicar el funcionamiento de sus algoritmos y proporcionar información sobre los datos utilizados para entrenarlos. El departamento de compliance debe garantizar que se realicen auditorías de los algoritmos y que se implementen controles para prevenir sesgos y discriminación.

Protección y trazabilidad en el uso de IA

La responsabilidad legal en caso de errores o daños causados por sistemas de IA es un área de creciente preocupación. Las regulaciones emergentes buscan establecer marcos claros sobre quién es responsable en caso de que una decisión tomada por un algoritmo resulte en un perjuicio.

El departamento de compliance debe trabajar en estrecha colaboración con los equipos técnicos para asegurar que exista trazabilidad en las decisiones tomadas por sistemas de IA y que se puedan proporcionar explicaciones en caso de auditorías o investigaciones regulatorias.

Liderazgo en capacitación constante

Uno de los mayores desafíos que todos debemos afrontar sin excepción está relacionado con la necesidad de formación continua. Mejorar la capacitación y concienciación sobre las nuevas tecnologías es tanto o más importante que su despliegue. Es necesario garantizar que todos los miembros de la organización comprendan sus implicaciones y, en especial, en lo que hace referencia a su uso responsable para minimizar los riesgos, tales como usos inadecuados de datos o filtraciones de secretos empresariales.

El departamento de compliance debe liderar iniciativas de formación y desarrollo para asegurar que el personal esté al tanto de las regulaciones aplicables y entienda la importancia del cumplimiento. Esto incluye la implementación de programas de capacitación específicos sobre privacidad de datos, seguridad de la información, uso ético de la IA y otros temas relevantes.

Adaptabilidad a nuevas regulaciones

La industria farmacéutica opera en un entorno global, y las empresas deben cumplir con regulaciones internacionales y locales que pueden variar significativamente entre países. Además de esto, tecnologías como la IA están irrumpiendo con tanta fuerza que todos los gobiernos e instituciones globales trabajan a marchas forzadas para adaptar o crear regulaciones que doten de la seguridad jurídica necesaria.

El departamento de compliance debe mantenerse actualizado sobre los cambios regulatorios en cada mercado y adaptar las políticas y procedimientos en consecuencia y, en especial, a todo lo referente vinculado con la IA.

Concluyendo

Tecnologías emergentes como la IA están transformando positivamente la industria farmacéutica, pero es crucial que estas innovaciones vayan de la mano con robustos sistemas de compliance que velen por el cumplimiento de los estándares éticos y regulatorios. Hacer especial énfasis en los retos específicos que la IA presenta—como la privacidad, la seguridad, la transparencia, el sesgo y la no discriminación—es fundamental para proteger a empleados y pacientes, así como para asegurar la seguridad y eficacia de los tratamientos.

El departamento de compliance ha de tener un rol estratégico en este contexto, al ser el guardián del cumplimiento normativo y ético en la organización. Su participación activa en la implementación de nuevas tecnologías, la adaptación de políticas y procedimientos, y la formación del personal es esencial para garantizar que la transformación digital se realice de manera responsable y alineada con las regulaciones vigentes.

Incluir en la hoja de ruta estos desafíos es sin lugar a duda un paso importante para aprovechar la integración de la tecnología a través de mejorar la innovación y la eficiencia, al tiempo que cumplen con sus obligaciones legales y éticas. De esta manera, el departamento de compliance no solo asegura el cumplimiento normativo, sino que también contribuye al éxito sostenible y a la reputación de la organización en un entorno cada vez más competitivo y regulado.