Tu empresa ya usa inteligencia artificial. ¿Pero quién responde si algo sale mal?
Hay una pregunta que cada vez más organizaciones van a tener que responder, y no precisamente en una reunión de estrategia: ¿quién es el responsable de los sistemas de inteligencia artificial que usamos?
No hablamos de quién los compró, ni de quién firmó la licencia. Hablamos de quién responde si ese sistema toma una decisión incorrecta, discrimina a alguien sin que nadie se dé cuenta, o filtra datos que no debería.
En la mayoría de las empresas, esa pregunta todavía no tiene respuesta clara.
El problema de la IA invisible
Según datos del INE, el 21% de las empresas españolas con más de 10 empleados ya utilizan inteligencia artificial en sus procesos. Parece poco, pero es el doble que hace apenas dos años. Y la cifra sigue creciendo: seis de cada diez empresas medianas en España prevén aumentar su inversión en IA a lo largo de este año.
Lo curioso es que, en muchos casos, nadie tomó una decisión formal de «implantar IA«. Simplemente ocurrió. El equipo de RRHH empezó a usar una herramienta que filtra currículums. El departamento de atención al cliente activó un chatbot. Alguien en marketing subió las primeras campañas a una plataforma con optimización automática. El ERP se actualizó y ahora incluye predicciones de demanda generadas por algoritmos.
La IA entró, pero la gobernanza no la acompañó.
Comprar IA no es lo mismo que gestionarla
Aquí está el quid de la cuestión: el hecho de que una herramienta venga de un proveedor reconocido, tenga buenas reseñas y funcione correctamente en condiciones normales no significa que tu organización esté gestionando bien los riesgos que conlleva su uso.
Piénsalo como proveedor o como cliente.
Si eres proveedor de servicios y ofreces a tus clientes soluciones con IA incorporada, ellos van a empezar a preguntarte: ¿cómo garantizas que ese sistema es fiable? ¿Cómo controlas los sesgos? ¿Qué pasa cuando falla? Hoy quizás no te lo preguntan. Dentro de dos años, probablemente sí. Y en algunos sectores y licitaciones, ya está ocurriendo.
Si eres cliente y compras tecnología con IA, la responsabilidad no desaparece porque el sistema sea externo. Si esa herramienta afecta a tus procesos, a tus empleados o a tus clientes, tú respondes. La cadena de suministro tecnológica tiene los mismos principios que cualquier otra cadena de suministro: la responsabilidad no se terceriza con la firma del contrato.
La gobernanza de la IA es un problema organizativo, no solo tecnológico
El error más habitual que vemos es pensar que la inteligencia artificial es un asunto del departamento de IT. No lo es, o al menos no solo.
Una herramienta que decide qué candidatos pasa a segunda ronda en un proceso de selección es un asunto de RRHH y de dirección. Un sistema que predice qué clientes tienen más riesgo de impago afecta a los criterios comerciales y a cumplimiento. Un algoritmo de mantenimiento predictivo en planta tiene implicaciones directas en seguridad laboral.
Cuando la IA toca procesos críticos —y cada vez toca más— la pregunta ya no es técnica. Es de gestión: ¿tenemos controles? ¿Hay alguien responsable? ¿Revisamos periódicamente que el sistema sigue funcionando como esperamos?
ISO 42001: el marco que pone orden
La norma ISO/IEC 42001 es el estándar internacional para la gestión responsable de la inteligencia artificial. No es una certificación para empresas que «hacen IA»; es una certificación para cualquier organización que usa IA en sus procesos y quiere demostrar que lo hace de forma controlada, transparente y con criterios claros.
Establece un sistema de gestión —con políticas, responsabilidades, evaluación de riesgos y mejora continua— aplicable tanto si desarrollas tus propios modelos como si usas herramientas de terceros. Y se integra de forma natural con normas como ISO 9001, ISO 27001 o ISO 27701, lo que facilita su adopción en organizaciones que ya trabajan con sistemas de gestión.
En URS Spain certificamos conforme a ISO 42001. Si tu organización quiere empezar a poner estructura a cómo gestiona la IA —antes de que alguien de fuera te lo exija—, podemos ayudarte.
¿Tienes dudas sobre si tu empresa necesita ISO 42001? Escríbenos a info@ursspain.com o llámanos al 946 946 884.
