En septiembre volvimos a despertar con una noticia que no debería repetirse: un menor de 16 años en California se quitó la vida tras mantener conversaciones con un chatbot de inteligencia artificial al que acudía en busca de apoyo psicológico. Según sus padres, la herramienta no solo no ayudó, sino que reforzó su desesperanza, actuando como un “coach de suicidio” en lugar de ofrecer alternativas reales de ayuda. La familia ha demandado a OpenAI, y la compañía ha anunciado medidas como la creación de controles parentales para supervisar el uso que hacen los adolescentes de sus sistemas.

Este caso no es un hecho aislado. En España, el Teléfono de la Esperanza y otras entidades alertan de un crecimiento alarmante de las consultas graves en chats: solo en los seis primeros meses de 2025, el uso de su servicio aumentó un 108 %, y el 20 % de las interacciones estaban relacionadas con conductas suicidas. A esto se suma otro dato inquietante: uno de cada cinco adolescentes en España ha pensado en suicidarse y un 15,7 % lo ha intentado.

Lo que está ocurriendo refleja un problema de fondo: la IA, diseñada para mantener conversaciones fluidas y “dar la razón” al usuario, puede convertirse en un arma de doble filo. Si se utiliza en contextos sensibles —como la salud mental, la educación o la atención a colectivos vulnerables— sin una adecuada supervisión y sin marcos de responsabilidad, el riesgo es enorme.

La necesidad de un marco ético claro

Frente a estas realidades, la pregunta es inevitable: ¿cómo podemos aprovechar el potencial de la inteligencia artificial sin poner en juego la seguridad de las personas? La respuesta no está solo en la regulación legal, sino también en la normalización internacional que permita dar confianza, transparencia y trazabilidad al uso de estas herramientas.

Aquí cobra sentido la publicación de la ISO/IEC 42001:2023, la primera norma internacional que establece cómo debe implantarse un sistema de gestión de inteligencia artificial. Esta norma ofrece a las organizaciones un marco para planificar, supervisar y mejorar continuamente sus sistemas de IA, integrando principios de ética, seguridad y transparencia. No se centra en el código o el desarrollo técnico, sino en la manera en que las empresas diseñan y gobiernan sus procesos para reducir riesgos y garantizar un uso responsable de la tecnología.

Su llegada se alinea con la Ley Europea de Inteligencia Artificial (AI Act), que clasificará los sistemas en función de su riesgo (mínimo, limitado, alto e inaceptable) y que impondrá obligaciones de seguridad, documentación y supervisión a quienes operen IA de “alto riesgo”. ISO/IEC 42001 permite a las empresas anticiparse a estas obligaciones y demostrar, frente a clientes, autoridades y sociedad, que están aplicando una gobernanza responsable de la IA.

Un reto compartido

El debate sobre la ética en IA ya no puede posponerse. Como sociedad nos enfrentamos a decisiones urgentes:

• ¿Cómo aseguramos que los sistemas no refuercen conductas dañinas?
• ¿Quién responde cuando un algoritmo provoca un daño real?
• ¿Cómo equilibrar innovación y protección de los derechos humanos?

Las normas internacionales, como ISO/IEC 42001, ofrecen un primer paso para dar respuesta. Igual que en su momento ISO 9001 ayudó a estandarizar la calidad o ISO 45001 la seguridad laboral, ahora necesitamos un marco que asegure que la inteligencia artificial se gestiona con responsabilidad.

En URS SPAIN creemos que la innovación y la ética no deben caminar por separado. La inteligencia artificial puede y debe ser un motor de progreso, pero su éxito dependerá de que se construya sobre la base de la confianza y la protección de las personas. Con la norma ISO/IEC 42001, las organizaciones tienen ya a su alcance una herramienta para demostrar ese compromiso y avanzar hacia una tecnología que aporte valor sin poner en riesgo lo esencial: la vida y la dignidad humana.