La ética en la IA: un desafío que necesita un oficial ético en cada empresa
En un contexto empresarial cada vez más marcado por la rápida expansión de la inteligencia artificial (IA), surge la necesidad de mitigar los riesgos éticos, legales y reputacionales, los cuales pueden poner en jaque la confianza del público. La consultora Setesca ha alertado sobre la urgencia de establecer un nuevo rol en las organizaciones: el Oficial Ético de Inteligencia Artificial. Este profesional tiene la responsabilidad de garantizar que el uso de la IA sea no solo transparente, sino también responsable y alineado con los valores corporativos—supervisando la implementación de estas tecnologías para evitar sesgos, vulneraciones de la privacidad o usos inapropiados.
“El reto ya no es solo técnico, es ético. Las empresas que no gestionen bien los límites de la inteligencia artificial pueden enfrentarse a crisis reputacionales graves”, advierte Jordi Damià, CEO de Setesca. “Contar con un Oficial Ético de IA será tan esencial como tener un director financiero o un responsable de compliance”, añade.
Desafíos éticos de la IA
La ética se ha convertido en un desafío primordial para las empresas que utilizan la inteligencia artificial. Un estudio de Parangon Partners indica que el *58% de los directivos* considera que la privacidad y la ética son los principales obstáculos a superar. Este sentimiento es compartido por los usuarios, puesto que un informe reciente de KPMG y la Universidad de Melbourne revela que la mitad de los encuestados expresa inquietudes sobre la seguridad, el uso indebido y una regulación insuficiente de la IA.
Rol del Oficial Ético de IA
El Oficial Ético de IA se posiciona como una figura clave en la empresa moderna, ya que colabora con diversos departamentos como tecnología, legal, comunicación y recursos humanos, para asegurar que la adopción de IA se realice bajo los principios de equidad, transparencia y seguridad. Este profesional combina formación tecnológica con conocimientos en gestión empresarial, derecho digital y responsabilidad corporativa.
Entre sus competencias se encuentran:
- Conocimiento funcional de sistemas de IA y sus limitaciones.
- Capacidad analítica y pensamiento crítico para evaluar riesgos éticos y regulatorios.
- Habilidades de comunicación y liderazgo transversal, para mediar entre áreas técnicas, legales y de negocio.
- Sensibilidad social y compromiso con la sostenibilidad y la equidad.
En muchas organizaciones, el Oficial Ético de IA trabaja en coordinación con los departamentos de compliance, IT, recursos humanos y comunicación.
Contribución al manifiesto RED LINES AI
Setesca refuerza su compromiso con una IA responsable al adherirse al manifiesto internacional RED LINES AI, el cual es respaldado por expertos y entidades tecnológicas para establecer “líneas rojas” que prevengan riesgos inaceptables en el desarrollo de la inteligencia artificial.
El manifiesto sugiere restringir el uso de sistemas de IA en contextos que puedan amenazar la dignidad humana, la democracia o la privacidad, promoviendo una cultura empresarial que priorice la innovación en conjunto con la responsabilidad. “El compromiso ético debe formar parte del ADN de cualquier compañía que utilice IA. Adherirnos al manifiesto RED LINES AI es una forma de reafirmar nuestra convicción de que la tecnología debe estar al servicio de las personas, no al revés”, concluye Damià.
