SAP ha creado un Manual para el uso ético de la inteligencia artificial . Se trata de una guía para la aplicación de su política de inteligencia artificial, que rige el desarrollo, la implementación, el uso y la comercialización de los sistemas de IA. El manual, dirigido a sus empleados, establece cómo se debe actuar a lo largo de todo el proceso de desarrollo de la inteligencia artificial y marca las líneas rojas que no se deben traspasar.
SAP considera que la inteligencia artificial puede abrir posibilidades ilimitadas a empresas, gobiernos y a la sociedad en general, pero también puede generar desafíos económicos, políticos y sociales, dependiendo de cómo se utilice e implemente.
Por ello, la compañía ha lanzado un Manual para el uso ético de la IA, con el propósito de guiar a sus empleados en la aplicación de su política de inteligencia artificial. Esta política, que rige el desarrollo, la implementación, el uso y la comercialización de los sistemas de IA en SAP establece unas reglas éticas claras que están alineadas con los principios rectores establecidos por SAP para la IA y los valores de la organización:
- SAP se guía por sus valores
- Diseña para las personas
- Hace posibles los negocios sin prejuicios
- Busca la transparencia y la integridad en todo lo que hace
- Cumple los estándares de calidad y seguridad
- Da prioridad a la protección de datos y la privacidad
- Se compromete a abordar los grandes retos sociales que plantea la inteligencia artificial
Además, esta política se basa en tres pilares que persiguen generar confianza en las soluciones de IA: la dirección y la supervisión humanas; el abordaje del sesgo y la discriminación; y la transparencia y la explicación del proceso para comprender las decisiones tomadas por el software. La base del enfoque de SAP respecto a la ética en la IA es su compromiso de defender y apoyar la Declaración Universal de los Derechos Humanos. Una parte esencial de ello es la prohibición de la discriminación y el acoso de seres humanos por factores personales, como la raza, el origen étnico, la religión, la edad y el sexo.
Dos capítulos: líneas rojas y proceso de desarrollo
El manual consta de dos capítulos. El primero de ellos, denominado «Líneas rojas», aclara qué casos de uso de la IA están prohibidos en SAP: aquellos que atenten contra la libertad individual de los usuarios – desglosada en la pérdida del anonimato, la discriminación y la vigilancia–; los derechos sociales –la IA nunca debe comprometer el debate humano ni ser empleada para la manipulación de los usuarios–; y los daños al medioambiente. Además, incluye la definición de casos de alto riesgo, es decir, aquéllos que no están prohibidos, pero necesitan aprobación para poder desarrollarse. En esos casos, es imprescindible consultar al Comité directivo de ética de la IA de SAP.
En el segundo, «AI Factory Process», se ofrecen las directrices generales a seguir en cada paso del proceso de desarrollo, que consta de cinco etapas: la ideación, la validación, la realización, la creación del producto y las operaciones, en cada una de las cuales deben aplicarse los tres pilares para lograr una IA de confianza. Es imprescindible que el uso de la Inteligencia Artificial sea ético en todas y cada una de las fases del proceso, desde la identificación inicial de necesidades hasta la recepción del producto final por parte de los clientes, pasando por el diseño de las soluciones y su integración en los procesos de negocio existentes.
