En el actual escenario de creciente adopción de Inteligencia Artificial (IA) en diversas industrias y el aumento de la presión regulatoria, las organizaciones están reconociendo la necesidad de implementar políticas de Inteligencia Artificial Responsable (RAI) . El concepto de RAI se centra en diseñar, desarrollar e implementar sistemas de IA bajo un marco que asegure la mitigación de riesgos y evite impactos negativos en los clientes y la sociedad.
Reguladores, certificadores e investigadores están intensificando sus esfuerzos para establecer leyes, normativas, estándares y buenas prácticas que rijan el uso ético y responsable de la IA. Grandes empresas que emplean IA están liderando este movimiento, impulsando políticas internas de RAI. Estas compañías están contratando equipos especializados en ética y datos, colaborando con centros de investigación y estableciendo códigos éticos para el uso de la IA. Sectores como Tecnología, Medios y Telecomunicaciones, Farmacia, Banca y Automoción han mostrado mayor madurez en la implementación de políticas de RAI.
La creciente automatización de procesos end-to-end y la necesidad de cumplir con regulaciones específicas sobre el uso de la IA impulsarán la demanda de seguros relacionados con esta tecnología. Sin embargo, la oferta de seguros específicos para los riesgos asociados al uso de la IA es escasa en la actualidad, limitándose a seguros para vehículos autónomos y procesos industriales automatizados.
Se prevé que la demanda de seguros de IA se concentrará en sectores como vehículos autónomos, procesos industriales automatizados y la protección de profesionales que utilicen la IA en sus prácticas, como médicos. Las aseguradoras deberán revisar sus productos actuales para adaptarse a cómo sus clientes emplean la IA en sus organizaciones.
Para abordar los riesgos asociados con la IA y proteger a sus clientes y a la sociedad, las aseguradoras deberán acompañar a las organizaciones en la implementación responsable de la IA. Se anticipa que un enfoque preventivo será esencial en este contexto.
Los proveedores de soluciones y servicios de despliegue de IA también están prestando mayor atención a la necesidad de un uso responsable de la tecnología. Han pasado de controlar los riesgos operativos a considerar los riesgos éticos asociados con la IA.
El mercado de «servicios RAI,» que se ocupa de la gestión integral de modelos de IA y sus riesgos, está siendo liderado por startups especializadas y relativamente jóvenes, con una edad promedio de dos años. Estas startups están desarrollando herramientas para automatizar la gobernanza, la evaluación, la mitigación y la monitorización de los modelos de IA y sus riesgos asociados. Asimismo, empresas establecidas en el ámbito legal, de auditoría o evaluación de riesgos, como grandes consultoras, están incursionando en este campo mediante alianzas e inversiones en estas startups.
Las empresas que ya emplean IA están demandando cada vez más servicios de RAI y asesoramiento para el despliegue responsable de la tecnología. Se espera que esta demanda crezca a medida que la adopción de la IA se expanda y se aumente la conciencia sobre sus riesgos.
