https://www.fundacionmapfre.org/documentacion/publico/i18n/catalogo_imagenes/grupo.cmd?path=1101485
José Miguel Rodríguez-Pardo Prof. Dr. y Coord. en el Máster Universitario en Ciencias Actuariales y Financieras en la UC3M
El desarrollo y uso de los algoritmos de la inteligencia artificial en la industria del seguro requiere un compromiso ético por las aseguradoras, los llamados sesgos éticos que deben ser evitados dentro del marco de la economía del bien social. La emergencia es dotar de valores éticos a la modelización predictiva, o como dice José Ignacio La Torre en su libro “Ética para las máquinas” de 2019, la inteligencia artificial debe configurarse como agente moral en un escenario donde no sabremos distinguir las máquinas de un ser humano. Trasladaremos nuestros valores éticos a las máquinas pensantes.
El buen uso de la inteligencia artificial está siendo objeto de reflexión por parte de distintos estamentos desde 2016, año en el que la Administración Norteamérica publicó en octubre el documento “Preparing for the future of Artificial Intelligence”. De los distintos documentos que se están elaborando, se va conformando un conjunto de principios rectores que deben desembocar en norma legislativa o bien en comités éticos de Inteligencia Artificial que, bajo la perspectiva de autorregulación, mitiguen los riesgos de los sesgos éticos.
Una reflexión que nos interpela la encontramos en el libro “Automating Inequality” de Virginia Eubanks 2018, cuando describe la casa pobre digital, donde las formas de automatización pueden dar lugar al maltrato de los vulnerables, por lo que los sistemas informáticos deben proporcionar una confianza en la sociedad que proporcionan resultados imparciales y neutros.
Analizamos los documentos más recientes y sus aportaciones más destacables que son aplicables para el buen uso de los modelos predictivos en el seguro privado.
Comisión Europea
Dos son los documentos que ha elaborado la Comisión Europea, “Artificial Intelligence, Robotics and “Autonomous” Systems” de marzo de 2018 y “Ethics Guidelines For Trustworthy AI” de abril de 2019 elaborado por el grupo de expertos de alto nivel en Inteligencia Artificial
. Desde Europa se propone elaborar una lista de verificación que debe analizar:
·¿Has evaluado las posibles formas de ataques a los que el Sistema de IA podría ser vulnerable? . -¿Has verificado qué daño se causaría si el sistema de IA hace predicciones inexactas? ·
¿Has establecido una estrategia o un conjunto de procedimientos para evitar crear o reforzar un sesgo injusto en el sistema IA, tanto en el uso de los datos de entrada como en el diseño del algoritmo? ·
¿Has evaluado si el sistema de IA es utilizable por personas con necesidades especiales o discapacidades o en riesgo de exclusión?
Además de lo anterior se establecen una serie de requisitos que hay que tener en cuenta en los sistemas de Inteligencia Artificial: • Agencia humana y supervisión: los sistemas de AI deben permitir sociedades equitativas apoyando la agencia humana y los derechos fundamentales, y no disminuir, limitar o desviar la autonomía humana. • Robustez y seguridad: la inteligencia artificial confiable requiere que los algoritmos sean lo suficientemente seguros, confiables y lo suficientemente sólidos como para enfrentar errores o inconsistencias durante todas las fases del ciclo de vida de los sistemas de inteligencia artificial. • Privacidad y control de los datos: los ciudadanos deben tener un control total sobre sus propios datos, mientras que los datos que los conciernen no se utilizarán para perjudicarlos ni discriminarlos. • Transparencia: Se debe garantizar la trazabilidad de los sistemas de IA. • Diversidad, no discriminación y equidad: los sistemas de AI deben considerar toda la gama de habilidades y requisitos humanos, y garantizar la accesibilidad. • Bienestar social y ambiental: los sistemas de inteligencia artificial deben utilizarse para mejorar el cambio social positivo y mejorar la sostenibilidad y la responsabilidad ecológica. • Responsabilidad: deben establecerse mecanismos para garantizar la responsabilidad y la rendición de cuentas de los sistemas de AI y sus resultados.
La Comisión Europea desde el 8 de abril de 2019, abre una fase piloto cuyos resultados se evaluarán a principios de 2020.
Declaración de Montreal
La Declaración de Inteligencia Artificial de Montreal de diciembre de 2018, establece los siguientes principios: 1. Bienestar 2. Respeto a la autonomía 3. Privacidad e intimidad 4. Solidaridad 5. Participación democrática 6. Equidad 7. Diversidad e inclusión 8. Prudencia 9. Responsabilidad 10.Desarrollo sostenible
Para lograr estos principios, los redactores proponen el establecimiento de una "organización de vigilancia e investigación sobre los usos y los impactos sociales de la inteligencia digital y artificial" y el desarrollo de una política coherente.
También se debe garantizar el acceso a "la capacitación que permita la comprensión, la crítica, el respeto y la responsabilidad para participar activamente en una sociedad digital sostenible". La formación ética es deseable. La evolución del sector de la IA no debe hacerse sin tener en cuenta las realidades de los países pobres y en desarrollo.
World Economic Forum Davos En la reunión de 2018, el Foro de Davos recogió los siete principios para de Código Ético que deben regir para los investigadores:
1. Relaciónate con el público 2. Persigue la verdad 3. Minimiza el daño 4. Relaciónate con las personas que toman decisiones 5. Apoya la diversidad 6. Sé un mentor 7. Responsabilízate de tus actos
En la reunión de este año 2019, el desarrollo ético de la Inteligencia Artificial también fue objeto de debate, desde el Foro se entiende que no puede existir un estándar diferente para la IA cuando sabemos que la mayoría de las personas no pueden explicar su proceso de toma de decisiones. Además, se deben seguir principios básicos, centrados en respetar la transparencia y el uso ético de los datos, pero se mostraron contrarios a una regulación estricta, que perjudicaría a la innovación. Comité Ético Alianza para la Inteligencia Artificial La Alianza para la IA, donde participan Microsoft, Amazon, Apple, Intel MIT, Harvard y el Instituto para de Ética en inteligencia artificial de la Universidad Técnica de Munich 2019, apoyado por Facebook constituyen iniciativas muy recientes que tratan de conformar principios rectores que deben cumplir los Comités Éticos:
1. Invita a expertos en ética que reflejen la diversidad del mundo 2. Incluir a las personas que podrían verse afectadas negativamente por la IA 3. Obtener la participación de la junta directiva 4. Recluta un representante de los empleados 5. Selecciona un líder externo 6. Programe tiempo suficiente para reunirse y deliberar. 7. Comprometerse con la transparencia.
Conclusión Las entidades de seguros, con este conjunto de iniciativas, disponen de guía de actuación para constituir Comités éticos sin necesidad de que el legislador desarrolle preceptos que garanticen el buen uso de la Inteligencia Artificial.
Llamamos la atención a la opinión del experto mundial en Inteligencia Artificial Yoshua Bengio, premio Alan Turing 2019, quien en un trabajo publicado en la revista “Nature” cree que la autorregulación no va a funcionar y es necesario un marco legal que regule el uso adecuado y ético de los algoritmos Los Comités de ética deben ser un compromiso de la entidad con la sociedad y no, como ya advierten expertos de esta materia, un lavado de cara o esfuerzo superficial. El principio de debe regir es de la equidad algorítmica y no exclusión o discriminación tanto consciente como inconsciente. No menos importante es de la trazabilidad, la trasparencia, y la asunción de responsabilidades del daño a terceros de las decisiones del algoritmo. Estos objetivos solo se pueden cumplir con una participación en el Comité Ético de representantes de la gerencia de la entidad, abogado, actuario, responsabilidad social de la compañía y la tecnología, y expertos independientes
