IBM da un gran paso para abrir la caja negra de la inteligencia artificial

IBM da un gran paso para abrir la caja negra de la inteligencia artificial

Nuevos controles de detección y mitigación de sesgo basados en nube abordan necesidad de mayor transparencia en la toma de decisiones AI

21 de septiembre de 2018 - IBM presentó hoy una tecnología que da a las organizaciones nueva transparencia en inteligencia artificial (AI), permitiéndoles aprovechar más plenamente su potencial.

El servicio de software, que detecta automáticamente el sesgo y explica cómo toma decisiones la inteligencia artificial (al mismo tiempo que se toman las decisiones), se ejecuta en la IBM Cloud y colabora con las organizaciones en la gestión de sistemas de IA de una amplia variedad de proveedores de la industria.  

Además, IBM Research lanzará a la comunidad de código abierto un kit de herramientas de mitigación y detección de prejuicios de inteligencia artificial, que presenta herramientas y educación para alentar la colaboración global en torno al tratamiento del sesgo en IA.

"IBM ha liderado la industria en el establecimiento de principios de confianza y transparencia para el desarrollo de nuevas tecnologías de inteligencia artificial", comentó Beth Smith, Gerente General de Watson AI en IBM. "Es hora de traducir los principios a la práctica. Brindamos nueva transparencia y control a las empresas que usan IA y enfrentan el mayor riesgo potencial de una toma de decisiones defectuosa".

El servicio de software totalmente automatizado explica la toma de decisiones, detecta el sesgo en los modelos de inteligencia artificial en tiempo de ejecución (a medida que se toman decisiones), y capta los resultados potencialmente injustos a medida que ocurren. Es importante destacar que también recomienda automáticamente datos para agregar al modelo a fin de ayudar a mitigar cualquier sesgo que haya detectado.

Las explicaciones se dan en términos fáciles de entender y se muestran qué factores se ponderaron en la decisión en una dirección frente a otra, la confiabilidad en la recomendación y los factores detrás de dicha confiabilidad. Además, los registros de la precisión, el rendimiento y la equidad del modelo, y el linaje de los sistemas de IA, se rastrean y recuerdan fácilmente por razones de servicio al cliente, normativas o de cumplimiento, como el cumplimiento de la regulación de protección de datos (GDPR).

Se accede a todas estas capacidades a través de tableros visuales, lo que brinda a los usuarios de negocios una capacidad incomparable para comprender, explicar y gestionar decisiones dirigidas por IA y reducir la dependencia de habilidades especializadas de inteligencia artificial.

Empoderar a la comunidad de fuente abierta a construir IA más justa

Además, IBM Research está poniendo a disposición de la comunidad de código abierto el conjunto de herramientas AI Fairness 360: una biblioteca de algoritmos, códigos y tutoriales novedosos que brindarán a los académicos, investigadores y científicos de datos herramientas y conocimientos para integrar la detección de sesgos a medida que construyen e implementan modelos de machine learning. Mientras que otros recursos de código abierto se han centrado únicamente en comprobar el sesgo en los datos de capacitación, el kit de herramientas IBM AI Fairness 360 creado por IBM Research ayudará a verificar y mitigar el sesgo en los modelos de inteligencia artificial. Invita a la comunidad global de código abierto a trabajar en conjunto para avanzar en la ciencia y facilitar el tratamiento del sesgo en AI.


Puedes leer más en el siguiente blog.