Progress, proveedor de software de infraestructura y desarrollo de aplicaciones, anunció los resultados de su encuesta mundial «Data Bias: The Hidden Risk of AI» (Sesgo en los datos: el riesgo oculto de la inteligencia artificial). Realizada por la firma de investigación independiente Insight Avenue. La encuesta de Progress se basa en entrevistas con más de 640 profesionales de negocios y TI, de nivel de director y superior, que utilizan datos para tomar decisiones y están utilizando o planean utilizar la inteligencia artificial (IA) y el aprendizaje automático (ML) para apoyar su toma de decisiones.
Los prejuicios suelen heredarse de experiencias culturales y personales. Cuando se recogen datos y se utilizan en el entrenamiento de modelos de aprendizaje automático, los modelos heredan los sesgos de las personas que los construyen, produciendo resultados inesperados y potencialmente perjudiciales. Sin embargo, a pesar de los posibles riesgos legales y financieros asociados al sesgo en los datos, existe una falta de comprensión sobre la formación, los procesos y la tecnología necesarios para abordar con éxito esta parcialidad.
La encuesta de Progress indicó que el 73% de los responsables de la toma de decisiones empresariales y de TI en Latinoamérica creen que el sesgo de datos se convertirá en una preocupación mayor a medida que aumente el uso de la inteligencia artificial y el machine learning, pero solo el 22% lo está abordando actualmente y cuenta con un proceso de evaluación continuo. Los mayores obstáculos que observan son la falta de conciencia sobre los posibles sesgos, la comprensión de cómo identificarlos y la falta de recursos expertos disponibles, como el acceso a científicos de datos.
Los resultados de la encuesta en la región también muestran que:
– El 69% de las organizaciones de Latinoamérica prevé depender cada vez más de la inteligencia artificial y el machine learning para la toma de decisiones en los próximos años.
– El 59% cree que actualmente existe un sesgo de datos en su organización.
– El 75% cree que necesita hacer más para abordar el sesgo de datos.
– El 51% considera que la falta de conciencia y subestimación de los sesgos son un obstáculo para abordarlos.
A medida que la inteligencia artificial y el aprendizaje automático desempeñan un papel más importante en la toma de decisiones, las organizaciones deben ser conscientes del riesgo oculto de la parcialidad de los datos. Nuestra investigación muestra que si las organizaciones no abordan el sesgo de datos, pueden sufrir consecuencias legales, de seguridad y de reputación irreversibles a largo plazo. Con estos conocimientos y datos, queremos ayudar a nuestros clientes y al sector a comprender mejor el problema y tomar medidas». Francisco Larez, VP de Latinoamérica para Progress.
Encargada por Progress, la encuesta, «Data Bias: The Hidden Risk of AI», fue realizada por Insight Avenue, una firma de investigación con sede en el Reino Unido, especializada en la investigación tecnológica entre empresas. Los resultados se basan en entrevistas con profesionales de empresas y TI de América, Europa y Asia, centradas en el uso de datos para la toma de decisiones.
Te podría interesar: Predicciones 2023: Modelos híbridos, personalización y ciberseguridad serán los desafíos
Estos profesionales proceden de organizaciones con más de 500 empleados y fueron consultados para comprender mejor el conocimiento general del sesgo de los datos, cómo estaba afectando a los negocios y qué estaban haciendo para abordarlo.
