Los usuarios prefieren la calidez de un sistema antes que su tecnología de IA.

tecnología de IA

Créditos de las imágenes: Sean D.

Contrariamente a lo que pudiéramos pensar, los usuarios prefieren la calidez de un sistema antes que su tecnología de IA (inteligencia artificial).

Un estudio realizado por tres investigadores de Israel ha revelado que la calidad de los sistemas de inteligencia artificial no es suficiente.

Para que los usuarios elijan un sistema, debe poseer cierta calidez. Pensándolo dos veces esto tiene sentido.

¿Spotify o Apple Music?

¿Waze o Google Maps?

¿Alexa o Siri?

Los consumidores eligen entre sistemas basados en inteligencia artificial (IA) todos los días.

¿Cómo eligen qué sistemas utilizar?

Teniendo en cuenta la cantidad de dinero y los esfuerzos invertidos en la mejora del rendimiento de la tecnología de IA, se podría esperar que la capacidad tecnológica defina las elecciones de los usuarios.

En cambio, un estudio reciente muestra que la “calidez” de un sistema juega un papel fundamental en la predicción de la elección de los consumidores entre estos sistemas.

Inteligencia Artificial si, pero humanizada.

Los nuevos hallazgos de un estudio con más de 1,600 participantes, publicado recientemente en las Actas de la Conferencia CHI de 2021 sobre factores humanos en sistemas informáticos, ofrecen una idea de la psicología de los usuarios.

Los investigadores, Zohar Gilad, las profesoras Ofra Amir y Liat Levontin, examinaron los efectos de la percepción de los usuarios de los sistemas con tecnología de IA. Es decir, la percepcion de los sistemas (bueno o malo), y la competencia de los sistemas de inteligencia artificial.

La mayor parte de las investigaciones realizadas hasta la fecha con respecto a las percepciones de los sistemas basados en inteligencia artificial abordaron sistemas con presencia virtual o física, como agentes virtuales y robots.

Sin embargo, el estudio actual se centró en los sistemas de inteligencia artificial “sin rostro”.

Esto es con poca o ninguna presencia social, como los sistemas de recomendaciones, los motores de búsqueda y las aplicaciones de navegación.

Para este tipo de sistemas de IA, los investigadores definieron la calidez como el principal beneficiario del sistema.

Por ejemplo, un sistema de navegación puede priorizar la recopilación de datos sobre nuevas rutas (beneficiando al sistema) sobre la presentación de la ruta más conocida, o viceversa.

Los investigadores encontraron que la calidez del sistema era importante para los usuarios, incluso más que sus capacidades tecnologicas. Ellos favorecieron un sistema altamente cálido sobre un sistema altamente competente.

Esta preferencia por la calidez persistió incluso cuando el sistema altamente cálido era abiertamente deficiente en su competencia.

Por ejemplo, cuando se les pidió que eligieran entre dos sistemas de inteligencia artificial que recomiendan planes de seguro de automóvil, la mayoría de los participantes prefirieron un sistema con baja competencia (“usando un algoritmo entrenado en datos de 1,000 planes de seguro de automóvil”) y de alta calidez (“desarrollado para ayudar personas como ellos “), frente a un sistema con alta competencia (” utilizando un algoritmo de red neuronal artificial de última generación entrenado con datos de 1,000,000 de planes de seguro de automóvil “) y de baja calidez (” desarrollado para ayudar a los agentes de seguros a hacer mejores ofertas ”).

Es decir, los consumidores estaban dispuestos a sacrificar la competencia por una mayor calidez.

Estos hallazgos son similares a lo que se conoce de las interacciones humanas: las consideraciones de calidez son a menudo más importantes que las consideraciones de competencia al juzgar a los seres humanos.

En otras palabras, las personas usan reglas sociales básicas para evaluar los sistemas de IA y a las personas.

Incluso cuando evalúan sistemas de IA sin características humanas evidentes.

Con base en sus hallazgos, los investigadores concluyeron que los diseñadores de sistemas de IA deben invertir mas en las caracteristicas que proyectan la calidez del sistema a sus usuarios potenciales.

Comentarios