Consumo y ciudadanía en el mundo digital: ¿Personalización, sesgos o manipulación? Estudio indagará cómo respondemos a la persuasión de los algoritmos

Los chilenos hoy pasan, en promedio, casi la mitad del día expuestos a medios digitales a través de las pantallas de computadores, teléfonos celulares y la televisión, tecnologías que no solo operan como vitrina de contenidos de interés para sus usuarios, sino también como plataformas para persuadir a consumidores y ciudadanos. Este es el foco de un proyecto Fondecyt encabezado por Cristian Buzeta, académico de la Facultad de Economía y Negocios de la Universidad de Chile, quien analizará cómo opera la persuasión algorítmica en nuestro país y la percepción que tienen de ella los usuarios digitales.

Por Cristian Fuentes Valencia, Periodista U.chile.

Un estudio de la consultora GWI (Global Web Index) dado a conocer a principios de este año, identificó que los chilenos dedicamos diariamente -en promedio- 8 horas y 31 minutos a la navegación por internet, 3 horas y 43 minutos a la televisión y 3 horas y 22 minutos al uso de redes sociales. En otras palabras, gastamos más de la mitad del día en medios digitales donde el uso de algoritmos para la transmisión de contenidos y mensajes personalizados es cada vez más intenso. Estos sistemas automatizados, que hoy son parte fundamental de las estrategias de marketing, se suman a las nuevas herramientas de inteligencia artificial y machine learning para generar campañas con una alta capacidad de incidencia en los distintos segmentos de la población.

Este fenómeno es lo que analizará un proyecto Fondecyt del académico de la Facultad de Economía y Negocios (FEN) de la Universidad de Chile, Cristian Buzeta, quien analizará cómo opera la persuasión algorítmica en nuestro país y la percepción que tienen de ella los usuarios digitales. “Buscamos también ampliar la aplicabilidad de los instrumentos actualmente disponibles para medir la ‘conciencia algorítmica’, entendida como el grado en que las personas son capaces de identificar la presencia de un algoritmo dentro de un intento persuasivo, como un componente clave y condición previa del fenómeno de la persuasión algorítmica”, explica el especialista en marketing digital. El objetivo, indica, es caracterizar la persuasión algorítmica (incluyendo conciencia y conocimiento algorítmicos), “probando finalmente un mecanismo causal por el cual estos afectan a la eficacia de los intentos persuasivos basados en algoritmos”.

La investigación, en esta línea, abordará la “conciencia algorítmica”, entendida como el grado en que las personas tienen percepciones precisas de lo que hacen los algoritmos en un entorno mediático particular, así como su impacto en la forma en que los usuarios consumen y experimentan los contenidos que buscan persuadir, con el objetivo de entender los efectos que los algoritmos tienen en los receptores de estos mensajes. En torno a este concepto, el académico del Departamento de Administración de la FEN analizará, por ejemplo, su relación con algunas variables como el grado de conocimiento de programación computacional, el conocimiento asociado al uso de ciertas tecnologías y el uso de los medios de comunicación.

¿Qué es la persuasión algorítmica?

Los algoritmos en los medios digitales son un conjunto de instrucciones automatizadas que determinan qué contenido se muestra a cada usuario y cómo. En la actualidad, señala el profesor Buzeta, “un persuasor puede apoyarse en el uso de algoritmos para identificar qué contenido (como conjunto específico de aseveraciones, argumentos, apelaciones y temáticas) y/o tratamiento (la manera específica en que se ejecuta el mensaje) es capaz de maximizar la efectividad/impacto de ese mensaje. Todo lo anterior puede ser realizado de manera micro-segmentada y masivamente personalizada gracias al poder de cómputo existente”.

El académico plantea que existe evidencia cotidiana sobre la efectividad del uso de algoritmos. “Por ejemplo, al utilizar redes sociales, recibimos publicidad cuyos mensajes han sido seleccionados por un algoritmo dada cierta probabilidad mayor de cambiar nuestras actitudes. La propia recepción de ese mensaje en una red social distinta de otra obedece a que existe otro algoritmo que predice que nuestra afinidad a cierta plataforma lo hará más efectivo”. En un contexto no publicitario, agrega, “cada vez que recibimos la recomendación de plataformas como Netflix o Spotify para ver una nueva película o escuchar una nueva canción es porque hay un algoritmo que predice que nuestro consumo medial se verá reforzado gracias a esa recomendación”.

La efectividad del uso de algoritmos como parte de la comunicación persuasiva, así como su posible dependencia de contextos en específico (con o sin fines de lucro), su naturaleza (pagada o no pagada), los medios utilizados (sitios online, redes sociales, otros dispositivos digitales) y su modalidad (texto, audio, visual), es un tema de intenso estudio a nivel mundial. “Pensando en comunicación de marca, es esperable que en el futuro el desarrollo de publicidad pueda estar basado principalmente en algoritmos que, dinámicamente, generen piezas de manera automática, con diseños gráficos basados en inteligencias artificiales y que de manera autónoma decidan qué aseveraciones, argumentos, apelaciones y temáticas utilizar en el mensaje, considerando tratamientos específicos”, señala Cristian Buzeta.

“Los algoritmos están diseñados para utilizar entradas de datos que les permiten perfilar y conocer a su receptor de una manera que un persuasor humano nunca podría”, afirma el especialista en marketing digital. Desde esta premisa, la investigación plantea la importancia de conocer la influencia que tienen los mensajes que distintos actores de la sociedad pueden entregar a través de estas plataformas. “En términos de oportunidades y amenazas, conocer cómo las personas perciben los algoritmos permite anticipar cuál será el desempeño de los mensajes y el posible logro de objetivos persuasivos. En términos de amenaza, su estudio permite minimizar riesgos individuales o sociales que hagan que la efectividad de los mensajes distribuidos en medios digitales disminuya”, plantea.

El presente de los sistemas algorítmicos en Chile

En nuestro país, cada vez son más las organizaciones e instituciones que utilizan elementos algorítmicos en sus comunicaciones. Cristian Buzeta pone como ejemplo a “cadenas de comida rápida que utilizan algoritmos para enviar mensajes persuasivos a los smartphones de sus potenciales clientes, dependiendo de su ubicación geográfica. Esas piezas gráficas contienen texto autogenerado, con la dirección pertinente del local más cercano, y un código/cupón de descuento para activar la compra. Otros usos más habituales, basados en algoritmos simples, son la entrega de información personalizada por parte de un banco vía mensaje de texto (SMS) al detectarse una compra, a fin de promover alguna promoción o producto adicional”.

A este uso comercial se suma su potencial aplicación en campañas políticas, como fue el caso de Cambridge Analytics, que reveló un uso indebido de datos para dirigir publicidad política en las elecciones presidenciales de Estados Unidos el año 2016. Esta área de aplicación es uno de los grandes desafíos que debe abordar el país en la actualidad, ya que el uso de algoritmos “puede tener efectos perniciosos sobre la diversidad del discurso político online y sobre la potencial generación de ‘cámaras de eco’ donde tiende a existir cierta repetición de contenidos consistentes con sesgos previos. Lo mismo ocurre en temas relacionados a salud o medio ambiente. En general, es un tema en estudio, donde conocer sus efectos buscados es sumamente interesante, y donde el análisis de sus efectos no buscados se transforma en prioridad”, señala el investigador de FEN.

En este sentido, el profesor Buzeta plantea que estamos en un momento de definiciones relevantes, donde la mayor parte de la investigación sobre este tema se ha realizado en contextos sociales de mayor desarrollo. “En general, sabemos poco sobre cómo los usuarios interpretan e interactúan con la información producida algorítmicamente y su influencia en sus decisiones y evaluaciones en el contexto de los países menos desarrollados. Chile representa, entonces, un contrafactual interesante, dado que tiene niveles de desarrollo humano y tecnológico similares a otras grandes economías, con altísimos niveles de penetración de redes sociales, en un contexto institucional bastante desregulado”.

Una regulación incipiente

Pablo Trigo, investigador del Centro de Estudios en Derecho Informático de la Facultad de Derecho de la Universidad de Chile, plantea que actualmente no existe una norma que se haga cargo de manera comprehensiva del fenómeno de los algoritmos y la inteligencia artificial, solo algunas disposiciones específicas que abordan parcialmente el tema. No obstante, sostiene que “una primera aproximación al problema, que hoy se discute en Comisión Mixta, ya en tercer trámite legislativo, es la modificación a la Ley de Datos Personales, un proyecto que establece reglas especiales respecto a la toma de decisiones automatizadas basadas en el tratamiento de datos personales, con poca intervención humana o que toman decisiones generando perfiles de personas”. 

El especialista en derecho informático menciona también otros dos proyectos de ley. “Uno que se ingresó por moción está en discusión en la Cámara de Diputadas y Diputados, el cual busca regular la inteligencia artificial en la robótica. Hace poco, además, el Ministerio de Ciencia introdujo un proyecto de ley para la regulación de la inteligencia artificial, iniciativa que busca regular el fenómeno de manera comprehensiva”, indica. La discusión normativa, precisa el investigador, apunta a una distinción entre los distintos tipos de riesgo que estos sistemas pueden generar (riesgo inaceptable, alto riesgo, riesgo moderado y bajo riesgo) y el establecimiento de los distintos tipos de obligaciones para los actores involucrados: desarrolladores, comercializadores y entidades que emplean estos sistemas.El mundo digital en nuestro país mantiene una gran brecha regulatoria, asegura Pablo Trigo. Sin embargo, sostiene que la normativa actual puede hacerse cargo de algunos problemas asociados a los sistemas algorítmicos. “Por ejemplo, uno puede ver que en el ámbito del consumo hay normativa relacionada con la publicidad engañosa, sobre cláusulas abusivas o la discriminación que resultan aplicables también a esos contextos de uso de sistemas inteligencia artificial. La norma general es igualmente aplicable, lo que pasa es que no se puede hacer cargo adecuadamente de ciertas peculiaridades, como el uso de algoritmos, la automatización, o de ciertas particularidades vinculadas a la responsabilidad”, señala el investigador de la U. de Chile, quien agrega que la distinción entre persuasión y manipulación es algo muy bien abordado, por ejemplo, en el derecho de los consumidores.