Pay Attention: a Call to Regulate the Attention Market and Prevent Algorithmic Emotional Governance

Franck Michel (1, 2) , Fabien Gandon (2)

1 Laboratoire I3S - SPARKS - Scalable and Pervasive softwARe and Knowledge Systems
2 WIMMICS - Web-Instrumented Man-Machine Interactions, Communities and Semantics

Over the last 70 years, we, humans, have created an economic market where attention is being captured and turned into money thanks to advertising. During the last two decades, leveraging research in psychology, sociology, neuroscience and other domains, Web platforms have brought the process of capturing attention to an unprecedented scale. With the initial commonplace goal of making targeted advertising more effective, the generalization of attention-capturing techniques and their use of cognitive biases and emotions have multiple detrimental side effects such as polarizing opinions, spreading false information and threatening public health, economies and democracies. This is clearly a case where the Web is not used for the common good and where, in fact, all its users become a vulnerable population. This paper brings together contributions from a wide range of disciplines to analyze current practices and consequences thereof. Through a set of propositions and principles that could be used do drive further works, it calls for actions against these practices competing to capture our attention on the Web, as it would be unsustainable for a civilization to allow attention to be wasted with impunity on a world-wide scale.

Au cours des 70 dernières années, nous, humains, avons créé un marché économique où l'attention est captée et transformée en revenus grâce à la publicité. Au cours des deux dernières décennies, en s'appuyant sur la recherche en psychologie, en sociologie, en neurosciences et d'autres domaines, les plates-formes web ont porté le processus de captation de l'attention à une échelle sans précédent. Avec l'objectif initial banal de rendre la publicité ciblée plus efficace, la généralisation des techniques de captation de l'attention et l'utilisation qu'ils font des biais cognitifs et des émotions ont de multiples effets secondaires délétères tels que la polarisation des opinions, la diffusion de fausses informations et la menace pour la santé publique, les économies et les démocraties. Il s'agit clairement d'un cas où le web n'est pas utilisé pour le bien commun et où, en fait, tous ses utilisateurs deviennent une population vulnérable. Cet article rassemble des contributions provenant d'un large éventail de disciplines afin d'analyser les pratiques actuelles et leurs conséquences. À travers un ensemble de propositions et de principes qui pourraient servir de base à d'autres travaux, il appelle à des actions contre ces pratiques qui rivalisent pour capter notre attention sur le web, car il serait insoutenable pour une civilisation de permettre que l'attention soit ainsi gaspillée en toute impunité à l'échelle mondiale.

Mots clés: Social and Information Networks (cs.SI); FOS: Computer and information sciences; Attention Economy; Recommendation; Emotion

Domaines: Réseaux sociaux et d'information [cs.SI]

Franck Michel, Fabien Gandon. Pay Attention: a Call to Regulate the Attention Market and Prevent Algorithmic Emotional Governance. 2024. ⟨hal-04479314⟩