Bots conversationnels et IA sur les réseaux sociaux : la question de la transparence des contenus

Selon la dépêche, qui s'appuie sur un article du New York Times, des entreprises israéliennes testent des bots basés sur l'intelligence artificielle destinés aux réseaux sociaux. Le détail des dispositifs, leur finalité, leur état d'avancement et les entreprises concernées ne sont pas repris ici. Le contexte politique de cette information n'entre pas dans le champ de ce site et n'est donc pas commenté.

Ce qui relève en revanche de la pratique professionnelle, c'est l'existence d'un marché d'outils capables de produire et de publier automatiquement des contenus sociaux crédibles, à grande échelle. Cette capacité technique est désormais accessible à des acteurs très divers, y compris à des prestataires marketing. Elle concerne donc directement les entreprises qui délèguent leur présence en ligne.

La première conséquence porte sur ce que vous achetez. Lorsqu'une agence propose de l'animation de communauté, de la production de contenus ou de la gestion d'avis, il est légitime de demander comment ces contenus sont produits, quelle part est générée automatiquement, et qui relit avant publication. La réponse doit figurer dans le contrat, pas seulement dans la présentation commerciale.

La deuxième porte sur le risque. Acheter des interactions artificielles, des commentaires fabriqués ou de faux avis expose à des sanctions des plateformes, à un risque juridique sur le terrain des pratiques commerciales trompeuses, et à un risque réputationnel si la pratique est révélée. Un prestataire qui garantit des résultats d'engagement chiffrés sans expliquer comment il les obtient doit faire l'objet de questions précises.

La troisième porte sur la traçabilité. Une entreprise qui confie ses comptes sociaux à une agence devrait pouvoir savoir, à tout moment, quels outils sont utilisés, quels accès ont été accordés, et où sont stockées les données de ses audiences. Ces éléments se formalisent dans une annexe technique et dans les documents relatifs à la protection des données personnelles, qui relèvent de la responsabilité conjointe de l'annonceur et du prestataire.

Il existe par ailleurs un cadre en construction sur l'identification des contenus générés par l'intelligence artificielle, tant au niveau européen que dans les règles propres à chaque plateforme. Sans anticiper sur son application, une entreprise a intérêt à savoir dès maintenant ce qui, dans sa communication, est produit par une machine, afin de pouvoir le documenter si la question se pose.

En pratique, trois questions suffisent souvent à clarifier la situation avec un prestataire : quels outils d'IA sont mobilisés et pour quelles tâches ; quel processus de validation humaine s'applique avant publication ; et quelle politique s'applique aux interactions avec les internautes, notamment lorsqu'une réponse est générée automatiquement. Les réponses obtenues constituent un critère de comparaison aussi utile que le prix.