Bloquer ou pas bloquer? Les contenus « insultants » et les intermédiaires de l’Internet

Ci-dessous le texte de mon intervention au séminaire « Religion, Freedom of Expression, and Outrage » organisé par le Master in Foreign Service de l’université de Georgetown. J’y discute de la position délicate des intermédiaires de l’Internet, entre capacité de controle, responsabilité et « soft power », dans les cas de publication de contenus « insultants » sur des services en ligne comme Facebook, Twitter ou – comme l’a montré récemment le vidéo ridiculisant Mahomet – Google.


Google and Video Blocking: Control (and Responsibility) of Information Intermediaries on the Internet

Francesca Musiani

Religion, Freedom of Expression, and Outrage – Panel Discussion


The “Embassy Riots” that have shaken the Arab world a couple of weeks ago, following the publication on the Internet of an “American-made video” (better defined as a video made by an individual with American citizenship) ridiculing the Prophet Muhammad, offer one further, important occasion to reflect on one of the very relevant questions of our connected world – the extent of the control (and the responsibility) that the great information services, intermediaries and gatekeepers of today’s Internet exert on user-generated, online-published content. Google’s decision to selectively block the video in violence-stricken countries, while not removing it from the service altogether, raises, indeed, fundamental questions about the control that Internet companies have over online forms of expression. Should the companies themselves decide what standards govern what is seen on the Internet? How consistently should these policies be applied, and are de facto applied? What to do of “critical precedents”, like this one, in the future?

This most recent debate stems from the decision by Google – the “giant” of online search, which owns the very popular video streaming service YouTube – to block access to the infamous video in two of the countries that have experienced the most severe upheavals, Egypt and Libya, while at the same time choosing not to remove it completely from its Web site. Google’s decision is based on a number of conflicting dynamics. On one hand, its capacity, stated by contract, to block access to content on a country-by-country basis. On the other, its stated approach to have a « bias in favor of free expression – not just because it’s a key tenet of free societies, but also because more information generally means more choice, more power, more economic opportunity and more freedom for people” – an ideology that has been upheld repeatedly by Google’s top leaders in the recent past, including a number of very vocal reproaches to China’s online censorship efforts, and refusals to remove content deemed as delicate or unacceptable by governments – including the United States. This is reflected in YouTube’s terms of service: according to them, hate speech is speech against individuals, not against groups. All of this is enshrined in the company’s obviously steady lack of willingness to play any part, even indirectly, in fueling violence that has already resulted in American deaths.

In short, as the video mocks Islam but not Muslim people and is therefore, by Google’s own admission, “clearly within the company’s guidelines”, it has been allowed to stay on the site in most of the world – while “given the very difficult situation in Libya and Egypt”, a Google representative has remarked, the company has “temporarily restricted access” in both countries.

The New York Times has recently reported the opinion of Peter Spiro, a constitutional and international law professor at Temple University in Philadelphia. The scholar was adamant in saying that “Google is the world’s gatekeeper for information, so if Google wants to define the First Amendment to exclude this sort of material then there’s not a lot the rest of the world can do about it (and) it makes this episode an even more significant one if Google broadens the block.” Indeed, in addition to emphasizing the amount of control that Internet companies can exert alongside governments (sometimes, superseding them) on what should, and should not, be publicly and freely expressed online, the Embassy Riots also highlight the difficult positions that content platforms are sometimes put in – because of the responsibility that their “privileged gatekeeper status” entails.

All Web companies that allow people to post content online — Facebook, Twitter, Google — grapple with issues involving content. The questions are complicated by the absence of geographical boundaries on the Internet, that require companies to navigate through a highly heterogeneous ensemble of laws and cultural traditions. Web companies receive dozens of requests a month to remove content. Google, in particular, has continually referred to its guidelines to remove only content that breaks laws or its terms of service, and only at the explicit request of users, governments or courts. In this light, blocking the anti-Islam video was exceptional, although “the decision to block in those two countries specifically is kind of hard to second guess, considering the severity of the violence in those two areas,” pointed out Kevin Bankston, director of the free expression project at the DC-based Center for Democracy and Technology. Some wonder what precedent this might set. Rebecca MacKinnon, co-founder of Global Voices, a worldwide network of bloggers, has remarked that “it depends on whether this is the beginning of a trend or an extremely exceptional response to an extremely exceptional situation.”

Google’s response to the “Embassy Riots” can be read as perplexing and disquieting, if the enormous weight of the Internet company ends up pushing for the first one of these alternatives. To quote Kevin Bankston again, the video blocking may send the message that “if you violently object to speech you disagree with, you can get it censored.” It may also be read in a more positive light, as an attempt by one of the Internet’s foremost “giants” to craft more articulate, complex and nuanced policies on content removal, user rights, and the power of intermediaries – even when it is less risky, not just for the users but for the company itself, to take a more extreme stance of absolute openness or absolute restriction. Time will tell what is going to build on this episode, be it a critical precedent or an isolated case – but one thing may be concluded for now: it demonstrates, not for the first time, the court-of-law-like powers of Internet information intermediaries, de facto able to decide what content remains public, and what is taken out. But the techno-juridical framework governing online freedom of expression – and with it, transparency and accountability of individuals, companies and governments – is still very much in the making.

Francesca Musiani

Chercheuse postdoctorale, MINES ParisTech Yahoo! Fellow in Residence, Georgetown University

More Posts - Website

Internet et les nouveaux paradigmes de production @ STS Italia

Le quatrième congrès de la Société italienne pour les études sociales des sciences et des techniques (STS Italia) a eu lieu à Rovigo, dans le sud de la Vénétie, du 21 au 23 juin derniers. Celle qui se proposait a priori comme une conférence nationale a en effet réuni plus de cent participants provenants de toute l’Europe, ainsi que des Etats-Unis et de l’Asie, et a été pendant trois jours le forum de débats intéressants, vivants et variés sur le thème « Technologies émergentes, mondes sociaux ». J’ai participé tout particulièrement au quatrième track, organisé par Stefano De Paoli, Cristiano Storni et Maurizio Teli, qui portait sur les contributions de l’approche STS (Science & Technology Studies) à l’étude des nouveaux paradigmes productifs qui prennent forme sur et avec l’Internet.


Il s’agissait, pour les exposés présentés au sein de ce track, d’explorer les manières dont la diffusion omniprésente de l’Internet à l’échelle mondiale montre l’émergence de nouveaux arrangements socio-techniques, qui semblent remettre en cause la séparation traditionnelle entre production et consommation. D’une part, nous assistons à l’émergence et la consolidation d’un paradigme de production novateur, où les processus de production sont décentralisés, répartis sur une masse d’acteurs pas forcément individualisés, mais pro-actifs. Parmi les exemples de cette tendance figurent notamment la communauté de contributeurs à Wikipédia, les développeurs de logiciels libres et open source, les folksonomies, les plates-formes de crowdsourcing, le hacktivisme et les communautés Do-It-Yourself.

Comme l’avaient souligné les organisateurs de la session dans leur appel à communications, de nouveaux concepts ont été développés dans une tentative de saisir ces nouvelles pratiques et ces nouveaux agencements sociotechniques: si Toffler (1980) a théorisé à la fin des années 1970 l’émergence du prosumer, à la fois producteur et consommateur de biens, d’autres concepts tels que les « Wikinomics » (Tapscott et Williams, 2006), la « commons-based peer production » (Benkler, 2006), le « produsage » (Bruns, 2008), et des idées comme le Hacktivisme (Auty, 2004) ou les mash-up (Hartmann et al. 2006) ont vu la lumière plus récemment. En parallèle, on assiste par ailleurs à l’émergence de critiques qui mettent en évidence les manières dont ces aspects novateurs pourraient n’être que la perpétuation, plus ou moins évidente, d’une logique capitaliste traditionnelle – ce qui semble alimenter les conflits autour de thèmes tels que le contrôle, la surveillance, l’exploitation de la gestion de la propriété intellectuelle, la déqualification, etc. (Lash, 2002, Terranova, 2000, De Paoli et Storni, 2011).

Au lieu de considérer l’émergence de ces nouveaux paradigmes de production comme une question de fait et une logique déjà stabilisée, ce track a cherché à décrire et à comprendre les pratiques et les dynamiques caractérisant les collectifs socio-techniques qui sous-tendent les phénomènes mentionnés ci-dessus. Il a aussi cherché à discuter de comment celles-ci nous aident à repenser non seulement la traditionnelle division du travail entre production et consommation, mais la signification même des termes production, consommation et bien (communs) dans la société de l’information.


En faisant le point sur ses recherches de longue date autour de la technologie et du changement social, David Hakken a questionné la validité d’une de ces notions en train de se faire, celle de « playbor« . Toute une gamme de nouveaux termes est maintenant utilisée pour renvoyer à l’idée que les technologies de réseautage social sont en train de transformer la nature du travail et la production de valeur. Le terme « playbor » a été inventé pour caractériser l’activité volontaire au moyen de laquelle est généré un cash flow substantiel (par exemple, les vidéos YouTube postées, voir créés par les utilisateurs, mais aussi le développement des logiciels libres). Ce terme s’applique également aux activités plus au moins « de loisir », comme le friending ou le liking, qui sont à l’origine de plusieurs pratiques de data mining et de vente de données. De telles pratiques, s’est demandé l’auteur, indiquent-elles l’émergence de nouvelles formes de création de valeur dans les économies capitalistes? Si oui, y a-t-il raison de mettre en relation l’émergence de ces formes avec des changements importants dans les dynamiques de production et reproduction du lien social? Y a-t-il une nouvelle dynamique suffisamment importante pour justifier une utilisation importante de « playbor » et de néologismes similaires (par exemple, prosumption), et une articulation théorique de ce concept? Les réponses à ces questions, a conclu l’auteur, exigent d’adopter une perspective évolutive sur le développement des institutions du travail, du business, du marché. C’est justement une telle perspective que l’anthropologie, croisée avec les STS, peut fournir.


Alessandro Gandini, doctorant à l’université de Milan-Bicocca, a discuté à partir des résultats préliminaires de son terrain de thèse – l’analyse de trois réseaux de professionnels de la création en freelance – l’hypothèse principale qui sous-tend son travail. Cette hypothèse est que la réputation – par rapport à d’autres facteurs comme les compétences, l’éducation et le capital social traditionnel, basé sur la confiance – est le facteur clé pour déterminer le revenu des travailleurs indépendants en réseau, à la fois en ligne et hors ligne, au point qu’il peut devenir possible d’argumenter sur l’existence d’une économie de la réputation. L’auteur considère la possibilité d’une relation causale entre la réputation et le revenu dans le secteur de la création, impliquant que la réputation a un effet direct dans la détermination du revenu d’un travailleur indépendant; plus élevé est le statut de la réputation, plus élevé sera le revenu, indépendamment des compétences du travailleur, de son parcours, ou du capital social accumulé dans le réseau.


Basée sur une recherche en cours sur la relation entre le « produsage » (hybride entre production et usage) et le développement du logiciel libre, la contribution de Giacomo Poderi a donné un aperçu des façons dont les pratiques d’utilisation et le design se mélangent dans le cas d’un projet de jeu vidéo. En se concentrant sur les façons dont les produsers créent du contenu pour le jeu, et sur comment ces contenus créés par les utilisateurs interagissent avec la conception de base du jeu, cette contribution s’est servie du cas de Battle for Wesnoth (BFW), un jeu vidéo de stratégie, localisé dans un monde fantastique, pour montrer les pratiques de produsage dans les jeux vidéo. Les produsers peuvent contribuer en fournissant des nouveaux éléments de jeu qui construisent le monde fantastique de Wesnoth. Toutefois, puisque la dimension stratégique du jeu consiste à faire correspondre les meilleures unités aux ennemis en difficulté, et à combattre sur des terrains favorables à un moment favorable de la journée, les attributs que les produsers inscrivent dans les contenus qu’ils créent ont le potentiel de changer ce qui peut être considéré comme favorable et ce qui ne l’est pas, dans des spécifiques scénarios de jeu, car ils entrent en relation constante à la fois avec les contenus précédemment créés par les utilisateurs et avec la conception originelle du jeu. Ainsi, chaque nouvelle contribution remet en question la mesure dans laquelle BfW peut être considéré comme un jeu de stratégie « équilibré ». Le collectif cherche constamment à garder le jeu en équilibre, même si l’équilibre n’existe pas – et ne peut pas être rejoint.


La présentation de Davide Dusi, de la Fondation Ahref de Trento, a mis en avant la notion de médias sociaux comme « écologie sociale« . Il s’agit du scénario de référence dans lequel l’auteur a analysé un projet de narration relatif à la région Trentin, développé par la Fondation. Le projet utilise une plate-forme participative (Timu), qui permet la production collaborative de l’information, et qui a donné l’occasion aux chercheurs Ahref de suivre la formation d’une « communauté ingénieuse » (Levy, 2008), terme emprunté à la notion américaine de smart communities, sorte de miroirs de l’intelligence collective et créatrices de modèles d’organisation qui ont récemment été appelés « adhocratiques » (Strati, 2008).


En conclusion de séance, ma présentation a enfin porté sur les manières dont, dans les services Internet en peer-to-peer, les tentatives d' »élimination des intermédiaires » portent le plus souvent à la création de nouvelles médiations. La complexité de la démarche de décentralisation des services Internet en pair à pair n’impacte pas seulement l’organisation technique de ces dispositifs, mais se révèle l’enjeu central de la recherche de modèles économiques pour les services en architecture distribuée. Dans le cas où ces services arrivent à se poser la question de la durabilité de leurs modèles économiques – dans bien de services P2P,  ce n’est pas (encore) le cas – la question de l’intermédiation se pose à nouveau et avec force. Si ces services préconisent un modèle où un nœud/utilisateur est à la fois un fournisseur et un demandeur de ressources informatiques (temps CPU, espace du disque dur, bande passante), ainsi qu’un producteur et un consommateur de contenus, ma présentation a souhaité montrer comment la recherche de l’ « élimination des intermédiaires » (Elkin-Koren, 2006), que le P2P semble naturellement, implicitement suggérer avec sa récusation de principe du modèle client/serveur, ouvre souvent la voie à d’autres formes d’intermédiation – qui, en redéfinissant l’intermédiaire comme quelque chose de distribué, omniprésent, pervasif et invisible, ne l’effacent pas pour autant.

Francesca Musiani

Chercheuse postdoctorale, MINES ParisTech Yahoo! Fellow in Residence, Georgetown University

More Posts - Website

SOPA et Megaupload: quelle responsabilité pour les « intermédiaires » de l’Internet?

Retour sur la mobilisation anti-SOPA et le cas Megaupload :

L’accès à Internet comme « droit » face à la responsabilité des intermédiaires


Le blocage DNS, par ordre de l’FBI américain, de dix-huit sites de streaming et téléchargement direct de fichiers vidéo parmi lesquels figurent le populaire Megaupload et son « cousin » Megavideo, semble parler clair : l’offensive aux bastions de la piraterie sur Internet, intouchables jusqu’à maintenant, a (re)commencé en grand style. D’autres sites s’apparentant à Megaupload tomberont, et seront certainement « vengés » et rapidement remplacés par des alternatives similaires ; les utilisateurs, quant à eux, vont à court terme digérer l’affaire avec quelques recherches en ligne, à la chasse d’autres sites. Pourtant, on commence à peine à mesurer l’ampleur potentielle des conséquences à moyen terme du blocage. Certes, le Sénat des Etats-Unis a, pour le moment et suite à un important mouvement en faveur de la libre diffusion de la culture guidé par Wikipédia, décidé de différer les discussions sur les controversées lois anti-piratage SOPA et PIPA, après qu’une décision similaire avait déjà été prise par la Chambre des représentants états-unienne. Mais les principaux experts de droit d’auteur sur Internet se trouvent d’accord : la prochaine manœuvre des industries du copyright sera d’essayer de restreindre la liberté d’action de sites qui nous semblent être aujourd’hui entièrement dans le champ de la légalité, comme Google, Facebook, YouTube. De quoi nourrir ultérieurement un débat récemment ravivé par Vint Cerf : l’accès à l’Internet, no strings attached, est-il un droit de l’homme ?


Les intermédiaires de l’Internet sous attaque?

L’enjeu central de l’affaire SOPA/PIPA et de la fermeture de Megaupload semble donc être l’ « effet domino » de décisions politico-judiciaires qui, partant d’une action policière nationale (des Etats-Unis dans ce cas), se reflètent au niveau global. C’est l’inquiétude de la commissaire européenne en charge de la société numérique Neelie Kroes, qui note comment l’action unilatérale des autorités états-uniennes ait un impact immédiat et important sur les usagers européens – y compris ceux qui utilisaient Megaupload légalement. En effet, le site avait aussi, pour beaucoup d’internautes partout dans le monde, une fonction de « disque dur virtuel » qui incluait le stockage de fichiers légaux, photos et documents personnels, qui sont au moins pour le moment perdus – sans même que les autorités du pays dont ils sont citoyens ne l’aient décidé. Un des paradoxes des multiples facettes de l’Internet : un instrument d’accès global à de l’information qui est, par ailleurs, contenue et gérée par des serveurs physiques – contrainte par leur matérialité, sujette aux limitations et aux juridictions des pays qui les hébergent.

Les 180 millions d’abonnés de Megaupload ne seront pas en manque d’alternatives suite à sa fermeture. D’ailleurs, ces utilisateurs étaient souvent dirigés vers la musique, les films, les BD de leur choix par des liens présents sur des sites tels que forums et blogs, qui renvoient souvent vers d’autres possibilités de téléchargement direct et de streaming : ceux-ci ne manqueront pas de s’enrichir rapidement et efficacement de contenus et d’utilisateurs ; tout comme il sera facile, pour de nouveaux services du même genre, de voir la lumière et de se substituer aux géants abattus. Pourtant, plusieurs experts partagent l’impression que ces effets immédiats soient loin de résumer à eux seuls l’impact des événements récents. La fermeture de Megaupload et frères serait la preuve du fait que l’industrie du copyright a décidé de lancer une nouvelle offensive, sans précédents depuis les « Napster wars » du début des années 2000, qui impliquerait de s’attaquer à d’autres sites semblables, à l’heure actuelle pleinement insérés dans la « légalité » de la distribution de contenus via l’Internet.


Vers des restrictions plus importantes pour les plateformes

Une procédure judiciaire aux résultats incertains suivra maintenant de près la fermeture des sites. Ce qui signifie que, en théorie, leurs administrateurs pourraient être libérés de toute accusation, et les sites ouverts à nouveau. L’ambigu Kim Dotcom (a.k.a. Schmitz), l’un des fondateurs de Megaupload, déclarait par ailleurs à l’audience préliminaire de son procès, le 20 janvier dernier, qu’il n’avait « rien à cacher ». Jusqu’ici, aucun site semblable à Megaupload n’a été condamné par un juge : les fermetures ont toujours été causées par des saisies préventives. Pourtant, une condamnation semble, dans ce cas, plus probable qu’un acquittement. En effet, jusqu’à présent, les sites de streaming et équivalents se sont justifiés en soutenant de n’être que des « purs intermédiaires », et que la responsabilité des actes illicites doit retomber sur les usagers téléchargeant les fichiers piratés sur les sites. Cet argument a déjà été utilisé par le site de torrent The Pirate Bay, qui a pourtant déjà subi une condamnation bien qu’il s’exposât à moins de risques, se limitant à indexer les fichiers sur un moteur de recherche au lieu de les héberger directement sur le site comme fait Megaupload. Les autorités sont en train d’affirmer le principe selon lequel ces sites sont illégaux car l’organisation de leur modèle d’affaires est entièrement centrée – qui plus est, avec profit – sur les activités pirates.

Par ailleurs, l’argument de la « pure intermédiation » et de la responsabilité de l’usager soutient aujourd’hui une bonne partie du modèle Internet dans sa forme actuelle ; c’est l’argument qui permet à des plateformes telles que Google, Facebook, YouTube de poursuivre leurs opérations sans encourir à tout moment le risque d’amendes très importantes à cause des actions que leurs usagers effectuent sur et au moyen de la plateforme. Il en va de même pour les fournisseurs d’accès à Internet (FAI). Il y a donc le risque concret d’une réaction disproportionnée : pour défendre le système de copyright dans sa forme actuelle, les modalités d’accès et d’utilisation de sites Internet non orientés au piratage pourraient être largement réduites, voir carrément empêchées. L’attaque des autorités américaines à Megaupload et aux autres sites serait-il une réaction à la vaste mobilisation de l’Internet contre la proposition SOPA/PIPA – projet de loi qui souhaite précisément augmenter les responsabilités de tous les sites pour la distribution et la diffusion de contenus vis-à-vis le piratage en ligne ?


Internet, un « droit » ? Sûrement une opportunité

L’effet principal, à moyen terme, de la chute des géants du streaming pourrait donc dépasser le cadre des copyright wars pour investir un des enjeux fondamentaux de l’Internet : l’accès au réseau des réseaux est-il un droit de l’homme, à problématiser et protéger en conséquence, même et surtout face aux intérêts de certains acteurs ? Cette question, largement débattue dans plusieurs arènes internationales, a été récemment posée par Vint Cerf sous un angle novateur et controversé. En effet, l’ « évangéliste en chef » de Google fait l’argument que l’Internet serait à classer parmi les technologies « facilitatrices » des droits de l’homme, en tant que moyen de poursuivre un but, plutôt que d’être défini en soi comme droit de l’homme.

Si cette perspective est intéressante et invite à poursuivre la réflexion, il nous semble légitime, en suivant Sean Ludwig, de réaffirmer quelque chose de très simple : quelqu’un doté d’un accès non restreint à l’Internet a la possibilité de connaître et changer le monde beaucoup plus que quelqu’un qui n’a pas cet accès. Au delà des débats sur l’Internet comme droit fondamental, ce serait opportun qu’une telle prise de conscience devienne une priorité, ou au moins partie intégrante, des processus de décision politique et judiciaire concernant le réseau des réseaux. Peut-être pourra-t-on ainsi éviter des desseins de loi qui, dans le but de poursuivre des usages partiellement illicites, risquent d’endommager sérieusement l’ « écologie Internet », son ouverture, et ses opportunités d’innovation.

Francesca Musiani

Chercheuse postdoctorale, MINES ParisTech Yahoo! Fellow in Residence, Georgetown University

More Posts - Website