Le Wrap Up de la semaine où Silvio Berlusconi s'est éteint (semaine du 12 juin 2023)
Les comportements "émergents" de l'IA - quand la presse gratuite disparaît - l’IA peut aider le Web3 - Prime Vidéo avec de la pub en prime - Netflix et le Golf - Tiktok entre ecommerce et espionnage
Au sommaire de cette édition :
Dissimulée 🫣 : l’IA peut-elle avoir des comportements émergents?
Malade 🤢 : quand la presse gratuite s’enrhume, c’est la démocratie qui éternue
Publicitée 📢 : Prime Vidéo opte aussi pour un abonnement publicitaire
⌛️ temps de lecture : 8 minutes 7 secondes
Dissimulée 🫣 : l’IA peut-elle avoir des comportements émergents ?
⌛️ : 1 min 44 sec
Control F est le nouveau podcast de l’Express tiré des chroniques de Frédéric Filloux (ancien patron de 20 Minutes, universitaire et enseignant à Stanford sur les évolutions du métier de journalisme), au cours duquel il creuse le sujet de ces chroniques médias et tech en interviewant une personnalité.
Pour creuser le sujet de l’IA Act européen et la prévention des dommages que l’intelligence artificielle pourrait causer, il a invité André Loesekrug-Pietri, le patron de la fondation JEDI (Joint European Disruptive Initiative), une initiative européenne pour faire émerger une DARPA1 européenne.
La chronique de Filloux d’avril dernier (il y a des décennies en temporalité de découvertes d’intelligence artificielle) saluait l’initiative mais la trouvait déjà dépassée par la vitesse d’innovation du secteur : les IA génératives montrent en effet des comportements émergents, c’est à dire des réponses inattendues par les concepteurs des modèles.
Il faut distinguer cependant les “hallucinations” (l’IA ne connaît pas la réponse et se met à les inventer, c’est le propre du comportement de pipoteur/bullshiteur déjà évoqué au sujet des IA génératives2) et les comportements émergents où l’IA semble comprendre que la réponse est de nature à mécontenter l’opérateur humain, celui qui interroge l’IA, et produit une réponse de nature à le satisfaire, quitte à lui dissimuler la réponse qu’elle aurait originellement fournie.
Au fond, cela revient à s’interroger sur le fonctionnement des LLMs (large language modeling) : quand on fait du machine learning, on fait fonctionner des statistiques pour déterminer la réponse : la vérité n’existe pas aux yeux de la machine.3
Parmi les comportements émergents le plus frappants, on peut citer les cas suivants :
le cache-cache : un programme interne de ChatGPT produit des personnes qui se cachent et des chasseurs. Les chasseurs ont commencé spontanément à monter sur les obstacles pour avoir une meilleure vue d’ensemble, en effet cette donnée n’avait pas été définie initialement;
Lors d’un exercice de l’armée américaine, le drone porteur missile qui avait pour mission la destruction d’une cible “à tout prix”, en est venu à vouloir détruire ne premier lieu la tour de contrôle, afin d’éviter que son ordre de mission ne soit pas modifié par l’humain superviseur du programme;
L’ontologie d’une IA (le fait de donner des codes de conduite à une intelligence artificielle) est rarement implémentée au stade actuelle, car extrêmement coûteuse en ressources. Une des solutions serait de créer des boucles de contrôle a priori (des audits), ou alors de transférer à nos algorithmes nos systèmes de valeurs (quand on voit le temps qu’il nous faut pour produire du consensus, on comprend mieux l’usage de ressources importantes).
Malade 🤢 : quand la presse gratuite s’enrhume, c’est la démocratie qui éternue
⌛️ : 1 min 24 sec
Dans cette chronique du New York Times, l’éditorialiste Lydia Polgreen fait le constat des coupes claires qui ont marqué les médias américains ces dernières semaines :
Last week, The Los Angeles Times announced it will reduce its newsroom staff by 13 percent, a month after the paper celebrated winning two Pulitzer Prizes.
Last month, Vice, a company that once seemed like the invincible future of media, sought bankruptcy protection.
BuzzFeed shuttered its Pulitzer Prize-winning news division.
Insider slashed its staff by 10 percent earlier this year; its journalists are currently on strike.
Hundreds of journalists from Gannett, the once mighty local news company, also staged a short strike last week after years of staffing and budget reductions.
We’ve seen deep cuts at the major TV and cable news networks. MTV News closed its doors…
Many of my former colleagues at Gimlet, the ambitious podcast studio where I worked from 2020 to 2022, lost their jobs.
Le point commun de toutes ces réductions d’effectifs, est qu’il s’agit dans la très grande majorité des cas de médias qui prétendaient vivre de la ressource publicitaire, faible ressource mais compensée par une diffusion massive.
L’éditorialiste soutient l’idée que cette disparition de ces sources d’informations gratuites est une mauvaise nouvelle pour la démocratie: elle accentue encore davantage le clivage idéologique entre les possédants capables de se payer de l’information de qualité et les autres :
It bodes ill for our democracy that those who cannot pay — or choose not to — are left with whatever our broken information ecosystem manages to serve up, a crazy quilt that includes television news of diminishing ambition, social media, aggregation sites, partisan news and talk radio.
Le nouveau modèle de l’information pour les masses, inauguré par le New York Times Sun aux Etats-Unis au XIXème siècle, reposait sur le postulat qu’un prix abaissé permettrait d’accroître considérablement le lectorat qui pourrait être monétisé par voie publicitaire. Cependant son corollaire était que cette information coûteuse à produire connaître une forme de barrières à l’entrée : le coût de l’impression, du papier, de l’encre, ou pour les radios ou les télévisions une forme de rareté liée à la rareté de l’espace public hertzien dont les fréquences étaient attribuées par une autorité étatique.
Avec l’internet ou les chaînes numériques, cette barrière à l’entrée a sauté et avec elle, la profitabilité de ces organismes de presse et leur coûteuse machine à produire de l’information.
Interconnectée ⛓️ : comment l’IA peut contribuer au Web3
⌛️ : 1 min 54 sec
Le blog de la société Unilend (une société de prêt fonctionnant dans un protocole décentralisée) tente de dessiner cinq façons pour l’Intelligence Artificielle de contribuer à l’essor du Web3.
Ces cinq contributions pourraient prendre les formes suivantes :
Efficacité et productivité : L'IA comme dans beaucoup de secteurs, améliorerait considérablement la productivité et l'efficacité des projets Web3. De plus, l'IA pourrait aider l’accès à la rédaction de smart contracts (en Solidity pour la plupart), réduisant potentiellement la difficulté d’accès au Web3 pour le commun des mortels ou des développeurs peu expérimentés;
Dans la même veine que ces idées, la société Alchemy aurait développé des outils reposant sur l’IA pour aider les développeurs sur la construction de nouvelles Dapps (Apps décentralisées fonctionnant sur la blockchain).
ChatWeb3, which is still in its beta phase, is an AI chatbot powered by ChatGPT. According to Alchemy, the tool was trained on over 1000 Alchemy docs and other crypto resources to help Web3 developers build software more quickly, and with fewer headaches.
“With AI assistance, web3 developers can tap into a vast array of predefined code snippets, templates, and best practices, reducing the time spent on repetitive tasks,” Alchemy said in a blog post.
Gouvernance automatisée : Les plateformes Web3 nécessitent souvent des mécanismes de gouvernance décentralisés (en particulier les DAOs) pour prendre des décisions collectives.
Les algorithmes d'IA pourraient analyser les propositions, les schémas de vote et le sentiment de la communauté. Cela permettrait de “rationaliser” la prise de décision, augmenter l'efficacité et réduire le risque de manipulation. Bien sûr, cela impliquerait de s’en remettre à “l’objectivité” de l’IA.4
Simplification de la conformité crypto et de l'audit : À la suite d'événements récents, les régulateurs se font de plus en plus pressants sur les obligations de conformité et de connaissance des consommateurs.
Manuels et chronophages, les entreprises crypto pourraient rationaliser ces processus de conformité et d'audit, répondant ainsi plus efficacement aux exigences réglementaires;
Commentaire : ce point semble particulièrement sensible, tant les autorités réglementaires veulent que les entreprises aient un fort niveau de compréhension de ce qui se trame dans leurs systèmes et de la connaissance client. Je doute que la délégation à une IA de ces processus soit de nature à répondre à ces exigences.
Analyse approfondie des données : La combinaison de la crypto et de l'IA ouvre de nouvelles possibilités pour l'analyse des données et la recherche. Les algorithmes d'IA peuvent extraire des informations précieuses des données de la blockchain, permettant aux chercheurs de mieux comprendre la dynamique du marché, les comportements des utilisateurs et l'ensemble de l'écosystème crypto. Cela peut contribuer au développement de solutions innovantes et aux avancées dans l'espace crypto. (Cette approche s’applique aussi en général au robot investisseur des marchés financiers traditionnels).
Croissance du Métaverse : Bien que le métaverse soit encore une idée en devenir, le VisionPro d'Apple et d'autres technologies d'IA ouvrent de nouvelles perspectives.
En répondant au besoin de plus jolies interfaces utilisateur, des graphismes plus sophistiquées, de contenu et d'interactions communautaires, l'IA (comme l’a illustré Unreal Engine 5.2) pourrait accélérer le développement de mondes immersifs. Cette avancée promet des expériences plus engageantes et dynamiques, propulsant la croissance du métaverse.
Publicitée 📢 : Prime Vidéo opte aussi pour un abonnement publicitaire
⌛️ : 1 min 15 sec
Amazon Prime Vidéo pourrait, selon le Wall Street Journal, rejoindre la cohorte de ses concurrents, de Netflix à Disney+ (aux US), qui ont opté pour des forfaits dits mini-pay où le consommateur peut opter pour un abonnement à prix réduit en échange de la diffusion de publicités.
Cette initiative irait dans le sens de la toujours croissante monétisation publicitaire des actifs du groupe leader de l’ecommerce. (Au 1er trimestre 2023, le CA pub d’Amazon a atteint 9,5 Md$, en croissance de plus de 20%, faisant de l’acteur le 3ème acteur publicitaire américain derrière Google et Meta).
Jusqu’à présent, le service Amazon Prime Vidéo était un des produits d’appel du programme de fidélité du géant de Seattle, Prime ou bien un produit en standalone (notamment en France où les ventes couplées doivent présenter l’alternative d’un achat séparé). Même si la publicité était déjà présente dans les retransmissions sportives de la marque, l’approche d’Amazon pourrait même aller jusqu’à proposer par défaut le service avec pub, et l’option de retirer la pub ne serait plus qu’une option supplémentaire payante.
Une approche qui évoque une approche analogue de celle de son service de musique, Amazon Music, auparavant intégré dans l’offre Prime, et dont certaines fonctionnalités de base (moteur de recherche et possibilité de zapper les playlists) ont été retirées au profit d’un abonnement payant.
L’article du WSJ évoque également des approches des concurrents Warner Bros (avec son offre Max) et de Discovery pour inclure leur propre offre publicitaire également dans le nouveau forfait pub d’Amazon.
Cette approche est le reflet d’une évolution structurelle du secteur pour aller chercher de nouveaux abonnés qui ne sont pas nécessairement friands des abonnements payants, mais également plus conjoncturellement, une approche du nouveau CEO, Andy Jassy, qui passe en revue les activités déficitaires du groupe. Amazon dépense près de 7 milliards par an dans les contenus originaux (on se souvient de l’exorbitante suite de Game of Thrones, les Anneaux du Pouvoir) et dans le sport (les droits de la NBA 2025 arrivent bientôt sur le marché).
A emporter 🌯 : quelques Burritos pour la route
⌛️ : 1 min 23 sec
Netflix se lance dans le live sportif (l’humour avait déjà eu droit à son test avec Chris Rock), avec un premier tournoi de golf, monté par ses soins avec des célébrités du Golf et de Formule 1 (notamment ceux mis en avant par sa série Drive to Survive). Une façon de tester l’attrait de ce genre de programmes live sans se mouiller très franchement ;
Tiktok met le paquet sur les créateurs en Asie du Sud-Ouest en vue de développer l’e-commerce (le tiktok shopping), premier pays en ligne de mire : L’Indonésie ;
Toujours sur l’app star, un insider dénonce l’entreprise chinoise et confirme que le Parti Unique aurait accès aux informations de la plateforme ;
D’après la déposition de M. Yu, qui a attaqué ByteDance auprès d’un tribunal américain, début mai, pour contester son licenciement, et a complété ses déclarations début juin, les ingénieurs chinois de l’entreprise disposent de l’accès à l’ensemble des communications des utilisateurs, mais aussi à leur position géographique, leurs communications et leur adresse IP. Ils ont pu partager ces informations avec des représentants des autorités chinoises, notamment pour espionner des manifestants hongkongais.
Retail media : l’app Uber commence la diffusion de pub vidéo cette semaine. La pub devrait se diffuser pendant les temps d’attente relatif à votre taxi ou à votre livraison de plats… (l’app vise un CA pub de 1 Md$ en 2024!)
“We know where you are, we know where you are going to, we know what you have eaten,” Grether told the Journal. “We can use all of that to then basically target a video ad towards you”
Les ambigües relations entre production TV et les podcasts ;
To suggest you could just lift the audio directly and translate it to TV without another level of development would be inaccurate,” says Carsey. “We might need to bring in script editors or showrunners to make it work for TV, and it might require different POVs, more characters, and so on.”
Les médias US ( dont le New York Times et NBC News) commencent à se préparer à riposter à l’usage de leurs contenus par les IA génératives;
The latest trend — generative AI — can create seemingly novel blocks of text or images in response to complex queries such as “Write an earnings report in the style of poet Robert Frost” or “Draw a picture of the iPhone as rendered by Vincent Van Gogh.”.. The principles are meant to be an avenue for future discussion. They include: “Publishers are entitled to negotiate for and receive fair compensation for use of their IP” and “Deployers of GAI systems should be held accountable for system outputs” rather than industry-defining rules.
Pas de recommandation culturelle cette semaine, mais pour continuer de creuser l’exposition du moment Manet / Degas à Orsay dont nous avions parlée à deux reprises, je vous recommande l’émission Répliques qui y était consacrée ce samedi matin avec Philippe Lançon, journaliste critique de Libération et Stéphane Guégan, conseiller auprès des présidents des Musées d’Orsay et de l’Orangerie.
Souvent vu comme le succès derrière l’informatique à la sauce américaine, en particulier d’internet, la DARPA (Defense Advanced Research Projects Agency) est une initiative de l’Armée Américaine, de favoriser et de créer les conditions d’émergence d’une domination de la technologie. américaine, comme avantage des forces armées US, par le soutien aux initiatives privées et universitaires.
Mais l’IA ne connaît pas le concept de vérité, elle ne fait que calculer des probabilités de mots.
Le moteur de recherche de Microsoft, Bing, qui utilise ChatGPT a utilisé en sortie de résultats, un système de contrôle s’appuyant sur les vieilles itérations d’un moteur de rechercher pour contrôler la véracité des réponses.
pour le peu qu’on puisse en juger, les IA s’efforcent, aussi sans doute par volonté de ne pas polémiquer, de donner des points de vue relativement équilibrés (bien sûr la rédaction des prompts est de nature à biaiser les réponses).
Merci pour ce wrap très technique et très intéressant !