WeshSociety
SYNTHETIC_NARRATIVES.fragment
────────────────────────────────────────────────────────────
STATUT: CADRE MÉTHODOLOGIQUE
CLASSIFICATION: NARRATIVE_CONTROL
AXE: IA GÉNÉRATIVE / PROVENANCE / ÉCHELLE / VARIATION
POSITION: PRODUCTION SYNTHÉTIQUE DOCUMENTABLE —
VÉRACITÉ ET INTENTION À ÉTABLIR SÉPARÉMENT
────────────────────────────────────────────────────────────
Un récit synthétique
est ici
un contenu dont tout
ou partie
a été généré,
transformé
ou recomposé
par un système automatisé.
SYNTHÉTIQUE
DÉCRIT UNE ORIGINE
OU UN PROCESSUS.
IL NE DÉCRIT PAS
AUTOMATIQUEMENT
LA VÉRITÉ DU CONTENU.
← NARRATIVE_CONTROL
01 // NOUVELLE ÉCHELLE
L'automatisation
modifie principalement
le coût,
la vitesse
et l'échelle
de production.
1 HUMAIN
→ QUELQUES VARIANTES
SYSTÈME AUTOMATISÉ
→ CENTAINES
→ MILLIERS
→ MILLIONS
DE VARIANTES POSSIBLES
LE CHANGEMENT CENTRAL
N'EST PAS NÉCESSAIREMENT
LA NATURE DU RÉCIT.
C'EST AUSSI
SON ÉCHELLE POTENTIELLE.
02 // VARIATION
Une même idée
peut être reformulée
de nombreuses manières.
NOYAU NARRATIF X
→ VERSION A
→ VERSION B
→ VERSION C
→ VERSION D
→ VERSION E
La répétition
devient alors
plus difficile
à détecter
par simple comparaison
mot à mot.
03 // PATTERN ≠ TEXTE IDENTIQUE
PHRASE 1
≠
PHRASE 2
mais
STRUCTURE NARRATIVE 1
≈
STRUCTURE NARRATIVE 2
Pour suivre
des récits synthétiques,
il faut parfois
chercher :
THÈME
RELATIONS CAUSALES
ACTEURS
RÔLES
CADRAGE
CONCLUSION
STRUCTURE
SIMILITUDE NARRATIVE
≠
ORIGINE COMMUNE PROUVÉE
04 // SYNTHÉTIQUE ≠ FAUX
Un système génératif
peut produire :
UN RÉSUMÉ EXACT
UNE TRADUCTION
UNE EXPLICATION
UNE FICTION
UNE ERREUR
UNE HALLUCINATION
UNE PARODIE
UNE PROPAGANDE
UNE DESCRIPTION CORRECTE
La méthode de production
ne suffit donc pas
à déterminer
la valeur factuelle.
CONTENU IA
≠
CONTENU FAUX
CONTENU HUMAIN
≠
CONTENU VRAI
05 // PROVENANCE
La question centrale
devient :
QUI ?
QUOI ?
QUAND ?
AVEC QUEL OUTIL ?
À PARTIR DE QUELLES SOURCES ?
QUELLES MODIFICATIONS ?
QUELLE CHAÎNE DE TRANSMISSION ?
La provenance
permet d'étudier
l'histoire
d'un contenu.
06 // PROVENANCE ≠ VÉRITÉ
Savoir
qu'un contenu
provient d'une caméra,
d'un humain
ou d'un modèle
ne suffit pas
à établir
ce qu'il affirme.
PROVENANCE
→ ORIGINE / HISTORIQUE
VÉRIFICATION
→ CONTENU / FAITS
ORIGINE CONNUE
≠
AFFIRMATION VRAIE
07 // ABSENCE DE PROVENANCE
Inversement,
l'absence
de données de provenance
ne prouve pas
que le contenu
est synthétique
ou frauduleux.
PAS DE MÉTADONNÉES
≠
FAUX
≠
IA
Les métadonnées
peuvent être absentes,
supprimées,
modifiées
ou perdues
au cours de la circulation.
08 // CONTENT CREDENTIALS
Des standards techniques
tentent de conserver
des informations
sur l'origine
et les modifications
d'un média.
CRÉATION
↓
ATTESTATION
↓
MODIFICATION
↓
NOUVELLE ATTESTATION
↓
HISTORIQUE
Cela peut aider
à reconstruire
la provenance.
PREUVE DE PROVENANCE
≠
PREUVE DE VÉRITÉ
DU MESSAGE.
09 // WATERMARKING
Un autre mécanisme
consiste à intégrer
un signal
dans le contenu
ou sa génération.
GÉNÉRATION
↓
MARQUE
↓
DÉTECTION POSSIBLE
Mais les techniques
de watermarking
ont leurs propres limites.
Elles ne doivent pas
être confondues
avec une méthode universelle
de détection.
10 // DÉTECTION
Déterminer automatiquement
si un contenu
a été généré par IA
est un problème distinct.
CONTENU
↓
DÉTECTEUR
↓
PROBABILITÉ / CLASSIFICATION
DÉTECTEUR
≠
ORACLE
Une classification
doit être interprétée
avec son taux d'erreur,
son contexte
et ses limites.
11 // CONTENU HYBRIDE
La frontière
humain / machine
peut être floue.
HUMAIN
↓
BROUILLON
IA
↓
RÉÉCRITURE
HUMAIN
↓
ÉDITION
IA
↓
TRADUCTION
HUMAIN
↓
PUBLICATION
Comment classer
le résultat final ?
ORIGINE
PEUT ÊTRE
UNE CHAÎNE,
PAS UNE ÉTIQUETTE UNIQUE.
12 // SYNTHÈSE DE SOURCES
Un système
peut produire
un récit
à partir
de plusieurs sources.
SOURCE A ─┐
SOURCE B ─┤
SOURCE C ─┼→ MODÈLE → TEXTE
SOURCE D ─┤
SOURCE E ─┘
Le texte final
peut alors masquer
la provenance
de chaque affirmation.
13 // CITATION ET PROVENANCE
Pour une enquête,
chaque affirmation importante
devrait idéalement
rester reliée
à sa source.
CLAIM 001
→ SOURCE A
CLAIM 002
→ SOURCE B
CLAIM 003
→ SOURCE C
UNE LISTE DE SOURCES
À LA FIN
NE SUFFIT PAS TOUJOURS
SI L'ON NE SAIT PAS
QUELLE SOURCE
SOUTIENT QUELLE AFFIRMATION.
14 // HALLUCINATION
Un système génératif
peut produire
une information
qui semble plausible
mais qui n'est pas
correctement soutenue.
FORMULATION FLUIDE
≠
PREUVE
ASSURANCE DU TEXTE
≠
FIABILITÉ
La vérification
reste nécessaire.
15 // RÉPÉTITION SYNTHÉTIQUE
L'automatisation
peut multiplier
les expositions
à un même noyau narratif.
NARRATIF X
↓
100 VARIANTES
↓
100 COMPTES
↓
1000 REPRISES
Cela peut alimenter
les mécanismes décrits
dans :
REPETITION_EFFECTS
NOMBRE DE VARIANTES
≠
NOMBRE DE SOURCES
INDÉPENDANTES.
16 // FAUSSE INDÉPENDANCE
Un réseau
de contenus différents
peut donner
l'impression
de nombreuses confirmations
indépendantes.
TEXTE A ─┐
TEXTE B ─┤
TEXTE C ─┼→ MÊME SOURCE INITIALE
TEXTE D ─┤
TEXTE E ─┘
La provenance
permet de tester
cette indépendance.
17 // AGENDA SYNTHÉTIQUE
La production massive
peut également
modifier
la visibilité relative
des sujets.
100 CONTENUS SUR X
VS
2 CONTENUS SUR Y
Le volume
peut influencer
l'environnement
informationnel.
VOLUME
≠
IMPORTANCE
VOLUME
≠
CONSENSUS
18 // FEEDBACK LOOP SYNTHÉTIQUE
GÉNÉRATION
↓
PUBLICATION
↓
ENGAGEMENT
↓
SIGNAL
↓
NOUVELLE GÉNÉRATION
↓
PUBLICATION
↓
...
Le contenu généré
peut ainsi
entrer dans
une boucle
avec les réactions
qu'il provoque.
19 // IA QUI CONSOMME DE L'IA
Les contenus synthétiques
peuvent être
lus,
résumés,
indexés
ou transformés
par d'autres systèmes.
IA A
↓
CONTENU
↓
IA B
↓
RÉSUMÉ
↓
IA C
↓
NOUVEAU CONTENU
LA PROVENANCE
PEUT DEVENIR
DE PLUS EN PLUS DIFFICILE
À RECONSTRUIRE.
20 // CONTAMINATION DE CORPUS
Un contenu synthétique
peut rejoindre
un corpus
ou une base
utilisée ultérieurement.
GÉNÉRATION
↓
WEB
↓
ARCHIVE
↓
CORPUS
↓
NOUVEAU SYSTÈME
Cela crée
une question
de récursion documentaire.
SORTIE
PEUT DEVENIR
ENTRÉE.
21 // RECURSION DOCUMENTAIRE
Un système
peut produire
une affirmation.
Cette affirmation
peut être publiée,
puis retrouvée
plus tard
comme source apparente.
MODÈLE
↓
AFFIRMATION X
↓
SITE
↓
INDEXATION
↓
NOUVELLE RECHERCHE
↓
« SOURCE » X
PUBLICATION
NE TRANSFORME PAS
UNE AFFIRMATION
EN SOURCE INDÉPENDANTE.
22 // CITATION CIRCULAIRE
SITE A CITE B
B REPREND C
C REPREND A
Une boucle
peut donner
une apparence
de corroboration.
TROIS PAGES
PEUVENT ÊTRE
UNE SEULE AFFIRMATION
QUI TOURNE EN ROND.
23 // PERSONNALISATION
La génération automatisée
permet de produire
des versions
adaptées
à différents contextes.
MÊME MESSAGE
→ PUBLIC A
→ PUBLIC B
→ PUBLIC C
→ LANGUE D
→ STYLE E
Cela augmente
la capacité
de variation.
Mais :
PERSONNALISATION
≠
MANIPULATION
PAR DÉFINITION.
24 // INTENTION
Un contenu synthétique
peut être créé
pour :
INFORMER
RÉSUMER
TRADUIRE
DIVERTIR
ENSEIGNER
SIMULER
SATIRISER
PERSUADER
TROMPER
La technique utilisée
ne révèle pas
à elle seule
l'intention.
25 // DEEPFAKES
Un média synthétique
peut imiter
l'apparence
ou la voix
d'une personne.
IMAGE
VIDÉO
AUDIO
TEXTE
Lorsque le contenu
prétend documenter
un événement réel,
la vérification
de provenance
devient particulièrement importante.
RÉALISME
≠
AUTHENTICITÉ.
26 // MAIS LE MONTAGE EXISTAIT DÉJÀ
La manipulation
de textes,
images,
sons
et vidéos
n'est pas née
avec l'IA générative.
RETouche
MONTAGE
DOUBLAGE
FAUX DOCUMENT
PHOTOMONTAGE
CITATION TRONQUÉE
L'IA modifie
notamment
l'accessibilité,
la vitesse
et l'échelle
de certaines opérations.
27 // PANIC LOOP
Un autre risque
serait de considérer
tout contenu étrange
comme synthétique.
CONTENU ÉTRANGE
↓
« C'EST DE L'IA »
↓
RÉPÉTITION
↓
CERTITUDE COLLECTIVE
SUSPICION
≠
ATTRIBUTION.
L'accusation
de fabrication
doit elle-même
être vérifiée.
28 // LIAR'S DIVIDEND
L'existence
de contenus synthétiques crédibles
peut aussi offrir
une nouvelle stratégie :
CONTENU AUTHENTIQUE
↓
ACCUSATION :
« C'EST UN FAUX »
La possibilité
du faux
peut donc parfois
être utilisée
pour contester
un contenu authentique.
EXISTENCE DES DEEPFAKES
≠
PREUVE QUE CE MÉDIA
EST UN DEEPFAKE.
29 // SYNTHÉTIQUE ET AUTHENTIQUE PEUVENT COEXISTER
ÉVÉNEMENT RÉEL
+
IMAGE SYNTHÉTIQUE
+
ARTICLE EXACT
+
COMMENTAIRE FAUX
+
VIDÉO AUTHENTIQUE
+
RÉSUMÉ IA
Un même environnement narratif
peut contenir
plusieurs niveaux
d'authenticité.
30 // SOURCE PRIMAIRE
Lorsque c'est possible,
le dossier
doit revenir
au matériau
le plus proche
de l'événement étudié.
POST SUR UN RAPPORT
↓
ARTICLE SUR LE RAPPORT
↓
RÉSUMÉ DU RAPPORT
↓
RAPPORT ORIGINAL
REMONTER LA CHAÎNE.
31 // CHAÎNE DE TRANSFORMATION
Pour chaque contenu,
on peut conserver :
ORIGINAL
↓
TRANSFORMATION 1
↓
TRANSFORMATION 2
↓
PUBLICATION
↓
REPRISE
↓
ARCHIVE
Cette chronologie
permet d'éviter
de traiter
chaque version
comme une source indépendante.
32 // SYNTHETIC NARRATIVES ET FRAMING
PROMPT / INSTRUCTION
↓
SÉLECTION
↓
FORMULATION
↓
FRAME
Une génération
peut incorporer
un cadrage
sans contenir
de fausse affirmation explicite.
SYNTHÈSE
N'ABOLIT PAS
LE FRAMING.
33 // SYNTHETIC NARRATIVES ET MEMORY
Des contenus générés
peuvent rejoindre
l'environnement
dans lequel
les souvenirs
sont reconstruits.
SOUVENIR
+
IMAGE SYNTHÉTIQUE
+
RÉCIT
+
RÉPÉTITION
↓
NOUVEAU CONTEXTE
DE RAPPEL
Cela ne signifie pas
que le souvenir
sera nécessairement modifié.
34 // SYNTHETIC NARRATIVES ET AGENDA
PRODUCTION AUTOMATISÉE
↓
VOLUME
↓
VISIBILITÉ POSSIBLE
↓
AGENDA
Mais le volume seul
ne garantit pas
l'exposition :
DISTRIBUTION
CLASSEMENT
PUBLIC
PLATEFORME
ENGAGEMENT
restent déterminants.
35 // SYNTHETIC NARRATIVES ET FEEDBACK
GÉNÉRATION
↓
RÉACTION HUMAINE
↓
SIGNAL
↓
NOUVELLE GÉNÉRATION
↓
NOUVELLE RÉACTION
Le récit synthétique
peut devenir
un composant
d'un système hybride
humain-machine.
36 // PAS DE FRONTIÈRE SIMPLE
HUMAIN
↕
OUTIL
↕
MODÈLE
↕
PLATEFORME
↕
ALGORITHME
↕
HUMAIN
Attribuer
un récit complexe
à « l'IA »
peut donc être
aussi réducteur
que l'attribuer
à « l'humain ».
IL FAUT CARTOGRAPHIER
LA CHAÎNE.
37 // MÉTHODE WESHSOCIETY
Pour chaque contenu
potentiellement synthétique :
CONTENT_ID
DATE
URL / ARCHIVE
TYPE DE MÉDIA
AUTEUR DÉCLARÉ
OUTIL DÉCLARÉ
ORIGINE CONNUE
PROVENANCE
CONTENT CREDENTIALS
MÉTADONNÉES
TRANSFORMATIONS
SOURCE PRIMAIRE
AFFIRMATIONS FACTUELLES
CORROBORATIONS
VARIANTES
REPRISES
INDÉPENDANCE DES SOURCES
DÉTECTION AUTOMATIQUE
SI DISPONIBLE
LIMITES DU DÉTECTEUR
INTENTION :
INCONNUE / DOCUMENTÉE / INFÉRÉE
NIVEAU DE CONFIANCE
38 // NIVEAUX D'ATTRIBUTION
NIVEAU 0
ORIGINE INCONNUE
NIVEAU 1
INDICES DE GÉNÉRATION
NIVEAU 2
OUTIL / AUTEUR DÉCLARÉ
NIVEAU 3
PROVENANCE TECHNIQUE DISPONIBLE
NIVEAU 4
CHAÎNE DOCUMENTÉE ET CORROBORÉE
Un niveau élevé
de provenance
n'indique toujours pas
la vérité
de chaque affirmation.
39 // CE QUE LE DOSSIER PEUT DIRE
L'IA PEUT PRODUIRE
DU CONTENU À GRANDE ÉCHELLE
→ OUI
UN MÊME RÉCIT PEUT ÊTRE
DÉCLINÉ EN NOMBREUSES VARIANTES
→ OUI
LA PROVENANCE EST
UN OBJET IMPORTANT D'ENQUÊTE
→ OUI
CONTENU SYNTHÉTIQUE = FAUX
→ NON
CONTENU HUMAIN = VRAI
→ NON
ABSENCE DE MÉTADONNÉES = IA
→ NON
DÉTECTEUR IA = PREUVE ABSOLUE
→ NON
SIMILITUDE = SOURCE COMMUNE
→ NON
AUTOMATISATION = COORDINATION
→ NON
VOLUME = CONSENSUS
→ NON
40 // QUESTION OUVERTE
Quand humains,
modèles,
algorithmes,
archives
et plateformes
réutilisent continuellement
les productions
les uns des autres,
à quel moment
un récit possède-t-il encore
une origine unique ?
Et comment préserver
sa provenance
quand chaque sortie
peut devenir
l'entrée suivante ?
41 // FERMETURE DE NARRATIVE_CONTROL
FRAMING
↓
COMMENT LE RÉCIT
EST FORMULÉ
REPETITION_EFFECTS
↓
COMMENT IL DEVIENT
FAMILIER
MEMORY_RECONSTRUCTION
↓
COMMENT IL EST
RECONSTRUIT
AGENDA_SELECTION
↓
COMMENT IL DEVIENT
VISIBLE
NARRATIVE_FEEDBACK_LOOPS
↓
COMMENT IL PEUT
S'AUTO-RENFORCER
SYNTHETIC_NARRATIVES
↓
COMMENT SA PRODUCTION,
SA VARIATION
ET SA CIRCULATION
PEUVENT ÊTRE AUTOMATISÉES
LE RÉCIT
N'EST PAS
UNE PREUVE.
SA RÉPÉTITION
N'EST PAS
UNE PREUVE.
SA VISIBILITÉ
N'EST PAS
UNE PREUVE.
SON ORIGINE HUMAINE
N'EST PAS
UNE PREUVE.
SON ORIGINE SYNTHÉTIQUE
N'EST PAS
UNE RÉFUTATION.
REVENIR AUX SOURCES.
RECONSTRUIRE LA PROVENANCE.
CONSERVER LA CHRONOLOGIE.
STATUT FINAL:
PRODUCTION SYNTHÉTIQUE ET MÉCANISMES DE PROVENANCE DOCUMENTABLES —
VÉRACITÉ, INDÉPENDANCE, COORDINATION ET INTENTION À ÉTABLIR
← NARRATIVE_CONTROL
↑ CONSCIOUSNESS_EXTRACTION.EXE
WeshSociety // Bureau 42 // dossier vivant