39 results tagged Societal Collapse

Jonathan Haidt Talks His New Book ‘The Anxious Generation’https://www.noemamag.com/social-media-messed-up-our-kids-now-it-is-making-us-ungovernable/

Social Media Messed Up Our Kids. Now It Is Making Us Ungovernable.

Jonathan Haidt talks to Noema about “The Anxious Generation” and how technology is upending democracy.

Interview Digital Society June 13, 2024

In a conversation with Noema editor-in-chief Nathan Gardels, the social psychologist Jonathan Haidt discusses the impact of social media on truth in politics, the mental health crisis of today’s youth, and what to do about it.

Nathan Gardels: For those who haven’t read your book, “The Anxious Generation,” can you summarize the main thesis?

Jonathan Haidt: It all begins with a mystery: Why is it that mental health statistics for American teenagers were pretty flat, with no sign of any problem, from the late ’90s through 2010 to 2011? That is true whether we look at depression, anxiety or self-harm. And then, all of a sudden, in 2012, it’s as though someone flipped a switch, and the girls began getting much more anxious, depressed and self-harming. It was true of boys too, but it’s not been so sudden. It was more gradual in the early 2010s.

We first discovered this on college campuses because the students who entered universities from 2014 to 2015 were very different from our stereotype of college students who want to have fun, who want to drink and party.

The students arriving in 2014 to 15 were much more anxious. And they were especially triggered by words or jokes, speakers or books. It was that observation that led Greg Lukianoff to propose the hypothesis that college is doing something to kids to make them think in this distorted way. That was the basis of our book “The Coddling of the American Mind.”

But now it’s becoming clearer that what we saw and wrote about in that book wasn’t just happening to college students, but actually to all teenagers born after 1995. And it was not only observable in the U.S., Britain and Canada but a lot of other countries as well. What happened? Why was it so sudden? So that’s the mystery.

Was it some chemical dropped in the water supply all over North America and Northern Europe, along with the South Pacific? Or was it the massive change in the technological environment of childhood in all these countries simultaneously? This seemed the obvious hypothesis.

So, the first chapter of “The Anxious Generation” discusses what actually happened to teen mental health. And then the rest of the book seeks to unravel the mystery. It’s not just about “social media is destroying everybody.” It’s a more subtle and interesting story about the transformation of childhood — a tragedy that occurred in three acts.

Act I, which I only hinted at in the book, was the loss of community. So, if you look at America, especially in the years just after World War II, social capital was very high. The best way to make people trust each other is to have someone attack them from the outside — come together, fight a war and win. Social capital was very high in the U.S. in the 1940s and 1950s, and then it begins to drop over succeeding decades for many reasons.

Robert Putnam talked about this in “Bowling Alone.” You have smaller family sizes; people retreat inside because now they have air conditioning and TV and they’re not out in the front yard socializing as much. So, for a lot of reasons, we begin to lose trust in each other. We begin to lose social capital. That’s Act I of the tragedy.

Because of that, Act II happens, which is when we take away play-based childhood. Children used to always play together. It didn’t matter if it was raining or snowing, if there was a crime wave or drunk drivers, kids went out to play. Like all mammals, we evolved to play, in order to wire up our relatively large brains.

But in the ’90s, we decided it was too dangerous for kids to be out and about. They’ll get kidnapped or sexually abused, we thought, because we no longer trusted our neighbors. So, we locked our kids up out of fear of each other. In other words, over protection. This is the coddling part.

Then, after losing strong communities and play-based childhoods, we’re ready for the third act in the tragedy: the massive, sudden transformation of childhood between 2010 and 2015 into a phone-based childhood.

In 2010, the vast majority of teens across the developed world had cell phones. But they were flip phones or basic phones, with no internet browser. All you could do with them is text and call. That was pretty much it aside from some games. It wasn’t for constant communication. And that’s good. Kids could text their friends and say, “Let’s meet up at 3 p.m.” It was a simple tool. There was very little high-speed internet then and no front-facing camera. There was Facebook, but no Instagram. That’s the way things were in 2010.

“All of a sudden, in 2012, it’s as though someone flipped a switch, and the girls began getting much more anxious, depressed and self-harming.”

In 2010, kids in the U.S. and other Anglo countries still had a recognizably human childhood. They would meet up in person, even if they now had less freedom to roam. By 2015, that all changed when about 80% of those kids had a smartphone with a front-facing camera and a bunch of social media apps. So now we have the selfie culture. Almost everyone now has high-speed internet and now everyone can display video.

In short, by 2015 we have what I call “the great rewiring of childhood.” And that’s why in 2012, which is the year, incidentally, that Facebook bought Instagram, when online life changed, especially for girls, who flocked onto Instagram. And it was right after that when we first noticed the widespread upsurge in anxiety, depression and self-harm.

Gardels: The main criticism of your thesis is that you are mistaking correlation for cause and being too technologically determinist. How do you respond to that?

Haidt: First of all, my story is not just about technology, it is sociological. It’s a cultural psychology story. It’s about the change of childhood and human development.

To those who argue these changes could have been caused by any number of factors, I say a couple of things. First, whatever other factor you might think was more determinative, did that happen in New Zealand and Iceland and Australia all at the same time? No one can identify such a factor. Nobody has proposed an alternative theory that works internationally.

Second, it is true that the data is mostly correlational. If you have 300 correlational studies and 25 experimental studies, I would say the data is mostly correlational. The scientific debate has been focused on a very, very narrow question: Do the hours spent on social media tell you anything about the level of mental illness, especially depression and anxiety? There’s a clear correlation in these studies.

But we also have experimental studies, which I cite in the book. I go into great detail about the difference between correlation and causation. Every week, every month, we have more experiments indicating the causality of anxiety-inducing technology.

There are so many causal pathways by which a phone-based childhood harms different kids in different ways. Let me just take the example of sextortion, a very common crime online. There are international sextortion gangs that display avatars of beautiful, sexy young women. An avatar flirts with a boy that she finds, usually on Instagram. And then she convinces him to swap nude images. Boom. Then the sextortionist reveals himself, not as a sexy girl but as a man who now has all the content he needs to ruin you: “I’m going to show this picture of you and your penis to everyone, because I have all your contacts, unless you pay me $500 in two hours.”

The boys panic, and some of them have killed themselves because of the shame. The FBI has identified 20 suicides that were direct results of sextortion, which means there are probably hundreds of cases they didn’t catch, and far more kids who were traumatized by the experience and the shame. Now, is that just a correlation? Would these boys have killed themselves anyway, even if they had not been sextorted? I don’t think so.

Gardels: What are the specific remedies you propose for parents to protect their kids?

Haidt: The key to the whole book is understanding collective action problems, which are sometimes referred to as “the tragedy of the commons,” where each person acting in their own interest ends up bringing about an outcome that’s bad for everyone. If you’re the only one who doesn’t put your sheep out to graze, if you’re the only one who doesn’t fish in the pond, you suffer while everyone else continues to do what they’re doing.

One of the main reasons that we all are giving our kids phones now at age nine or 10 — it gets younger all the time — is because the kid comes home from school and says, “Mom, everyone else has an iPhone, I have to have an iPhone, or I’ll be left out.”

This is a collective action problem because any parent who does the right thing and says, “No, you’re not going to get one until you’re mostly done with puberty,” is imposing a cost on their child. All over the developed world now, family life has devolved into a struggle over screen time and phones. This is terrible. So, the trick is to realize we’re in this problem because everybody else is in this problem.

“All over the developed world now, family life has devolved into a struggle over screen time and phones.”

We’re so deep into this that it is very hard for any family to get out of it by themselves. Some parents are tough and just say “no,” but the status environment doesn’t change for the kids.

What I’m trying to do with the book is to say, if we team up with a few other families, if a small group of parents can get the whole school or school district to say “no,” then they escape and we can change the situation very, very quickly.

What we need is the adoption of four norms that can break the back of the collective action problem.

One: No smartphone before high school. Just keep it out of middle school. Let the kids at least get through early puberty, which is the most sensitive period. You can give them a flip phone if you absolutely need to text. I understand the need to coordinate.

Two: No social media before the age of 16. Social media is entirely inappropriate for children, it cannot be made appropriate because what you’re basically doing is saying, “How about we let the entire world get in touch with you? Let’s let all the companies try to sell things to you, let men all over the world who want to have sex with you contact you, and try to trick you into sending photos.” There’s no way to make this safe. So just recognize that social media is a tool for adults. Eleven-year-olds don’t need to network with strangers.

Third: Schools need to be phone-free. Imagine that when I was a kid growing up in the ’70s, if we had been allowed to bring in our television sets and our radios along with all sorts of toys and games and put them on our desk and use them during class. That’s what teachers are facing today. Disgusted and frustrated that they can’t get through to students, teachers are quitting.

Also, global test scores have been dropping, since 2012. This did not begin with Covid. It began around 2012. The result is a massive destruction of human capital. So, it’s just kind of obvious. You can’t have kids have the greatest distraction device ever invented in their pockets while they’re in class. All kids must check their phones during the day. If others are texting, they have to be texting back. So, just lock up the phone in the morning to give it back at the end of the day.

Four: We need to restore a play-based childhood. Kids need more independence, free play and responsibility in the real world. If you’re going to roll back the phone and don’t restore play, a child can have no childhood. So, roll it back and instead, give them adventure and fun with other kids.

Us parents need to overcome our own fears and let our children learn how to play with each other. Kids playing in groups are very safe. That’s how they learn to get along. That’s how they’re going to resolve disputes in life.

If we do these four things I’m pretty confident that rates of mental illness will come down within two years. Experience so far shows that phone-free schools get great results within a month. In various childhood independence projects, you get results within a month. If any community does all four of these, I believe they’re going to see pretty big drops in depression, anxiety, self-harm and other problems in short order.

Gardels: Do you worry that more prosperous parents with the means and time to be attentive to their kids will follow your advice, while the less well-off, busy working two jobs with less time for their kids, won’t? That this will just create a greater gap in society?

Haidt: Yes, I do expect that it will begin this way, with the most educated and wealthy families. But I think it will spread quickly as parents begin to see and hear about the benefits. Also, I should note that the most educated families apply the most limits, whereas children in low socioeconomic status, single-parent, or Black or Hispanic families have one- to two- hours more screen time per day, so going phone-free will disproportionately help them.

Gardels: Implicit in your remarks is you don’t have any faith in the Instagrams or TikToks of the world to be able to regulate themselves so they do less harm?

“What we need is the adoption of four norms that can break the back of the collective action problem.”

Haidt: Right now, as long as you’re old enough to lie about your age, you can go to Pornhub. You can open 20 Instagram accounts, you can open TikTok accounts. The law says you have to be 13 to sign a contract with a company to give away your data without your parents’ knowledge. But the law is written in such a way that there’s no responsibility for the companies if they don’t know your real age. As long as they don’t know your real age, they can’t be held liable for serving you eating disorder content or sex and violence.

We’re talking about five to 10 companies here that own our children’s childhood. They have a lot more influence over our kids than we do in some ways. And they have no responsibility. They are literally protected from lawsuits by Section 230 of the Communications Decency Act, which shields them from liability for the content on their platforms.

This is a completely insane situation. And they’re making huge amounts of money. So no, I don’t expect them to do anything until they’re forced by legislation, or by enormous losses in court.

Gardels: Your book has obviously hit a chord with parents and with school authorities. Do you have any sense of how the TikTok crowd or kids themselves see it?

Haidt: When you survey kids who’ve been through this, it’s really hard to find members of Gen Z who are opposed to what I’m saying. In fact, I actually haven’t found any. They almost always say, “Yeah, you know, you’re right. This really messed us up. But, you know, what are you going to do? This is just the way things are, and I can’t quit because everyone else is on.” There’s just an extraordinary sense of fatalism. We don’t find any young people organizing to protect their rights to have these things. The older kids generally say, if we could get everyone off, we should do that.

Gardels: The Chinese cyberspace authorities have no qualms about imposing limits on social media. Here are the rules:

Children under 8: Can only use smart devices for 40 minutes per day and can only consume content about “elementary education, hobbies and interests, and liberal arts education”
Children aged 8 to 15: Can use their phone for no more than one hour per day
Children aged 16 to 17: Can use a handset for a maximum of two hours per day
Minor mode: Requires mobile devices, apps and app stores to have a built-in mode that would bar users under 18 from accessing the internet on mobile devices from 10 p.m. to 6 a.m.

Perhaps they will produce more mentally healthy kids?

Haidt: China is engaged in a battle with the United States for cultural and economic supremacy. Since our young people are giving away all of their available attention, there’s a good chance that they will be less creative and less productive. They don’t have any spare attention to actually do anything. I imagine that makes the Chinese government happy.

The worst single product for American children is TikTok. It sucks up more of their time, energy and attention than any other product. And it harms them. It doesn’t do anything good for them. TikTok has more influence over our kids than any other organization on the planet. So, there are many reasons to think that that is a danger not only to our kids, but to our country.

It seems the Chinese are doing the right thing by using their authoritarian system to reduce the damage to their own children.

Of course, authoritarian solutions are not right for us, but we can do similar things through democratic solutions, through community and civil society. One thing Tocqueville praised Americans about is that when something needs doing, say the townspeople need to build a bridge, they just do it. They don’t wait for the state like in France. They don’t wait for the King like in Britain. Americans come together as citizens, elect a leader, raise money and then they do it.

So, I’m hopeful that my book presents norms that we adopt ourselves, even if we never get any help from Congress or lawmakers. Doing it ourselves — in groups of parents organized around schools — is a very American solution to what I think is one of the largest problems facing America today.

“TikTok has more influence over our kids than any other organization on the planet.”

Gardels: To go back to the coddled generation argument. What do you make of all these kids in college today putting up barricades, occupying administration buildings protesting the war in Gaza?

Haidt: Most of the activism of the college kids has moved online. That tends to be very ineffective and creates a culture that is bad for activists. I put some research in the book showing that before 2010, being politically active was actually associated with better mental health. You were engaged, you were part of a group, you were energized. After 2010, activists, especially progressive activists, are the least happy people in the country. They are marinating in beliefs about oppressor versus victim and embracing the untruths of the coddled. That was certainly true until very recently.

Now it’s true these protests are in person. That’s at least better psychologically for them. They are physically present and interacting with others on campus.

Even so, I think there are signs that it’s different from previous generations. One is that the present protestors are expecting accommodation, often seeking not to be punished for missing classes and for delayed exams. In other words, they are expecting a low cost to themselves. In previous periods of activism, civil disobedience meant if you break the law, then you pay the consequences to show how committed you are to the cause.

To be sure, today’s actions are communal, which is always very exciting. It’s not as though Gen Z is incapable of acting in person; though, I would point out, it’s overwhelmingly at the elite schools that this is happening.

Gardels: One of the reasons that we have such a paralyzed and polarized society is that the public square has virtually disappeared. Until social media turbocharged fragmentation, there was a common space where competing ideas could be contested in the full gaze of the body politic.

As the philosopher Byung-Chul Han has observed, the peer-to-peer connectivity of social media redirects the flow of communication. Information is spread without forming a public sphere. It is produced in private spaces and distributed to private spaces. The web does not create a public.

The possibility of arriving at a governing consensus through negotiation and compromise is being shattered by a cacophony of niche propagandists egging on their own siloed tribe of the faithful to engage in an endless partisan battle. Indeed, Rene DiResta at Stanford calls the niche ideologues “the new media goliaths” who have supplanted mainstream platforms in terms of influence.

In short, the digital media ecosystem is disempowering the public sphere.

In this sense, social media is not only messing up our kids but undermining the basis of democratic discourse.

Do you agree with that?

Haidt: Absolutely. In an article for the Atlantic in 2019, I made the case, basically along the lines of Han, that massive changes in information flows and the way we connect people change the fundamental ground within which our democratic institutions are operating. And it’s quite possible that we are now so far outside the operating range of these institutions that they will fail.

I’m extremely alarmed about the future of this country. If you read Federalist #10, the Founding Fathers, who were excellent social psychologists, were very afraid of the passions of the people. They didn’t want us to have a direct democracy. They wanted cooling mechanisms of deliberation through reason. The system of governance they devised, with its checks and balances, is really like a complicated clock that they thought could last a very long time precisely because it was realistic about human frailties. And they were right.

Then all of a sudden in the later post-war era — first with television, then the internet and, especially, now peer-to-peer media, it is all going awry. With television, at least there were editors. Jonathan Rauch wrote an amazing book called “The Constitution of Knowledge,” both about the Constitution and how knowledge is constituted.

He discussed how we make knowledge in universities and science and medicine. But he also discussed the U.S. Constitution and how the community of knowledge makers are governed by certain rules and checks and balances. We developed editors, filters and other mechanisms to vet truth.

All that’s going away now. Or at least the institutions are so weakened as to be feeble. I’m very alarmed. And, at the same time, what’s replacing them are the sorts of peer-to-peer networks that you’re talking about.

“Until social media turbocharged fragmentation, there was a common space where competing ideas could be contested in the full gaze of the body politic.”

In the history of humanity, when you connect people, there could be disruptions. But in the long run, that’s good. It increases the flow of knowledge and increases creativity. You get more value when you connect people. So, the telephone was great, the postal system was great.

Social media is not like those earlier innovations. I think the best metaphor here is to imagine a public square in which people talk to each other. They debate ideas or put forth ideas that may not always be brilliant. They may not always be civil, but people can speak while others listen. Sometimes people are moved by persuasion or dissuasion.

I think the Founding Fathers assumed that’s about the best we can hope for. Imagine one day, and I’ll call it 2009, that all changes. There’s no more public square. Everything takes place in the center of the Roman Colosseum. The stands are full of people who are there to see blood. That’s what they came for. They don’t want to see the lion and the Christian making nice; they want the one to kill the other. That’s what Twitter is often like.

It all becomes performative and comes at a superfast pace. Just as television changed the way we are and made us into passive consumers, the central act in social media is posting, judging, criticizing and joining mobs. Donald Trump is the quintessential person who thrives in that environment. If not for Twitter, Trump never could have been president. So, when our politics moved into the Roman Colosseum, I think the Founding Fathers would have said, “Let’s just give up. There’s no way we can build a democracy in this environment.”

Gardels: Just as republics have historically created institutional checks and balances when too much power is concentrated in one place, so too don’t we need to foster checks and balances for an age when power is so distributed that the public sphere is disempowered?

What I have in mind are the citizens’ assemblies indicative of the public as a whole, which deliberate issues in a non-partisan environment and, outside the electoral sphere where partisans vie for power by any means necessary, are able to come to a consensus through pragmatic, common sense solutions?

Haidt: It’s possible to create these small artificial communities where you lock citizens away together for a week and have them discuss something. They work pretty well from what I know, and they come up with solutions. But it’s not clear to me how you could use that to run a country. The way people feel about let’s say, Donald Trump, has very little to do with some ascertainment of fact.

If you use the word power, then I’m a little bit confused. But I think I see what you’re getting at. If we change the word to authority, it is clearer to me. When I wrote “The Righteous Mind,” I was on the left then and really tried to understand conservatives. Reading conservative writings, especially Edmund Burke and Thomas Sowell, was really clarifying on the idea that we need institutions. We need religion, we need gods, even if it is not true. We need moral order and constraint.

The progressive impulse is to tear things down and make things new. The conservative impulse is to protect authority structures because we need them. Without them, we have chaos. Of course, there are times to tear things down. But I think during the 2010s everything has been torn down, to some extent. This is a time we need to build.

I am very concerned that there is no longer any source of authority. There is no trusted authority, there is no way to find consensus on truth. It seems that the truth-seeking mechanisms, including the courts, came up with the answer that the last presidential election in the U.S. was not stolen. But there’s no real way to spread that around to the large portion of society that believes that it was.

With AI coming in, the problem of the loss of authority is going to be magnified tenfold or even a hundredfold when anyone can create a video of anyone saying anything in that person’s voice. It’s going to be almost impossible to know what’s true. We’re in for a wild ride if we’re going to try to run a democratic republic with no real authority. My fear is that we will simply become ungovernable. I hope not, I hope we find a way to adapt to living in our world after the fall of the tower of Babel, the fall of common understandings and common language.

This interview was edited for brevity and clarity.

Twitter is becoming a 'ghost town' of bots as AI-generated spam content floods the internet - ABC Newshttps://www.abc.net.au/news/science/2024-02-28/twitter-x-fighting-bot-problem-as-ai-spam-floods-the-internet/103498070

Twitter is becoming a 'ghost town' of bots as AI-generated spam content floods the internet

ABC Science / By technology reporter James Purtill

Parts of the web are now dominated by bots and junk websites designed to go unread by humans.

One morning in January this year, marine scientist Terry Hughes opened X (formerly Twitter) and searched for tweets about the Great Barrier Reef.

"I keep an eye on what's being tweeted about the reef every day," Professor Hughes, a leading coral researcher at James Cook University, said.

What he found that day surprised and confused him; hundreds of bot accounts tweeting the same strange message with slightly different wording.

"Wow, I had no idea that agricultural runoff could have such a devastating impact on the Great Barrier Reef," one account, which otherwise spruiked cryptocurrencies, tweeted.

Another crypto bot wrote: "Wow, it's disheartening to hear about the water pollution challenges Australia faces."

And so on. Hundreds of crypto accounts tweeting about agricultural runoff.

A month later, it happened again. This time, bots were tweeting about "marine debris" threatening the Great Barrier Reef.

What was going on?

When Professor Hughes tweeted what he'd found, some saw a disinformation conspiracy, an attempt to deflect attention from climate change.

The likely answer, however, is more mundane, but also more far-reaching in its implications.

More than a year since Elon Musk bought X with promises to get rid of the bots, the problem is worse than ever, experts say.

And this is one example of a broader problem affecting online spaces.

The internet is filling up with "zombie content" designed to game algorithms and scam humans.

It's becoming a place where bots talk to bots, and search engines crawl a lonely expanse of pages written by artificial intelligence (AI).

Junk websites clog up Google search results. Amazon is awash with nonsense e-books. YouTube has a spam problem.

And this is just a trickle in advance of what's been called the "great AI flood".

Bots liking bots, talking to other bots

But first, let's get back to those reef-tweetin' bots.

Timothy Graham, an expert on X bot networks at the Queensland University of Technology, ran the tweets through a series of bot and AI detectors.

Dr Graham found 100 per cent of the text was AI-generated.

"Overall, it appears to be a crypto bot network using AI to generate its content," he said.

"I suspect that at this stage it's just trying to recruit followers and write content that will age the fake accounts long enough to sell them or use them for another purpose."

That is, the bots probably weren't being directed to tweet about the reef in order to sway public opinion.

Dr Graham suspects these particular bots probably have no human oversight, but are carrying out automated routines intended to out-fox the bot-detection algorithms.

Searching for meaning in their babble was often pointless, he said.

"[Professor Hughes] is trying to interpret it and is quite right to try and make sense of it, but it just chews up attention, and the more engagement they get, the more they are rewarded.

The cacophony of bot-talk degrades the quality of online conversations. They interrupt the humans and waste their time.

"Here's someone who is the foremost research scientist in this space, spending their time trying to work out the modus operandi of these accounts."

In this case, the bots were replying to the tweet of another bot, which, in turn, replied to the tweets of other bots, and so on.

One fake bot account was stacked on top of the other, Dr Graham said.

"It's AI bots all the way down."

How bad is X's bot problem?

In January, a ChatGPT glitch appeared to shine a light on X's bot problem.

For a brief time, some X accounts posted ChatGPT's generic response to requests that it deems outside of its content policy, exposing them as bots that use ChatGPT to generate content.

Users posted videos showing scrolling feeds with numerous accounts stating "I'm sorry, but I cannot provide a response to your request as it goes against OpenAl's content policy."

"Twitter is a ghost town," one user wrote.

But the true scale of X's bot problem is difficult for outsiders to estimate.

Shortly after Mr Musk gained control of X while complaining about bots, X shut down free access to the programming interface that allowed researchers to study this problem.

That left researchers with two options: pay X for access to its data or find another way to peek inside.

Towards the end of last year, Dr Graham and his colleagues at QUT paid X $7,800 from a grant fund to analyse 1 million tweets surrounding the first Republican primary debate.

They found the bot problem was worse than ever, Dr Graham said at the time.

Later studies support this conclusion. Over three days in February, cybersecurity firm CHEQ tracked the proportion of bot traffic from X to its clients' websites.

It found three-quarters of traffic from X was fake, compared to less than 3 per cent of traffic from each of TikTok, Facebook and Instagram.

"Terry Hughes' experience is an example of what's going on on the platform," Dr Graham said.

"One in 10 likes are from a porn bot, anecdotally."

The rise of a bot-making industry

So what's the point of all these bots? What are they doing?

Crypto bots drive up demand for certain coins, porn bots get users to pay for porn websites, disinformation bots peddle fake news, astroturfing bots give the impression of public support, and so on.

Some bots exist purely to increase the follower counts and engagement statistics of paying customers.

A sign of the scale of X's bot problem is the thriving industry in bot-making.

Bot makers from around the world advertise their services on freelancer websites.

Awais Yousaf, a computer scientist in Pakistan, sells "ChatGPT Twitter bots" for $30 to $500, depending on their complexity.

In an interview with the ABC, the 27-year-old from Gujranwala said he could make a "fully fledged" bot that could "like comments on your behalf, make comments, reply to DMs, or even make engaging content according to your specification".

Mr Yousaf's career tracks the rise of the bot-making economy and successive cycles of internet hype.

Having graduated from university five years ago, he joined Pakistan's growing community of IT freelancers from "very poor backgrounds".

Many of the first customers wanted bots to promote cryptocurrencies, which were booming in popularity at the time.

"Then came the NFT thing," he said.

A few years ago he heard about OpenAI's GPT3 language model and took a three-month break to learn about AI.

"Now, almost 90 per cent of the bots I do currently are related to AI in one way or another.

"It can be as simple as people posting AI posts regarding fitness, regarding motivational ideas, or even cryptocurrency predictions."

In five years he's made 120 Twitter bots.

Asked about Mr Musk's promise to "defeat the spam bots," Mr Yousaf smiled.

"It's hard to remove Twitter bots from Twitter because Twitter is mostly bot."

AI-generated spam sites may overwhelm search engines

X's bot problem may be worse than other major platforms, but it's not alone.

A growing "deluge" of AI content is flooding platforms that were "never designed for a world where machines can talk with people convincingly", Dr Graham said.

"It's like you're running a farm and had never heard of a wolf before and then suddenly you have new predators on the scene.

"The platforms have no infrastructure in place. The gates are open."

The past few months have seen several examples of this.

Companies are using AI to rewrite other media outlet's stories, including the ABC's, to then publish them on the company's competing news websites.

A company called Byword claims it stole 3.6 million in "total traffic" from a competitor by copying their site and rewriting 1,800 articles using AI.

"Obituary pirates" are using AI to create YouTube videos of people summarising the obituaries of strangers, sometimes fabricating details about their deaths, in order to capture search traffic.

Authors are reporting what appear to be AI-generated imitations and summaries of their books on Amazon.

Google's search results are getting worse due to spam sites, according to a recent pre-print study by German researchers.

The researchers studies search results for thousands of product-review terms across Google, Bing and DuckDuckGo over the course of a year.

They found that higher-ranked pages tended to have lower text quality but were better designed to game the search ranking algorithm.

"Search engines seem to lose the cat-and-mouse game that is SEO spam," they wrote in the study.

Co-author Matti Wiegman from Bauhaus University, Weimar said this rankings war was likely to get much worse with the advent of AI-generated spam.

"What was previously low-quality content is now very difficult to distinguish from high-quality content," he said.

"As a result, it might become difficult to distinguish between authentic and trustworthy content that is useful and content that is not."

He added that the long-term effects of AI-generated content on search engines was difficult to judge.

AI-generated content could make search more useful, he said.

"One possible direction is that generated content will become better than the low-quality human-made content that dominates some genres in web search, in which case the search utility will increase."

Or the opposite will happen. AI-generated content will overwhelm "vulnerable spaces" such as search engines and "broadcasting-style" social media platforms like X.

In their place, people may turn to "walled gardens" and specialised forums with smaller numbers of human-only members.

Platforms prepare for coming flood

In response to this emerging problem, platforms are trialling different strategies.

Meta recently announced it was building tools to detect and label AI-generated images posted on its Facebook, Instagram and Threads services.

Amazon has limited authors to uploading a maximum of three books to its store each day, although authors say that hasn't solved the problem.

X is trialling a "Not a Bot" program in some countries where it charges new users $1 per year for basic features.

This program operates alongside X's verification system, where users pay $8 per month to have their identity checked and receive a blue tick.

But it appears the bot-makers have found a way around this.

All the reef-tweeting crypto bots Professor Hughes found were verified accounts.

"It's clutter on the platform that's not necessary. You'd wish they'd clean it up," the coral scientist said.

"It wastes everyone's time."

Un appel à démanteler l’intelligence artificiellehttps://polaris.imag.fr/romain.couillet/docs/articles/IA_dellusion.pdf

Un appel à démanteler l’intelligence artificielle

Romain Couillet le 22 juillet 2022

Professeur en informatique et chercheur jusqu’à récemment en mathématiques appliquées pour l’intelligence artificielle, j’ai été récemment sollicité comme membre du jury de soutenance du projet de fin d’études d’un étudiant en master d’informatique de l’Université Grenoble-Alpes.

L’étudiant motivait son projet par la nécessité de répondre à la double problématique suivante : l’entreprise chez qui il effectuait son stage ne parviendrait d’une part plus à recruter d’expert·es en design de circuits électroniques et, par ailleurs, la pénurie de métaux impose des contraintes croissantes sur la dimension (et donc la quantité de matière sollicitée) de ces mêmes circuits électroniques.

Face à ces enjeux, l’entreprise a proposé de développer un algorithme d’intelligence artificielle capable de combler l’expertise perdue (et de faire potentiellement mieux).
Sans aller dans les détails conceptuels de l’étude menée par l’étudiant, il apparaissait assez rapidement au cours de la présentation que l’approche proposée ne pouvait pas fonctionner et qu’en réalité il était fort présomptueux d’imaginer qu’un algorithme puisse effectuer la tâche souhaitée.

Le bilan des quatre premiers mois de stage n’était donc pas surprenant : en l’état, du point de vue de l’étudiant, la méthode développée ne fonctionnait pas encore mais les travaux étaient prometteurs. Situation somme toute classique que je rencontre de plus en plus fréquemment ces dernières années. Mais le point saillant de cette anecdote est ailleurs : au cours de la séance de questions du jury, j’ai demandé à l’étudiant si, à l’issue de ces quatre premiers mois clairement infructueux quoi qu’il en dise, il envisageait comme hypothèse la possibilité que l’intelligence artificielle puisse ne pas être en mesure de résoudre son problème.

En dépit du caractère éminemment rhétorique de la question, sa réponse sera extrêmement révélatrice : “non, je suis sûr que ça fonctionnera”. Tout est là. À elle seule, cette affirmation met selon moi en lumière le danger le plus nocif de l’intelligence artificielle : le caractère religieux et aveuglant qu’elle a acquis en à peine dix ans.

Avant propos : un détour paléosophique

Dans son travail sur la Paléosophie, Catherine Reine Thomas nous invite à repenser la cosmologie occidentale, celle qui a fait naître les premières civilisations agricoles il y a dix mille ans pour devenir la société dans laquelle nous européen·nes vivons, comme un déséquilibre dans le rapport entre la “Vie” et la “Technique”.

L’une des singularités du genre Homo, et plus particulièrement d’Homo Sapiens, par rapport aux autres animaux sont sa capacité et son envie de développer des outils et des savoir-faire. L’ensemble de ces outils engendre un spectre de technologies qui alimente alors une entité non-vivante mais bien réelle et dynamique que Thomas nomme Technique.

L’animalité d’Homo Sapiens exigerait néanmoins, au même titre que les autres animaux, de conserver un contrôle sur son milieu, une puissance d’agir pour emprunter les termes de Spinoza, que Thomas appelle la Vie.

Les entités Technique et Vie entrent dès lors dans une compétition intérieure dont l’équilibre est maintenu par l’activité artistique : Homo Sapiens n’est pas esclave d’une technologie tant que l’outil ou la technique garde un ancrage dans le champ de la Vie. Les dessins et sculptures (dès les premières peintures rupestres et objets décoratifs) sont autant d’expressions vivantes de techniques et savoir-faire utilisés par ailleurs, mais non exclusivement, pour le besoin des outils.

Cette dualité stable entre Vie et Technique assurerait un lien sain et serein entre Homo Sapiens et son environnement. Dans son ethnographie du peuple Achuar d’Amazonie qui entretient une relation animiste au milieu [^1], Descola rapporte que les Achuar ne travaillent que quatre à cinq heures par jour (aux champs, à la chasse, à l’artisanat) pour dédier le plus clair de leur temps aux chants, à la confection d’ornements, aux pratiques spirituelles et autres activités artistiques.

Selon Thomas, la Technique, vue comme entité non-vivante mais symbiotique au vivant Homo Sapiens peut devenir parasitaire lorsqu’elle prend le pas sur la Vie : c’est-à-dire lorsque le contrôle artistique par Homo Sapiens disparait au profit d’un développement non maîtrisé des technologies. Dès lors, la Technique se nourrit de l’énergie métabolique d’Homo Sapiens pour devenir autonome, tels les robots de l’univers dystopique d’Isaac Asimov difficilement tenus sous le contrôle des trois lois de la robotique.

Cet angle de vue paléosophique par la dualité Vie-Technique est intéressant à plusieurs égards : d’une part, il rejette le fatalisme, grandement véhiculée par les best-seller Sapiens d’Harari ou Effondrement de Diamond, d’une espèce humaine prédatrice et vouée à l’auto-destructrion. L’espèce humaine serait au contraire sous le joug de la Technique qui cultive Homo Sapiens comme les termites cultivent les champignons qui digèrent pour eux la cellulose du bois.

Il permet d’autre part d’expliquer l’inexplicable : pourquoi Homo Sapiens, en dépit des évidences scientifiques, des solutions technologiques existantes (permaculture, outillage low-tech, communs) et des connaissances neuropsychologiques et sociales disponibles (lien rompu au vivant, bienfaits des pratiques écopsychologiques, évidence d’une entraide perdue mais gravée dans notre ADN) ne parvient pas à se défaire de ses technologies mortifères et de son comportement agressif envers le vivant, colonial et extractiviste ? L’analyse paléosophique résoud aussi le verrouillage du triangle des responsabilités entre citoyen, gouvernement et entreprise qui veut que les citoyen·nes reprochent l’inaction gouvernementale et la vénalité des entreprises, tandis que les entreprises n’ont de choix que de s’aligner aux contraintes gouvernementales et ne sont pas responsables des besoins compulsifs des citoyens, et que les gouvernements défendent leurs actions comme conséquences du vote citoyen et des pressions économiques des entreprises.

En somme, tout le monde est responsable et personne ne l’est. Ici Catherine Reine Thomas avancerait sûrement que la Technique, ignorée dans ce triptyque, porte en réalité le poids de la chaîne deresponsabilités : elle assujettit le citoyen dans la réalisation de ses besoins techniques, maintient la survie de l’entreprise qui n’a de raison d’être qu’en perpétuant l’alimentation technologique et neutralise le gouvernement dans sa nécessité de croissance économique par la technologie.

Difficile de ne pas voir ici une terrible analogie entre la Technique devenue parasite d’une humanité au bord du chaos et l’Ophiocordyceps Unilateralis, ce champignon qui pénètre le corps des fourmis, les incite à monter aussi haut que possible le long de la tige d’une plante charnue avant de finalement s’y accrocher puissamment par les mandibules et de se faire dévorer de l’intérieur par le champignon (qui peut dès lors se développer dans des conditions optimales et propager efficacement ses spores).

Car le développement accéléré des outils et technologies a rompu l’équilibre Technique-Vie, engendrant des conséquences destructrices aux dynamiques exponentielles : agriculture intensive dont les outils et ressources sont aujourd’hui en dehors du contrôle des paysan·nes (machines irréparables, niveaux d’endettement imposant une productivité assurée par l’usage d’engrais de synthèse et pesticides), exigences et conflits de ressources (croissance intenable des populations, guerres, colonisations, génocides et écocides), fracture du lien au vivant (urbanisation et artificialisation des sols, extractivisme minéral, cybernétisation, ontologie naturaliste [^2]), déshumanisation physique et psychologique (maladies de civilisation, épidémies, pertes de sens, troubles neuropsychologiques, dépressions, fractures identitaire et sociale).

Le champignon Technique dévore notre humanité de l’intérieur, par le biais de l’extinction inexorable de l’ensemble du vivant. On retrouve bien là les nombreux dépassements de convivialité de l’outil dans la terminologie d’Ivan Illich [^3] : au delà d’un certain seuil de complexité, l’outil sort du contrôle de l’humain et passe d’un moyen technique à une fin en soi. Cette fin en soi se mue dans le pire des cas en ce qu’Illich appelle un monopole radical qui transforme la société autour de l’outil : il n’est par exemple plus possible de vivre sans camions pour transporter les aliments, sans informatique pour gérer les chaînes logistiques ou les transferts financiers, sans vaccins pour amortir les conséquences de la surpopulation, etc.

La Technique est ainsi devenue religion, fluidifiée par le fétiche de l’argent, qui impose une croyance techno-solutionniste à quelques huit milliards d’Homo Sapiens dépourvus de la capacité de contrôle des technologies (absolument personne ne peut fabriquer ou réparer seule une quelconque technologie numérique moderne) et qui pour beaucoup ont perdu l’équilibrage du moteur de la Vie (perte de sens pour les occidentaux, soumission coloniale pour les habitant·es des pays du Sud [^4]).

À défaut de maîtriser l’outil, Homo Sapiens, désormais dépendant des technologies et de l’énergie fossile qui les nourrit (comme l’explique Jean-Baptiste Fressoz dans L’événement Anthropocène, nous ne pouvons plus vivre sans pétrole), s’en remet religieusement au maintien, à l’entretien et au développement d’un système technique paradoxalement occulté des débats politiques (on ne remet que rarement en question l’utilité des technologies) alors qu’il pèse aujourd’hui cinq fois le poids du vivant [^5].

Le détail de cette courte analyse paléosophique est certainement un peu plus complexe et mérite de s’y appesantir un instant. La production technique moderne s’effectue en effet par le biais d’ingénieur·es et chercheur·ses pour la plupart parfaitement ancré·es dans un équilibre Technique-Vie de la bricoleuse d’équations passionnée ou de l’insassiable manipulateur de tubes à essais.

Mais tous·tes deux vivent, au même titre que l’expert marketing ou la chef d’entreprise, dans autant de tours d’ivoire imperméables aux considérations systémiques complexes (est-ce que l’outil dont je prends une maigre part au développement intègrera un produit potentiellement nocif pour la société ?) et qu’il est supposé sage d’ignorer, le travail scientifique factuel de l’expert·e technique ne lui conférant ni la légitimité ni même l’accès à ces prérogatives réflexives. [^6]

C’est ainsi que les chercheur·ses de mon propre laboratoire, autant de personnes dont j’admire l’extrême intelligence mathématique et l’ensemble de la carrière, se trouvent incapables de rompre avec un domaine dont ils connaissent et reconnaissent la nocivité. Pour retrouver un semblant de sens, on évoque paradoxalement notre illégitimité ou notre incapacité à traîter les questions environnementales (“je préfère laisser les experts s’en charger”, comme si de tels experts existaient vraiment) ou alors la fatalité d’un système verrouillé (“notre équipe travaille sur ce domaine, on ne peut pas faire non plus n’importe quoi”).

Ce sentiment d’emprisonnement amène à des paradoxes proprement délirants, comme c’est le cas des chercheur·ses qui se réfugient dans une activité de recherche poussée volontairement dans une extrémité théorique qui assure qu’elle n’alimentera jamais l’industrie mortifère. En définitive, la société moderne assoit la domination de la Technique sur la Vie paradoxalement par le biais du travail d’une élite minoritaire qui parvient elle, parfois en dépit d’une forte dissonance cognitive, à maintenir son propre équilibre Technique-Vie assuré par la flamme du pouvoir d’agir spinoziste [^7] (et/ou par un attraitfétichiste pour la domination égoïste et l’argent [^8]).

La religion intelligence artificielle

Le cas particulier de l’intelligence artificielle illustre parfaitement mon propos. Suite aux quelques prouesses magiques dans les domaines de la vision assistée par ordinateur et du traitement du langage naturel, auxquelles s’ajoute la victoire jusque là considérée impossible de l’algorithme AlphaGo contre le champion du monde de Go, l’IA, et plus précisément les réseaux de neurones profonds, sont aujourd’hui vus comme un Eldorado, un couteau-suisse en mesure de résoudre tous les problèmes sur lesquels les humains se cassent les dents ou qu’ils n’ont pas les capacités calculatoires ou cognitives de traiter.

Mais comme aucune théorie mathématique n’est en mesure de craquer les mystères des réseaux de neurones profonds [^9] produits par des heures de calculs purement informatiques et très aléatoires (deux instanciations d’un même algorithme donneront lieu à deux réseaux de neurones absolument distincts), l’outil technique “IA” dépasse le contrôle humain, y compris le contrôle expert. C’est ainsi que naissent des situations aussi ubuesques que celle décrite en début d’article et qu’on voit se généraliser : les étudiants formés à l’intelligence artificielle n’ont aucun contrôle sur leur propre outil.

L’enseignement de l’IA tend d’ailleurs à renforcer l’illusion, la magie d’une machine omnipotente et qui nécessite peu d’efforts (aucune théorie mathématique profonde n’est nécessaire et des interfaces logicielles flexibles, telles que TensorFlow, permettent de devenir autonome en quelques heures).

Le triptyque citoyen-gouvernement-industrie aggrave le problème à ses dépends : afin de tenir la dragée haute aux GAFAM, le gouvernement français a récemment lancé un appel “Compétences et Métiers d’Avenir” à la massification des enseignements en IA, dont l’objectif est de doubler l’offre de formation des étudiants post-bac. S’il n’est pas incohérent de vouloir adapter les connaissances universitaires aux savoirs dernièrement acquis, il est important de rappeler que doubler l’offre en IA implique arithmétiquement la disparition d’autres formations, celles dès lors considérées obsolètes ou moins utiles.

C’est dans ce contexte que les designers de circuits électroniques ont disparu et que la béquille de l’“IA couteau-suisse” évoquée en début d’article tente très maladroitement de répondre à un problème mal posé [^10]. L’IA vide donc indirectement les savoirs et les savoir-faire élémentaires, imposant de fait un monopole radical par lequel l’outil numérique porteur des algorithmes de l’IA prend la charge des décisions précédemment établies par l’humain.

Et ce, sans contrôle possible par l’humain, qu’il soit ignorant, novice ou même expert en informatique. Le choix des populations, gouvernements et entreprises d’investir massivement dans l’IA est celui de la pillule bleu présentée à Néo dans le film Matrix : un point de non retour dans l’illusion d’un monde idéalisé contrôlé par des machines capables de tout solutionner, et entre autres de résoudre la dite crise climatique (qu’il serait plus sage pour réellement cerner les enjeux de correctement nommer extinction de masse ou effondrement du vivant).

L’IA ajoute par ailleurs une nouvelle pierre à l’édifice d’abrutissement de la population, dénoncé par Steigler dans La télécratie contre la Démocratie ou par Brighelli dans La fabrique du crétin, qui permet à chacun·e (dans la société occidentale du moins) de vivre dans un monde en apparence dépourvu de contraintes, de nécessité de savoir ou même de comprendre, et dépourvu de conflits, un monde aux ressources toujours supposées infinies par l’économie néo-classique [^11] sur laquelle se basent tous les gouvernements occidentaux. Le plus grand danger de l’IA apparait alors comme une évidence : en renforçant la promesse techno-solutionniste en direction d’une population privée de ses savoirs et savoir-faire, privation renforcée par une dépendance totale à des machines et à des décisions automatiques incontrôlables, l’IA masque un peu plus la réalité d’un système de technologies insoutenables et au bord de l’effondrement.

Ces technologies, que Monnin dans Héritage et fermeture qualifie de zombies, car elles sont en apparence vivantes (elles fonctionnent aujourd’hui et donnent l’impression de toujours pouvoir se développer demain) mais effectivement mortes (du fait de la déplétion matérielle, des pics de ressources énergétiques prochains, mais aussi de leur impact environnemental intenable et qui imposera des régulations fortes sur le moyen terme), sont amenées à disparaitre.

Dans le cas de l’IA, c’est par l’intermédiaire de l’impossible renouvellement de l’infrastructure numérique et de l’insoutenabilité de son coût énergétique que sa disparition s’opèrera assurément. En l’absence d’anticipation, l’ensemble des machines automatisées qui se substituent aujourd’hui à un savoir-faire initialement humain ne pourront plus être alimentées ou réparées, mettant à mal certaines activités essentielles. C’est le cas notamment des machines agricoles que l’industrie 4.0 promet de rendre plus “intelligentes”.

Atelier Paysan, dans son manifeste Reprendre la terre aux machines, alerte précisément sur ce point : le nombre de paysan·nes qui nourrissent une population grandissante n’a de cesse de diminuer 12 au profit de machines automatisées (tracteurs sans conducteur, drones, machines de manipulation des plants), détruisant les savoir-faire humains (les paysan·nes ne sont plus en contact avec la terre) et aggravant la capacité de résilience consécutive aux chocs pétroliers et énergétiques à venir. L’exemple de Cuba, documenté dans la vidéo Comment Cuba survécut en 1990 sans pétrole, et dont la population a dû transiter essentiellement du jour au lendemain d’une vie “à l’américaine” à un retour à la terre non préparé parce que dépourvu des communs élémentaires, permet d’anticiper, dans une ampleur qui sera vraisemblablement incomparable, les conséquences des pénuries énergétiques et matérielles mondiales à venir, dans un écosystème qui plus est en extinction accélérée.

Démanteler l’IA

Dans Héritage et fermeture, Monnin propose une théorie du démantellement des technologies zombies comme articulation nécessaire à la résilience d’une société contrainte en énergie, ressources, et devant s’adapter aux multiples conséquences systémiques de l’écocide en cours (à commencer par l’adaptation au réchauffement climatique). En plus d’être une technologie proprement anti-résilience et donc aux conséquences sociétales particulièrement nocives, l’intelligence artificielle est un parfait candidat à la mise en place du démantellement technologique et du rééquilibrage de la balance Vie-Technique.

En effet, en tant que brique supérieure et encore récente de la forteresse numérique, la perspective d’abandon de l’intelligence artificielle
comme outil constitue à la fois un imaginaire crédible (il y a peu nous vivions sans) et un objectif accessible (il s’agit “juste” de faire table rase de dix années de recherche et l’industrie dans le domaine). Dans l’analyse effectuée par le groupe lownum 13 portant sur la dite low-technicisation du numérique, une première étape dans la mise en place d’un démantellement consiste à identifier et mettre en regard le caractère nécessaire (ou non) de l’outil numérique et le caractère nécessaire (ou non) du service qu’il remplit. Notamment, du fait de sa criticité et du danger de résilience induit, tout outil numérique nécessaire à un besoin nécessaire (voire vital) doit être démantelé au plus vite.

C’est le cas par exemple de l’industrie 4.0 dans le domaine agricole qui,amenée à déposséder les paysan·nes devenu·es technicien·nes numériques de leur maîtrise même de l’agriculture, doit être rapidement décommissionnée. L’exemple de Cuba évoqué plus haut démontre de la même manière que l’intensification de la production d’intrants artificiels (qui exige une utilisation intensive de gaz) en remplacement des nitrates, phosphates et potassium naturels (excrétions humaines et des autres animaux, composts de biomasse) provoquera des famines massives en cas de discontinuité d’approvisionnement énergétique. Ces intrants artificiels, dont les conséquences écologiques sont par ailleurs désastreuses, engendrent au même titre que l’agriculture 4.0 un danger élevé de résilience.

Les technologies zombies de l’intelligence artificielle tendent à s’emparer de secteurs industriels en lien à des besoins vitaux ou assurant tout au moins le maintien de l’équilibre sociétal. C’est le cas notamment du transport de produits, au moyen de véhicules autonomes ou de drones. Un développement massif d’une telle transition logistique serait en mesure, pour des raisons économiques évidentes d’imposer un monopole radical sur les chaînes d’approvisionnement, en particulier alimentaire. Toute rupture soudaine de ces chaînes (pénurie de métaux rares, cyber-attaque) est en capacité de produire des famines si le parc de véhicules non autonomes et le nombre de conducteurs encore disponibles (l’expertise étant rapidement perdue) ne couvrent plus les besoins de distribution. Fort heureusement, en tant que technologie encore immature, la véhiculation autonome est un outil aisément démantelable.

Le cœur de l’outillage de l’intelligence artificielle n’est cependant jusque là pas encore dédié à des besoins indispensables. La vaste majorité des applications de l’IA (en volume d’usage) concerne le tri automatique d’emails, les moteurs de recherche, la traduction automatique, la reconnaissance faciale et d’objets, etc. Il convient pour ces usages non essentiels d’évaluer la pertinence sociétale du besoin au regard de l’intensité énergétique et de l’empreinte environnementale induites par l’ensemble du cycle de vie de l’outil (recherche, développement, commercialisation, usage, fin de vie).

En l’occurrence, les phases de recherche, développement et usages ne sont pas neutres. L’intensité énergétique, la plus simple à évaluer, et qu’il est ensuite facile de convertir en bilan équivalent carbone, a été récemment documentée 14 : l’ensemble de la re-
cherche et du développement des réseaux de neurones profonds s’accompagne d’une très forte consommation électrique, à l’image des dizaines de milliers de cœurs GPU nécessairement pour entrainer un mois durant les réseaux profonds les plus avancés, pour un coût estimé à plusieurs centaines de tonnes équivalent CO2 (rappelons que la consommation annuelle totale d’un·e français·e est de 10 tonnes équivalent CO2).

Évaluer l’impact de l’IA par le simple prisme du bilan carbone est néanmoins tout aussi réducteur que dangereux (car il incite à une fuite en avant dans le développement de nouvelles technologies plus “économes”, prototypiques de l’oxymorique “croissance verte”) : le développement explosif de l’IA se réalise en effet au prix de la production effrénée de puissants serveurs très consommateurs en énergie et métaux rares, qui s’accompagnent parfois de la construction sur site de centrales électriques dédiées, et surtout alimente la production matérielle de nouveaux et nombreux produits (notamment les milliards de dispositifs de l’Internet des objets) qui interpénètrent essentiellement tous les secteurs économiques et fabriquent de nouveaux besoins rapidement devenus nécessités. Au bilan, c’est une

augmentation annuelle de l’ordre de 9% de l’ensemble du domaine du numérique dont il s’agit, qui s’accompagne notamment d’une augmentation de 100% tous les 3,4 mois de l’intensité calculatoire requise pour l’entrainement des réseaux de neurones profonds 15. Face à l’urgence environnementale et à la nécessité par ailleurs d’un repli de la consommation énergétique fossile (bloquée à 85% du mix énergétique global depuis 30 ans en dépit du développement massif des énergies dites renouvelables) à hauteur de -7% par an, ces explosions de consommation liées au numérique et particulièrement à l’IA sont intenables. Dans ce contexte, les usages sociétalement
bien maigres de l’IA sont particulièrement indéfendables.

Le chantier de résilience de la société humaine, qui se devra de retrouver une forme de cosmologie plus animiste 16, décoloniale et solidaire, doit passer par un démantèlement progressif des technologies zombies (insoutenables, coloniales, induisant leurs propres besoins) et l’instauration – ou plus souvent la réinstauration – de technologies vivantes (lowtech, répondant à des besoins réels et aux contraintes de ressources, accessibles à toutes et tous).

Cet article est donc un appel aux chercheur·ses et ingénieur·es en informatique et en mathématique de faire tomber les premiers pans de ce chantier aussi vaste qu’indispensable en décommissionnant les investissements en intelligence artificielle et en recréant une base saine de communs, c’est-à-dire de savoirs et savoir-faire partagés et résilients.

Il s’agit de bifurquer, refuser, parfois désobéir en conscience, mais aussi justifier, expliquer et sensibiliser, autant de compétences précisément au cœur du travail scientifique et qui nous positionne de fait comme les actrices et acteurs les mieux armé·es pour engager une transition enthousiaste et constructive. Sous la pression de nos propres étudiants, les laboratoires de recherche et universités y sont désormais sensibles et déjà prêts pour certains à accueillir, sinon inciter, à une pensée du déraillement pour reprendre le titre de l’appel large d’Aurélien Barrau.

La première pièce du puzzle d’une société résiliente peut passer très concrètement par ce démantèlement organisé des illusions mortifères de l’intelligence artificielle en redonnant toute sa place à notre intelligence animale, sociale et sensible.

[^1]: Voir par exemple Par delà nature et culture
[^2]: L'ontologie naturaliste crée une entité nommée nature, cet ensemble indifférencié d’êtres vivants non humains, mis à la marge car supposée dépourvue de conscience. Dès lors, cette nature-objet insensible peut être puisée, extraite, transformée, détruite. Selon Haudricourt dans son article Domestication des animaux, culture des plantes et traitement d’autrui, cette vision du monde induit l’accès à des formes de violences dont la conséquence est l’ensemble des formes d’assujettissement et de destruction du vivant
[^3]: Voir La convivialité d’Illich
[^4]: À ce titre, voir l’intéressant point de vue de Malcolm Ferdinand dans son livre Une écologie décoloniale
[^5]: L’ensemble minéral des infrastructures routières, bâtiments, machines, véhicules, etc., et des déchets de ces produits, conçus depuis moins d’un siècle, a en effet une masse cumulée équivalente à cinq fois la masse du monde carbone du vivant.
[^6]: Ces considérations ont récemment ouvert un débat houleux sur la distinction entre scientifique et scientifique militant, qu’il conviendrait plus raisonnablement de repenser comme un enjeu de réhabilitation des scientifiques vu·es aujourd’hui comme des produits des surspécialisation et polarisation techniques vers leur statut historique de penseurs philosophes systémiques (tels Pythagore, Aristote, Descartes, ou encore Einstein).
[^7]: Il est d’ailleurs frappant que les développeurs et développeuses de technologies high-tech soient précisément ceux et celles qui utilisent le moins ces mêmes technologies (c’est notamment le cas des nombreux chercheur·ses en télécommunication que j’ai pu côtoyer, moi-même inclus, qui ont longtemps vécu sans smartphone).
[^8]: Ce dernier point est défendu par Dany Robert-Dufour dans son livre Baise ton prochain
[^9]: Il est assez clair chez les mathématiciens qu’un tel espoir de compréhension de la complexité de ces réseaux, basés sur des optimisations hautement non linéaires aux milliards de minima locaux, est absolument hors d’atteinte.
[^10]: En l’occurrence, il ne s’agit ni de vision, ni de langage et, qui plus est, un problème qui demanderait bien trop d’exemples d’apprentissage par des architectures validées par des humains. On oublie bien trop souvent au passage qu’un algorithme d’intelligence artificielle ne fonctionne que par le biais de millions d’exemples étiquetés et alimentés par des humains : la perte de l’expertise technique, ne serait-ce que pour identifier les paramètres pertinents et correctement les étiqueter, se traduit de fait par l’impossibilité mécanique de la mise en place d’un algorithme d’IA.se traduit de fait par l’impossibilité mécanique de la mise en place d’un algorithme d’IA.
[^11]: Considérée comme une non science par les mathématiciens et physiciens.
[^12]: De six millions en 1950 à 400 000 en 2021, avec un objectif gouvernemental sous-entendu de descendre ce chiffre à 200 000, en dépit de l’évaluation du Shift Project dans son Plan de Transformaion de l’Économie Française de la nécessité d’accroître ce nombre de 500 000 nouveaux paysans d’ici à 2030 (Atelier Paysan évalue quant à lui ce chiffre à un million d’agriculteur·rices supplémentaires).

[^14]: Voir par exemple l’article de Patterson et al., Carbon emissions and large neural network training, ou encore àl’échelle du numérique le travail de Freitag et al. The real climate and transformative impact of ICT : A critique of estimates, trends, and regulations. Le rapport grand public Lean ICT du Shift Projet est aussi un point d’entrée très exhaustif.
[^15]: Il y a dix ans, cette croissance était de 100% tous les deux ans.
[^16]: C’est-à-dire qui confère, comme la science l’établit aujourd’hui, une forme d’intériorité subjective (de conscience) aux autres êtres vivants, et qui place au centre des débats géopolitiques l’interdépendance forte entre les espèces (humaine et autres qu’humaine).

The end of the social networkhttps://www.economist.com/leaders/2024/02/01/the-end-of-the-social-network

The end of the social network

The Economist

Editor’s note, February 2nd 2024: This article was updated after Meta announced earnings results for 2023.

Facebook may be turning 20 on February 4th, but it is just as much of a magnet for controversy and cash today as when it was a brash, break-everything teenager. On January 31st Mark Zuckerberg, the social network’s founder, was harangued by American senators over the spread of harmful material. The next day he announced another set of glittering results for Meta, Facebook’s parent company, which is now valued at $1.2trn. Yet even as social media reliably draw vast amounts of attention from addicts and critics alike, they are undergoing a profound but little-noticed transformation.

The weird magic of online social networks was to combine personal interactions with mass communication. Now this amalgam is splitting in two again. Status updates from friends have given way to videos from strangers that resemble a hyperactive tV. Public posting is increasingly migrating to closed groups, rather like email. What Mr Zuckerberg calls the digital “town square” is being rebuilt—and posing problems.

This matters, because social media are how people experience the internet. Facebook itself counts more than 3bn users. Social apps take up nearly half of mobile screen time, which in turn consumes more than a quarter of waking hours. They gobble up 40% more time than they did in 2020, as the world has gone online. As well as being fun, social media are the crucible of online debate and a catapult for political campaigns. In a year when half the world heads to the polls, politicians from Donald Trump to Narendra Modi will be busy online.

The striking feature of the new social media is that they are no longer very social. Inspired by TikTok, apps like Facebook increasingly serve a diet of clips selected by artificial intelligence according to a user’s viewing behaviour, not their social connections. Meanwhile, people are posting less. The share of Americans who say they enjoy documenting their life online has fallen from 40% to 28% since 2020. Debate is moving to closed platforms, such as WhatsApp and Telegram.

The lights have gone out in the town square. Social media have always been opaque, since every feed is different. But TikTok, a Chinese-owned video phenomenon, is a black box to researchers. Twitter, rebranded as X, has published some of its code but tightened access to data about which tweets are seen. Private messaging groups are often fully encrypted.

Some of the consequences of this are welcome. Political campaigners say they have to tone down their messages to win over private groups. A provocative post that attracts “likes” in the X bear pit may alienate the school parents’ WhatsApp group. Posts on messaging apps are ordered chronologically, not by an engagement-maximising algorithm, reducing the incentive to sensationalise. In particular, closed groups may be better for the mental health of teenagers, who struggled when their private lives were dissected in public.

In the hyperactive half of social media, behaviour-based algorithms will bring you posts from beyond your community. Social networks can still act as “echo chambers” of self-reinforcing material. But a feed that takes content from anywhere at least has the potential to spread the best ideas farthest.

Yet this new world of social-media brings its own problems. Messaging apps are largely unmoderated. For small groups, that is good: platforms should no more police direct messages than phone companies should monitor calls. In dictatorships encrypted chats save lives. But Telegram’s groups of 200,000 are more like unregulated broadcasts than conversations. Politicians in India have used WhatsApp to spread lies that would surely have been removed from an open network like Facebook.

As people move to closed groups, the open networks left behind are less useful because of the decline in public posting. During the covid-19 pandemic, scientists and doctors contributed to an online debate which contained real insight as well as misinformation. Open-source intelligence flowed when Russia invaded Ukraine. Today those conversations are disappearing or moving to closed channels, slowing the spread of ideas. The people still weighing in on the public networks, meanwhile, are disproportionately male and likely to describe themselves as very left- or right-wing: bores, in plain English.

What’s more, the open-network algorithms driven by users’ behaviour seem primed to spread the spiciest videos. For something to go viral on a social network, people had to choose to share it. Now they endorse it simply by watching, as the algorithm rewards content that attracts the most engagement. Deliberate curation has been replaced by a system that taps straight into the id. Provocateurs like Mr Trump or Nayib Bukele, the favourite in this week’s election in El Salvador, stand to benefit, as do misinformation merchants. Platforms say they are better at weeding out fakes. Taylor Swift, the latest high-profile victim of a deepfake, might disagree.

More urgent even than the rise of fake news is a lack of the real sort. Mr Zuckerberg once said he wanted Facebook to be like a personalised newspaper. But since the network’s pivot to entertainment, news makes up only 3% of what people see on it. Across social media only 19% of adults share news stories weekly, down from 26% in 2018. Publications like BuzzFeed News, which relied on social distribution, have perished. That is their lookout (and ours). But it is everyone’s problem when nearly half of young people say that, just as the platforms decide news is no longer interesting, social media are their main source of news.

WhatsApp and WhatsDown

Some people argue that social networks’ defects can be fixed by better governance, clever coding or a different business model. Such things can help. But the problems raised by the new generation of apps suggest that social media’s flaws are also the result of the trade-offs built into human communication. When platforms swing back towards private groups, they inevitably have less oversight. When people escape their echo chambers, they may well face more extreme content. When users embrace harmless entertainment, they see less news. As social networks wither, platform operators and users should devote less time to the old battles and more to grappling with the new.

Bunkers et fermes bio : comment les ultrariches préparent l’avenirhttps://reporterre.net/Bunkers-et-fermes-bio-comment-les-riches-preparent-l-avenir

Bunkers et fermes bio : comment les ultrariches préparent l’avenir

Face à la crise climatique, le survivalisme est devenu l’ultime lubie des milliardaires qui planifient leur exode et tentent d’échapper au monde commun.

Vous lisez la première partie de l’enquête Le séparatisme climatique des ultrariches.

Les ultrariches se préparent à la catastrophe qu’ils ont eux-mêmes contribué à provoquer. Alors que le monde plonge peu à peu dans le chaos climatique, ils se bâtissent des bunkers, s’achètent des îles privées et s’aménagent des existences qu’ils rêvent à l’abri des violences, pour continuer à vivre dans le luxe, le calme et la volupté.

Voilà déjà quelques années que les médias ont révélé le phénomène. La pandémie de Covid-19 et la guerre en Ukraine ont tout accéléré. Avec leurs jets privés, leurs yachts et leurs « gated communities » (quartiers résidentiels privés), les milliardaires ont décidé de faire sécession.

La Nouvelle-Zélande et la Patagonie sont devenues leurs repaires. Ils investissent aussi dans des contrées isolées comme l’Alaska, la Scandinavie ou le Kamtchatka en Russie. Steve Huffman, le cofondateur du réseau social Reddit, le dit lui-même : une bonne moitié de ses collègues milliardaires de la Silicon Valley ont acheté des « biens immobiliers apocalyptiques » dans le monde. Les médias anglo-saxons évoquent même « un rush ».

Des jets privés prêts à décoller pour la Nouvelle-Zélande

Le dernier en date à avoir défrayé la chronique est le fondateur de Facebook Mark Zuckerberg. Son bunker de luxe à Hawaï, baptisé « Koolau Ranch », devrait coûter plus de 250 millions d’euros. L’abri de 464 m2, protégé par une porte blindée et un système de vidéosurveillance hors norme, est capable de se fournir lui-même en électricité ainsi qu’en eau grâce à une gigantesque citerne. Une ferme biologique de 27 hectares lui est associée pour pouvoir vivre en autarcie. Au bord du Pacifique, le milliardaire attend la fin du monde en écoutant le bruit des vagues.

À une dizaine de milliers de kilomètres de là, en Nouvelle-Zélande, l’engouement des ultrariches est tel que les autorités sont débordées. Elles ont créé un visa spécial pour les grandes fortunes qui souhaitent s’y implanter. Le visa Investor Plus exige un investissement minimum de 6,7 millions de dollars (6,2 millions d’euros) sur trois ans. Peter Thiel, le cofondateur milliardaire de Paypal, a obtenu la nationalité néo-zélandaise après n’avoir passé que douze jours dans le pays. De nombreuses villas se sont construites sur des terrains en pleine nature, avec des pistes d’atterrissage et des fermes.

Le milliardaire Julian Robertson est propriétaire d’un manoir surplombant le lac Wakapitu. Le président de Fidelity National Financial Inc. Bill Foley possède une propriété dans la région de Wairarapa. James Cameron, le réalisateur de Titanic, a acheté un immense manoir qui domine le lac Pounui.

L’attrait pour cette île s’explique par sa stabilité politique et son éloignement géographique. Pour la rejoindre en cas de crise, cinq dirigeants d’entreprises de la Silicon Valley possèdent un énorme jet privé caché dans un hangar du Nevada. L’avion est prêt à décoller à n’importe quel moment avec leur famille (et celle du pilote !). Son prix est estimé à 61 millions de dollars (56,2 millions d’euros) et sa maintenance à un million de dollars par an, selon [le média Bloomberg](https://www.bloomberg.com/features/2018-rich-new-zealand-doomsday-preppers/?leadSource=uverify wall).

« Accaparement de la terre par les ultrariches »

Les journalistes racontent aussi comment des bunkers de survie de 150 tonnes sont construits en secret au Texas avant d’être acheminés par bateau jusqu’à la Nouvelle-Zélande. Ils y sont enfouis à trois mètres de profondeur, loin des regards et avec la complicité de la douane.

Pour le chercheur en sciences politiques, Édouard Morena, on assiste à une nouvelle forme d’« accaparement de la terre par les ultrariches ». En Écosse, 67 % des terres rurales écossaises appartiennent à 0,0025 % de la population. « Les ultrariches investissent dans de grandes propriétés pour cultiver l’entre-soi et se préserver du reste de la planète mais aussi parce qu’ils estiment que dans un futur proche, ces terres constitueront une formidable richesse », dit-il à Reporterre.

Premiers propriétaires terriens d’Argentine

En Patagonie, la situation est frappante. Ted Turner, le boss de la chaîne de la télévision CNN, s’est offert 5 000 hectares ; Amalita Lacroze de Fortabat, « la reine du ciment » s’est construit une villa en face du lac Nahuel Huapi et a embauché des hommes de main pour bloquer l’accès aux habitants locaux. La pampa s’est hérissée de barbelés.

Le milliardaire Joe Lewis, qui a fait fortune dans les Hard Rock Cafe, a racheté une superficie grande comme Paris et a même détourné le cours d’une rivière. À quelques kilomètres de là, Sylvester Stallone s’est offert un lac et 14 000 hectares à proximité d’El Bolson. George Soros a, quant à lui, acheté un domaine de 350 000 hectares et a même été le premier propriétaire terrien argentin avant d’être détrôné par la famille Benetton qui possèdent aujourd’hui 900 000 hectares du côté d’Esquel.

« Les ultrariches rêvent d’être seuls »

« Les ultrariches rêvent d’être seuls et de se réfugier dans leur château. » Dans un best-seller non traduit, intitulé La survie des plus riches, les fantasmes d’évasion des millionnaires de la tech (notre traduction) l’intellectuel Douglas Rushkoff analyse l’attrait des milliardaires pour l’effondrement. Il raconte dans le Guardian sa rencontre lunaire avec cinq milliardaires technophiles qui lui expliquent leur plan pour faire face à « l’événement » — l’euphémisme qu’ils utilisent pour parler de la crise climatique.

Invité à donner une conférence sur les nouvelles technologies, il se retrouve à répondre à une myriade de questions des milliardaires : combien de temps faut-il prévoir pour survivre sans aide extérieure ? Un abri doit-il avoir sa propre alimentation en air ? Quelle est la probabilité de contamination des eaux souterraines ? Le PDG d’une maison de courtage qui vient de terminer la construction d’un bunker souterrain lui demande aussi comment maintenir l’autorité sur sa force de sécurité.

L’intellectuel, déboussolé, tente de les raisonner et de leur dire de ne pas investir uniquement dans « des munitions » ou « des clôtures électriques ». Mais les milliardaires s’entêtent. Ils envisagent d’utiliser des serrures à combinaison spéciale pour l’approvisionnement en nourriture qu’ils seraient les seuls à connaître. Ou de faire porter aux gardes une sorte de collier disciplinaire en échange de leur survie. Ou encore de construire des robots qui serviraient de gardien et de travailleurs — si cette technologie pouvait être développée « à temps ».

Un tournant libertarien

Pour Douglas Rushkoff, « leur extrême richesse et leurs privilèges les ont rendus obsédés par l’idée de s’isoler du danger réel, écrit-il. Ils veulent s’échapper d’un monde qu’ils ont rendu invivable. »

Ce rêve d’évasion est assez inédit dans l’histoire, même si pendant la guerre froide, les riches se construisaient déjà des bunkers pour survivre à un hiver nucléaire. Dans une interview à L’Obs, le philosophe Bruno Latour estimait que la bascule a eu lieu dans les années 1980 et 1990. C’est à partir de ce moment que les riches auraient suivi « un processus de radicalisation solitaire ».

En 1997, au sein de la Silicon Valley, un manifeste technolibertaire est sur toutes les lèvres : The Sovereign Individual : How to Survive and Thrive During the Collapse of the Welfare State (éd. Simon & Schuster), que l’on peut traduire par L’individu souverain : comment survivre et prospérer durant l’effondrement de l’État-providence, de James Dale Davidson et William Rees-Mogg. Il prédit que la faillite de l’État-nation est inéluctable et que seule une « aristocratie » et « une élite cognitive » survivra. Pour les auteurs, « le développement technologique est devenu moins une histoire d’épanouissement collectif que de survie personnelle ». Le progrès pour tous n’est plus à atteindre. Le projet est de bâtir une forteresse pour une minorité de riches.

« Les membres les plus astucieux des classes dominantes ont alors compris que la globalisation n’était pas soutenable écologiquement, raconte Bruno Latour. Au lieu de changer de modèle économique, ils ont décidé de renoncer à l’idée d’un monde commun. » Autrement dit, « la classe dominante s’est immunisée contre la question écologique en se coupant du monde ».

Si elle a si facilement adhéré aux thèses de l’effondrement, c’est aussi parce que cette idée ne la menaçait pas directement. « L’effondrement est une façon de contourner une critique frontale du capitalisme et des rapports de classe, elle ne cible pas en priorité les riches mais nous invite à tous changer d’attitudes et de pratiques », estime le chercheur Edouard Morena. D’où sa popularité dans les hautes sphères.

L’ère du « misanthropocène »

L’idéologie séparatiste n’a cessé, depuis, de croître. Le sociologue Nicolaj Schultz parle même de « misanthropocène » pour évoquer notre époque. « Les maîtres du monde se préparent à nous abandonner comme des miettes sur une assiette », écrit-il.

On retrouve cette idée d’exode poussée à son paroxysme dans les fantasmes extraplanétaires d’un Elon Musk ou d’un Jeff Bezos qui rêvent de « terratransformer » Mars ou de bâtir des colonies géantes flottant dans le système solaire.

Puisqu’il n’est, pour l’instant, pas très sympathique de vivre dans l’espace, les ultrariches passent de « la planète B » au « plan B ». À défaut de pouvoir coloniser Mars, Mercure ou la Lune, ils s’assurent de posséder sur cette planète un luxueux refuge-bunker résistant aux aléas climatiques. Après moi, le déluge.

The Teen Mental Illness Epidemic is International: The Anglospherehttps://www.afterbabel.com/p/international-mental-illness-part-one

It is now widely accepted that an epidemic of mental illness began among American teens in the early 2010s. What caused it? Many commentators point to events in the USA around that time, such as a particularly horrific school shooting in 2012. But if the epidemic started in many nations at the same time, then such country-specific theories would not work. We’d need to find a global event or trend, and the 2008 Global Financial Crisis doesn’t match the timing at all, as Jean Twenge and I have shown.

In our 2018 book The Coddling of the American Mind, Greg Lukianoff and I presented evidence that the same trends were happening in Canada and the United Kingdom—not just the rise in depression and anxiety, but also the overprotection of children, the rise of “safetyism,” and the shouting down of speakers on university campuses when students deemed the speaker to be “harmful.” It seemed that all the Anglo nations were setting up their children for failure in the same ways at the same time.

In 2019 I went on a speaking tour of Australia and New Zealand (thanks to Think Inc) and discovered that the same trends were coming, more slowly, to the Southern hemisphere Anglo nations too. I then created two new collaborative review documents, one for Australia, and one for New Zealand, to gather all the empirical studies and journalistic accounts I could find.

In early 2020, just as COVID swept in, I hired Zach Rausch as a research assistant to help me handle these collaborative review docs. I connected with Zach, who was finishing his master’s degree in Psychological Science at SUNY New Paltz, after reading his blog post about his research related to The Coddling. Zach and I created many more collaborative review docs for many more countries and topics, which you can find (and add to) on this page.

In 2021, as I was beginning to work on the Babel project, I told Zach that it was urgent that we figure out just how international the mental illness epidemic was. Is it just happening in the five countries of what is sometimes called The Anglosphere? Is it all Western countries? Is it happening everywhere? Go figure it out and report back to me.

The rest of this post is Part 1 of Zach’s report, in his voice. I think his findings are momentous and should cause an immediate global rethinking of what children need to have a healthy childhood, and what obstacles to development arrived around the globe around 2012.

The Teen Mental Illness Epidemic is International, Part 2: The Nordic Nationshttps://www.afterbabel.com/p/international-mental-illness-part-two

Today we have Zach’s second post on how teen mental health is changing around the world. In his last post, Zach showed that there is a four-part pattern in the data from all five of the main “Anglosphere” countries. Today he presents the studies he has collected on teen mental health in the five Nordic nations (the three Scandinavian countries of Sweden, Denmark, and Norway, plus Finland and Iceland).

The Nordic nations differ in many ways from the Anglosphere countries. In particular, they have lower levels of some of the social pathologies that some have said might explain the rising levels of mental illness in the USA such as income inequality, a hyper-competitive neoliberal economy, school shootings, and other gun violence. The Nordic countries also seem to do a lot less of the “coddling” and paranoid overprotection that is rampant in the USA, Canada, and the UK (though not so common down under).

And yet, as you’ll see, the basic pattern largely holds. I think these two posts from Zach are tremendously important for they show us that the teen mental illness epidemic is international. We need to be looking for causes that can explain the international pattern, even as we know there are also additional causes and cultural interactions specific to each country.

Arthur Keller : « Notre civilisation convertit la nature en déchets »https://lareleveetlapeste.fr/arthur-keller-notre-civilisation-est-une-machine-qui-convertit-la-nature-en-dechets/

Arthur Keller : « Notre civilisation est une machine qui convertit la nature en déchets »

"On nous persuade que le bonheur découlerait d’une somme de petits plaisirs et que le plaisir proviendrait de la consommation et de l’accumulation, alors qu’il n’est pas de vrai bonheur sans la fierté de se battre pour les valeurs qu’on sait bonnes et sans la sagesse de l’autolimitation."

Texte: Laurie Debove

Arthur Keller est un spécialiste des risques systémiques qui pèsent sur les sociétés humaines, des vulnérabilités de ces dernières face à ces risques, et des stratégies de transformation collective, dans une optique de résilience. Alors que l’humanité dépasse de plus en plus de limites planétaires, nous l’avons interrogé pour savoir comment transformer nos sociétés afin qu’elles deviennent plus justes et pérennes.

Pour Arthur Keller, notre planète est atteinte d’un cancer généralisé

Arthur Keller : « J’utilise souvent une analogie que j’ai développée pour illustrer l’erreur méthodologique fondamentale que nous commettons dans notre approche générale des enjeux liés au dépassement écologique planétaire : la métaphore du cancer généralisé. C’est un dérèglement systémique du corps, qui se traduit en de multiples symptômes : maux de tête, problèmes de peau et de digestion, par exemple. Pour chacun de ces symptômes, il existe des remèdes, ça peut être de l’ibuprofène, une pommade, un antispasmodique. Pourtant, la somme de ces « solutions » ne guérit pas la maladie.

Pour chaque crise, des experts préconisent des solutions, et l’on s’imagine que la somme de ces solutions pourrait nous sauver. Hélas le compartimentage en champs d’expertise masque la réalité de la maladie : notre civilisation est une machine qui convertit la nature en déchets.

Ces derniers sont solides, liquides ou gazeux ; parmi les gaz, certains détraquent le climat. Le changement climatique, à l’instar des autres crises, n’est qu’un symptôme de la maladie. Et notre obstination à nous attaquer aux conséquences sans remettre en question les causes explique selon moi notre échec constaté jusqu’ici.

LR&LP : Selon une étude publiée le 31 mai dans la revue Nature, sept des huit limites assurant la stabilité et la bonne santé du système planétaire ont déjà été dépassées. Quelles sont-elles ?

Arthur Keller : Cette étude est intéressante parce qu’elle porte sur le système dynamique complexe qui est constitué du système Terre (lithosphère, cryosphère, atmosphère, biosphère et pédosphère) et de l’anthroposphère (la sphère englobant l’humanité, ses sociétés et ses activités). Dans le cadre des limites planétaires, on n’était que sur le système Terre ; ici l’on incorpore les sciences humaines et sociales, comme dans le concept d’économie du donut de Kate Raworth.

En 2009, une équipe internationale de scientifiques a déterminé 9 seuils à ne pas dépasser pour préserver une planète Terre habitable pour l’humanité. Le seuil de stabilité de la machine climatique a été dépassé, nous sommes donc entrés dans une phase transitoire entre un état climatique stable et un autre, qui n’adviendra probablement pas avant plusieurs milliers ou dizaines de milliers d’années en raison notamment de la cinétique propre à la cryosphère. Jusqu’à nouvel ordre, nous allons donc devoir faire avec un climat fortement instable.

Par ailleurs, une nouvelle extinction de masse est enclenchée, due aux activités humaines, activités agricoles et forestières au premier plan. Les pollutions sont rejetées dans les milieux naturels si vite qu’elles s’accumulent et rendent les habitats naturels toxiques. Les cycles biogéochimiques, grands cycles du vivant, sont déréglés, notamment le phosphore et l’azote, ainsi que le cycle de l’eau.

Une autre limite est proche : celle qui concerne l’acidification des océans. Quant à la limite liée aux aérosols dans l’atmosphère, nous sommes encore en deçà du seuil fatidique. La dernière actuellement identifiée a trait au trou dans la couche d’ozone : c’est l’unique domaine dans lequel la situation progresse dans la bonne direction. Au final, l’humanité a d’ores et déjà franchi 6 des 9 limites qu’il ne faut pas franchir, selon les scientifiques, afin de garantir l’habitabilité de la Terre.

Dans l‘étude parue fin mai, il ne s’agit pas tout à fait des mêmes 9 limites mais d’un sous-ensemble. Ces 8 limites-là, définies comme « sûres et justes », intègrent à la fois des données scientifiques et des métriques sociales. Et ce que dit la publication, c’est que 7 de ces 8 limites ont déjà été dépassées.

Même sans alarmisme, la situation est alarmante.

LR&LP : Certains appellent à « Changer de civilisation », est-ce possible et la solution ?\

Arthur Keller : C’est indispensable ! Hélas ce n’est pas pour cela que c’est possible. Je ne crois malheureusement pas une seconde à notre capacité collective à organiser la métamorphose nécessaire. Le système s’auto-entretient, je suis convaincu qu’il le fera jusqu’à s’autodétruire, entraînant avec lui une grande partie de la biosphère.

On ne peut pas durablement prélever plus de ressources que ce que le système Terre peut produire, de même on ne peut continuer de détruire plus vite que la capacité d’autoréparation. C’est pour cela qu’on va vivre, dans les prochaines années et décennies, une grande descente énergétique et matérielle agrémentée de raréfactions et de pénuries conflictogènes.

Cette descente induira forcément une contraction économique, car la croissance de l’économie est fortement corrélée aux flux d’énergie et de matières premières. C’est inéluctable. Et échouer à planifier et piloter cette contraction sous forme de politiques de décroissance nous condamnera à la subir dans le chaos sous la forme d’un délitement socio-économique désastreux et potentiellement permanent. Bien avant 2050.

Il n’existe aucun moyen d’opérer un découplage absolu entre le Produit Intérieur Brut et la pression anthropique globale – ceux qui prétendent le contraire n’ont pas saisi la systémique des enjeux ou sont des lobbyistes au service d’une idéologie ou d’intérêts financiers. Dans tous les cas, leurs propos sont en déphasage avec les données et les connaissances scientifiques.

Il faudrait donc, en effet, changer en profondeur les règles de l’économie mondiale et nos modèles de sociétés, mais le système repose sur des ordres établis si solidement ancrés qu’il n’est pas possible, j’en ai peur, de le changer véritablement.

On peut en limiter la nocivité par la voie de la mobilisation politique et citoyenne, par la révolte et la Résistance (sous le radar ou frontales) : l’idéal serait que les diverses modalités de lutte et les différentes radicalités se comprennent comme des alliées mutuelles et se synergisent enfin.

En parallèle, il faut poser les fondations d’un système alternatif, même si l’on ne dispose pas de tous les moyens qu’il faudrait : à travers des expérimentations et des démonstrateurs territoriaux, il est temps de prouver et de faire savoir, via des récits inspirants, qu’il existe d’autres façons d’organiser les économies locales, de prendre les décisions collectivement, d’assurer aux gens un minimum vital, de développer des activités régénératives, de travailler sur le découplage entre qualité de vie et quantité énergétique et matérielle, de réaménager des espaces pour un vivre-ensemble salubre.

Il est possible de redonner du sens, de nourrir une culture du risque, de la responsabilité et de la solidarité, de créer de la cohésion, d’insuffler la conviction d’une appartenance à une même communauté de destin.

Le grand système extrêmement puissant va se casser la gueule, le technosolutionnisme atteint ses limites, les « solutions » sur lesquelles nous misons l’avenir et les grands projets que les privilégiés persistent à nourrir (conquête spatiale, IA, impérialisme, etc.) vont également buter sur la descente énergétique et matérielle. Il faut anticiper des bascules sociétales et s’y préparer collectivement, en coopération intra- et inter-territoriales, intra- et inter-communautaires, sans tomber dans le piège de l’entre-soi.

Un changement de civilisation à travers les territoires

LR&LP : Comment préparer un territoire ?

Arthur Keller : Cela fait appel à des principes, leviers, outils que j’enseigne à des élus et agents territoriaux, ou à des citoyens dans le cadre de formations et d’ateliers. Même si à ce jour il n’existe pas, à ma connaissance, de collectivité pleinement résiliente, il existe tout de même des initiatives vraiment intéressantes, des démarches volontaristes qui vont dans le bon sens.

Qu’il s’agisse de collectifs participant au mouvement des Villes en transition, de certains oasis Colibris, de dynamiques territoriales comme le projet TERA, de monnaies locales et de systèmes d’échanges locaux, de réserves communales de sécurité civile, il se passe des choses intéressantes et inspirantes, on ne part pas de zéro et c’est rassurant !

Une partie de ces projets territoriaux s’attaquent à un point clé : comment produire l’essentiel de façon pérenne, en tenant compte des évolutions écologiques (climat, cycle de l’eau, biodiversité, etc.) et de possibles ruptures d’approvisionnement critiques, en ne comptant que sur ce dont on peut disposer dans un rayon géographique maîtrisable.

En matière de production alimentaire, on a la chance inouïe d’avoir des approches qui cochent toutes les cases : l’agroécologie, l’agroforesterie et la permaculture réunies, avec des pratiques sur sol vivant, ont le potentiel de nourrir le monde entier de façon saine, variée, nutritive et savoureuse tout en régénérant les écosystèmes.

Des monnaies locales et des circuits courts locaux sont aussi créés, reliant les acteurs et habitants des territoires. Des expérimentations sociales aussi, portant par exemple sur un revenu minimum d’existence ou un revenu minimum universel, sur une dotation inconditionnelle d’autonomie ou une sécurité sociale alimentaire comme à Montpellier et Strasbourg, sont en cours. Ainsi que de multiples initiatives de démocratie délibérative et participative…

Les gens peuvent et doivent se réapproprier la gestion des Communs. Les collectivités ont la capacité de garantir l’accès à tous au minimum vital : à Montpellier, les premiers mètres cubes d’eau sont désormais gratuits. Il serait intéressant d’étendre ce principe à tout ce qui est nécessaire pour vivre dignement.

La question des récits est en vogue et pour une bonne raison, car il n’y aura pas de massification des changements de comportements sans l’émergence de nouveaux imaginaires. Plus encore que des œuvres de fiction, il est capital de transposer les transformations concrètes réussies en récits vivides et inspirants afin d’alimenter une dynamique culturelle.

LR&LP : Les mentalités sont-elles prêtes pour expérimenter et mettre en place tout ça ?

Arthur Keller : La promesse de plus de confort et moins de travail proposée de longue date par les promoteurs de l’innovation technique n’a pas été tenue. Aujourd’hui, ce même système nous explique qu’il faut travailler toujours plus pour se maintenir sur place. Le « progrès » s’est mué en un marathon qui enrôle de force, assaillit de dissonances cognitives et aboutit en général à un sentiment amer d’inassouvissement.

Ceux qui proposent la semaine de 4 jours sont traités de fous, comme le furent avant eux les défenseurs de la journée de 12 heures, puis de 10, puis de 8, puis les partisans du repos dominical, puis ceux des congés payés – deux, trois, quatre puis cinq semaines ! – puis ceux de la semaine de 35 heures.

Chaque progrès social se heurte aux chantres du productivisme forcené.

Les robots, les objets connectés et l’IA nous envahissent mais ne s’accompagnent pas d’une libération puisque rien n’est entrepris pour que les gens puissent vivre bien sans emploi ; au contraire, les postures idiotes prolifèrent qui assimilent le non-emploi à de la fainéantise et le fainéant à un sous-citoyen qui ne mériterait pas la fraternité de l’État-providence.

Les habitants des pays riches sont saturés de choix de consommation qui leur sont présentés comme un summum de liberté alors que cette surenchère aliène en créant de l’addiction – c’est-à-dire une dépendance, l’exact opposé d’une liberté –, une insatiabilité croissante et de la frustration : plus t’en as, plus t’en veux… jusqu’à la perte de sens totale.

Cette course folle ne rend pas seulement fou mais aussi malheureux. Au-delà d’un certain niveau de vie, il y a un point de rebroussement du bonheur ressenti.

On nous persuade que le bonheur découlerait d’une somme de petits plaisirs et que le plaisir proviendrait de la consommation et de l’accumulation, alors qu’il n’est pas de vrai bonheur sans la fierté de se battre pour les valeurs qu’on sait bonnes et sans la sagesse de l’autolimitation.

Il me semble d’ailleurs primordial de réapprendre la notion de liberté : une somme d’individualismes sans limites ne débouche jamais sur une société libre mais sur une dystopie dans laquelle quelques riches peuvent tout et la majorité presque rien.

La liberté de chacun découle d’une géométrie démocratiquement négociée des droits et des devoirs : quand des limites énergétiques et matérielles, biophysiques et écologiques, s’imposent aux sociétés humaines, ne pas les retranscrire rationnellement en libertés et en interdits et ne pas les décliner en codes sociaux et culturels ne peut qu’entraîner la dislocation des sociétés.

Ceux qui refusent de nouvelles limitations par principe, sans s’intéresser aux bouleversements à l’œuvre dont découle l’impératif desdites limitations, n’œuvrent pas au nom de la liberté ainsi qu’ils le prétendent mais dans l’espoir égoïste de maintenir leurs privilèges. Le monde change vite ; si nous voulons préserver ce qui compte, il nous faut vite changer aussi. » conclut Arthur Keller

Pornhub, YouPorn, Xvideos… Comment les « tubes » ont bouleversé le pornohttps://www.lemonde.fr/pixels/article/2023/10/03/pornhub-youporn-xvideos-comment-les-tubes-ont-bouleverse-le-porno_6192264_4408996.html

Pornhub, YouPorn, Xvideos… Comment les « tubes » ont bouleversé le porno

Par Pauline Croquet , Damien Leloup et Florian Reynaud

Publié hier à 20h00, modifié à 01h36 sur Le Monde

En quelques années, ces sites ont imposé comme modèle l’accès facile et gratuit à une masse de contenus pour adultes, souvent peu contrôlés. Ils sont aujourd’hui au cœur d’un rapport du Haut Conseil à l’égalité, mais aussi des débats sur les outils de vérification de l’âge des internautes, discutés mercredi à l’Assemblée nationale.

Août 2006. Alors que YouTube est encore un « petit » site peu connu (il ne sera racheté par Google que trois mois plus tard), un site pornographique d’un genre nouveau est discrètement mis en ligne : nom similaire, page d’accueil avec des vignettes imagées, possibilité de mettre en ligne ses propres contenus… YouPorn reprend les codes de ce qui deviendra le géant mondial de la vidéo.

Et le succès est immédiat. A la fin du mois de novembre, les administrateurs anonymes du site remplacent la page d’accueil par un message d’erreur : « Nous sommes à court de bande passante ! Nous avons utilisé 31 téraoctets en deux jours, sur 2 300 000 téléchargements [visionnages]. Nous cherchons des fournisseurs de serveurs illimités en Europe. »

Ces audiences, stratosphériques pour l’époque, ne passent pas inaperçues. L’année suivante, des dizaines de clones apparaissent en ligne, dont certains sont toujours présents aujourd’hui dans le top mondial des sites les plus visités. Pornhub, RedTube, Xvideos et Xhamster se lancent ainsi à quelques mois d’intervalle, marquant le début d’une guerre des « tubes » – le nom qui désignera les sites de ce type – qui durera des années.

Monter un site de ce type n’est pas particulièrement compliqué. Les outils techniques, et notamment les algorithmes de compression vidéo indispensables pour limiter les frais de bande passante, se démocratisent très vite. Trouver du contenu est également très simple : outre une poignée de vidéos amateur tournées et mises en ligne par les utilisateurs, l’écrasante majorité est pillée sur les sites payants ou d’autres « tubes ». Aucune modération, aucun contrôle de l’âge des internautes, aucun scrupule, mais des audiences gigantesques : le modèle des « tubes » bouscule en quelques années le monde de la pornographie en ligne.

Une oligarchie du porno

Dans le chaos de ces premières années, un homme va jouer un rôle déterminant : Fabian Thylmann. Ce jeune Allemand s’est spécialisé dans la publicité des sites pour adultes et investit dans plusieurs « tubes », dont il finit par prendre le contrôle, notamment Pornhub et YouPorn. Ses différentes plates-formes font à l’époque l’objet de dizaines de plaintes pour infraction au droit d’auteur, déposées par les sociétés de production et les studios du X.

Grâce à l’argent accumulé par ses sites, Fabian Thylmann résout en partie le problème… en s’offrant les entreprises qui l’attaquent. Brazzers, qui avait des accords avec certains « tubes », est rachetée en 2009 ; trois ans plus tard, le mastodonte Digital Playground et Reality Kings passeront également sous son contrôle.

L’ascension éclair de Fabian Thylmann est brutalement stoppée en 2012 lorsqu’il est interpellé et mis en examen pour fraude fiscale. Il revend l’année suivante son empire du porno – considéré comme le plus grand au monde – à deux autres entrepreneurs du secteur, les Canadiens Feras Antoon (cofondateur de Brazzers) et David Tassilo. C’est la naissance de MindGeek, aujourd’hui rebaptisé Aylo. Son principal concurrent, WGCZ Holding (Xvideos, Xnxx…), fondé par les Français Stéphane et Malorie Pacaud, rachète ou lance lui aussi en parallèle des studios en plus de ses sites de « tubes », comme Bang Bros et Legal Porno. Avec Wisebits Group (Xhamster, Stripchat), ces trois holdings contrôlent l’écrasante majorité des sites gratuits pour adultes les plus populaires au monde.

En quelques années, une poignée de plates-formes a ainsi révolutionné la manière dont les internautes accèdent aux vidéos pornographiques. « Quand les premiers “tubes” sont apparus, personne n’avait conscience d’à quel point ils allaient complètement modifier les habitudes de consommation de vidéos, se souvient Carmina, actrice et réalisatrice indépendante de films pour adultes et également rédactrice en chef du site spécialisé Le Tag parfait. Mais ça n’est pas propre au porno : c’était exactement la même chose pour YouTube ! »

Changement d’échelle et « prescription »

Des sites pour adultes existaient bien sûr avant l’arrivée de Xvideos ou Pornhub, mais les « tubes » ont solidifié l’idée que la pornographie était, au moins en partie, accessible gratuitement en ligne, donnant lieu à un changement d’échelle. « La montée des “tubes”, avec leur offre infinie de vidéos gratuites, a coïncidé avec le déclin global de l’économie de 2008 (…), et la très forte demande a entériné le fait que de nombreux utilisateurs ne seraient plus prêts à payer pour leur porno », expliquait en 2019 la chercheuse Margaret MacDonald (aujourd’hui au conseil consultatif de la maison mère de Pornhub) dans sa thèse sur l’industrie du porno.

L’avènement de ces plates-formes coïncide par ailleurs avec l’apparition des smartphones. Ensemble, ces deux éléments ont fait entrer le porno dans la sphère domestique, selon le chercheur Florian Vörös. « On peut le visionner en déplacement, dans les toilettes au travail, ça va changer les pratiques pour aller dans le sens d’une consommation qui s’insère dans les routines de la vie quotidienne », explique le sociologue à l’université de Lille.

Jusqu’à créer des addictions ? Répondant à un appel à témoignages du Monde, plusieurs internautes ont confié leur malaise devant leur propre consommation, mettant souvent en avant la facilité d’accès à la pornographie comme un facteur déterminant. Et sur le forum américain Reddit, certaines communautés rassemblent depuis des années des centaines de milliers de personnes exprimant une souffrance générée par une consommation massive de contenus pour adultes. Même si, d’un point de vue scientifique, l’addiction à la pornographie fait encore l’objet de nombreux débats.

Reste que les « tubes », en rendant tous les types de sexualité accessibles, les ont aussi rendus plus visibles. Côté pile, cela permet d’explorer librement sa sexualité, y compris lorsqu’elle va à rebours de tabous sociétaux : aux Etats-Unis, plusieurs études ont montré que la consommation de vidéos mettant en scène des personnes homosexuelles ou transgenres était proportionnellement plus forte dans les Etats les plus conservateurs. Côté face, ces plates-formes rendent aussi plus accessibles des contenus violents ou extrêmes, a fortiori lorsqu’elles sont mal, voire pas du tout, modérées.

Car, depuis leur apparition, une vive controverse existe sur leur caractère « prescripteur », faisant écho à un débat similaire plus large concernant l’impact de la pornographie sur la sexualité de ses consommateurs. Pornhub et ses concurrents sont ainsi régulièrement accusés de promouvoir, sur leur page d’accueil ou dans les suggestions de vidéos, une image violente, caricaturale ou malsaine de la sexualité, notamment avec le système des « tags ». Ces mots-clés peuvent aussi bien renvoyer à des descriptions physiques des actrices et acteurs qu’aux actes sexuels présentés ou au décor des vidéos. Nombre d’entre eux sont régulièrement dénoncés pour leur teneur raciste et misogyne, ou encore lorsqu’ils font la promotion de l’inceste.

« Certes, quand on a un intérêt spécifique, un “kink”, c’est hyperpratique pour trouver des vidéos correspondantes, reconnaît Carmina. Le problème, c’est qu’ils ont tendance à être fortement sexistes, racistes, classistes, hétéronormés… Catégoriser les corps avec des tags, ça peut être un problème ; mais les problèmes sur la vision du corps de la femme, ça n’est pas un débat inhérent au porno, c’est dans toutes les industries, dont le cinéma. »

La bataille du contrôle de l’âge

Devenus incontournables, la plupart des gros « tubes » ont tenté ces dernières années d’asseoir une forme de légitimité et d’engager un processus de « normalisation ». Certains ont mis fin au piratage à grande échelle de contenus, ont lancé des services pour rémunérer les « modèles », et tous ceux appartenant à de grands groupes ont conclu des accords avec des plates-formes payantes. En début d’année, MindGeek a même été racheté par Ethical Capital Partners, un fonds d’investissement canadien.

Mais tous sont encore aujourd’hui visés par des plaintes en justice et des enquêtes dans divers pays. De nombreux articles de presse récents ont montré que ces sites continuaient d’héberger des vidéos illégales, de violences sexuelles notamment, et ne répondaient pas, ou trop tardivement, aux demandes de suppression de contenus relevant du revenge porn (« pornodivulgation »), qui consiste à diffuser sans le consentement de quelqu’un des images censées rester privées. Le studio Legal Porno est notamment accusé d’imposer des conditions de travail et des scènes extrêmement violentes aux actrices : une enquête a été ouverte en République tchèque. En France, le scandale French Bukkake a révélé des pratiques violentes et un système de « prédation » organisé pour les tournages de ce site, en accès payant mais dont les vidéos se retrouvent aussi sur certains « tubes ».

De son côté, Pornhub a joué un rôle central dans le scandale Girls Do Porn, un studio accusé d’avoir monté un vaste système d’intimidation et de coercition pour imposer à des femmes de tourner des scènes en leur promettant une distribution confidentielle, alors même que les vidéos étaient diffusées sur des sites à forte audience. La plate-forme a également été impliquée en 2020 dans un autre scandale après la publication d’une enquête du New York Times sur la présence sur le site de vidéos pornocriminelles et de viols. A l’époque, Visa et Mastercard avaient coupé leurs services auprès de Pornhub, et l’entreprise avait supprimé en catastrophe une grande partie des contenus mis en ligne par ses utilisateurs.

Quatre plates-formes de « tubes » (Pornhub, Xvideos, Xnxx et Xhamster) sont directement visées par le récent – et controversé – rapport sur la pornographie du Haut Conseil à l’égalité entre les femmes et les hommes, publié en France le 27 septembre.

Plus menaçant encore pour ces sites, une bonne dizaine d’Etats américains et plusieurs pays, dont la France, ont cherché ces trois dernières années à leur imposer un contrôle strict de l’âge de leurs visiteurs. En Louisiane, où un mécanisme de vérification a été mis en place, Pornhub a « instantanément vu son trafic chuter de 80 % », expliquait à la mi-juillet au Monde Solomon Friedman, l’un des dirigeants de Aylo, propriétaire de la plate-forme. Dans l’Hexagone, le projet de loi visant à sécuriser et réguler l’espace numérique, débattu mercredi 4 octobre à l’Assemblée nationale, veut permettre le blocage des sites qui ne se plient pas aux règles, sans avoir à passer par une décision de justice.

Partout où elles sont proposées, ces lois imposant la vérification d’âge sont férocement contestées par les « tubes ». Système en double anonymat, empreinte de carte bleue, analyse faciale… si les modalités techniques d’un tel contrôle sont débattues, ce qui se joue en réalité est surtout leur modèle économique. Pour des sites qui ont bâti leur empire sur des revenus publicitaires et un océan de contenus accessible en deux clics, tout système de vérification constituera une entrave. Et donc une menace existentielle.

La Chine confrontée au trafic des “visages volés” de l’intelligence artificiellehttps://www.courrierinternational.com/article/cybercriminalite-la-chine-confrontee-au-trafic-des-visages-voles-de-l-intelligence-artificielle

La Chine confrontée au trafic des “visages volés” de l’intelligence artificielle

Chantage à la fausse sextape, manipulations bancaires… En Chine, le développement de l’intelligence artificielle (IA) fait passer l’escroquerie en ligne à un niveau inédit. Dans une société où tout est enregistré, des caméras de surveillance à la reconnaissance faciale sur smartphone, les données relatives aux visages ou à la voix des individus se monnaient à vil prix sur Internet. Les victimes en “perdent la face” – littéralement.

Xinjing Bao par Wang Chang Traduit du chinois Publié aujourd’hui à 05h00 Lecture 9 min.

L’appel vidéo n’a duré que sept secondes. Assez, cependant, pour que Fang Yangyu soit persuadé que ce visage et cette voix étaient bien ceux d’un de ses proches. Et pour qu’il vire 300 000 yuans [près de 39 000 euros] sur un compte bancaire.

“En fait, tout était faux !” tranche le commissaire Zhang Zhenhua, du bureau de la sécurité publique de Shanghe [un district de la province du Shandong, dans l’est de la Chine]. “C’était une escroquerie par IA, comme on en voit beaucoup ces derniers temps.”

L’affaire s’est produite le 29 mai dernier : Fang Yangyu, qui réside à Jinan [la capitale du Shandong], regarde de courtes vidéos chez lui, quand il reçoit un message d’un inconnu qui se présente comme un membre de sa famille, et qui lui envoie son identifiant QQ [“Kioukiou”, du nom d’un des principaux réseaux de messagerie en Chine]. À peine Fang Yangyu a-t-il ajouté le contact qu’il reçoit un appel vidéo de celui qui a tout l’air d’être un de ses “cousins”.

Sous prétexte de la mauvaise qualité du réseau, son interlocuteur raccroche au bout de quelques phrases échangées. Leur conversation se poursuit dans le chat : le “cousin” explique qu’il doit de toute urgence transférer une somme d’argent, mais qu’il n’arrive pas à le faire directement. Il voudrait donc d’abord virer les fonds sur le compte de Fang Yangyu pour que celui-ci les transfère ensuite sur une carte bancaire donnée.

À l’autre bout de la Chine

Il lui envoie deux captures d’écran attestant du bon virement des sommes sur le compte de Fang Yangyu, qui s’étonne tout de même de n’avoir pas reçu de notification de sa banque. “Ça devrait arriver dans les vingt-quatre heures. De toute façon, les justificatifs bancaires font foi”, lui assure son “cousin”, qui fait doucement monter la pression. Face à ses demandes répétées, Fang finit par virer les 300 000 yuans sur le compte indiqué.

Peu après, son interlocuteur lui demande de transférer 350 000 yuans de plus. Fang Yangyu se méfie, se souvenant d’un message de sensibilisation aux arnaques ; il téléphone à un autre membre de sa famille [pour vérifier l’identité de ce “cousin”] et finit par découvrir le pot aux roses.

Le soir même, il prévient la police, qui constate que sa carte bancaire a été utilisée dans une bijouterie de la province du Guangdong [à l’autre bout de la Chine, dans le sud-est]. Le lendemain, la police locale interpelle six suspects dans la ville de Dongguan.

Elle découvre que le cerveau de cette escroquerie par IA se trouve dans le nord de la Birmanie. Les six individus arrêtés en Chine, eux, s’étaient organisés pour blanchir de l’argent au profit d’escrocs situés à l’étranger en se répartissant les tâches (achats d’or, versement de liquide à la banque, prises de contact en ligne, etc.).

La fuite de données, à la base du problème

Ces affaires d’escroqueries par IA interposée touchent tout le territoire chinois. Wang Jie, chercheur associé en droit à l’Académie des sciences sociales de Pékin, raconte avoir entendu parler pour la première fois de ce genre d’arnaque en 2019, lorsqu’un étudiant étranger avait cru échanger avec ses parents en visio alors que c’était un hypertrucage (aussi connu sous le nom anglais de deepfake) réalisé par des malfaiteurs. Avant cela, des affaires similaires de substitution de visages par IA à des fins frauduleuses avaient été traitées par les polices de Harbin (nord-est de la Chine) et de Fuzhou (sud-est) .

“Derrière les arnaques par intelligence artificielle, il y a toujours un problème de fuite de données”, souligne Wang Jie. Car, à l’ère de l’IA, la voix et le visage humains sont devenus des données qui peuvent se marchander et devenir source de profits.

De fait, nombreux sont ceux qui “perdent la face” sans s’en apercevoir. Il suffit pour cela de quelques secondes, comme en a fait l’amère expérience Pan Ziping, un habitant de la province de l’Anhui, dans l’est de la Chine.

Le 24 mars au soir, plongé dans la lecture d’un roman de fantasy sur son téléphone portable, il clique par inadvertance sur une publicité en voulant faire défiler le texte. L’action déclenche le téléchargement d’un jeu. Par curiosité, Pan Ziping essaie d’y jouer, puis désinstalle le programme, qu’il juge inintéressant.

Dix secondes fatales

Dans la foulée, il reçoit un appel téléphonique de l’étranger. Son interlocuteur affirme avoir accès à toutes les informations contenues dans son smartphone, en particulier sa galerie de photos et son répertoire. Il lui propose d’en parler sur QQ. Sans trop réfléchir, Pan Ziping l’ajoute donc à ses contacts. Dans la foulée, il reçoit un appel en visio. L’homme, qui n’a pas branché sa caméra, lui cite alors plusieurs noms de personnes figurant dans son carnet d’adresses, puis met fin à l’appel vidéo.

Quelques minutes plus tard, Pan Ziping reçoit par QQ une vidéo pornographique d’une dizaine de secondes : on y voit un homme nu en pleine action ; mais le visage de cet homme, c’est le sien. Pan Ziping est abasourdi : “C’est donc ça, la technologie d’aujourd’hui !” Alors qu’il est toujours interloqué, il reçoit un nouveau coup de téléphone, menaçant :

“Si tu ne me verses pas 38 000 yuans [près de 5 000 euros], j’envoie ta ‘petite vidéo’ à tout ton répertoire !”

À l’appui, l’homme joint une copie d’écran montrant que la vidéo est bien prête à partir ; un simple clic, et tous les amis, tous les contacts de Pan Ziping la reçoivent…

Pan Ziping partage alors son écran pour montrer à son interlocuteur qu’il n’a pas assez d’argent sur ses comptes Alipay et WeChat [nécessaires aux transferts d’argent]. L’homme diminue alors son prix, n’exigeant plus que 28 000 yuans, puis 18 000 et finalement 8 000 yuans [un peu plus de 1 000 euros]. Mais Pan Ziping est formel, c’est au-dessus de ses moyens. Son interlocuteur le pousse donc à emprunter les sommes nécessaires sur des plateformes de prêt en ligne.

Un jeu d’enfant

Pan hésite, prépare le transfert… Puis il finit par quitter l’appel et téléphone au 110 [le numéro d’urgence de la police]. Mais au bout du fil, l’agent refuse de recevoir sa plainte, au motif qu’il n’y a pas de préjudice avéré. Pan Ziping demande ce qu’il doit faire pour régler cette histoire de vidéo porno truquée par IA. On lui répond que la police n’a pas les moyens de la détruire. Et que la seule solution, pour lui, c’est d’envoyer un message collectif expliquant cette affaire à tout son carnet d’adresses.

Au fil de ses recherches, le chercheur Wang Jie a documenté de nombreux cas de pertes de données personnelles par des individus qui, après avoir consulté des sites web douteux, ont été victimes d’arnaques. Il estime que, avec les techniques actuelles, “capturer des données faciales est devenu un jeu d’enfant”. Elles sont collectées à notre insu par les caméras de surveillance omniprésentes, par les systèmes de détection faciale de nos smartphones ou encore par les applications qui demandent l’accès à nos galeries de photos.

En 2021, à Hefei [la capitale de l’Anhui], la police a débusqué un groupe de malfaiteurs qui se servaient de techniques d’intelligence artificielle pour trafiquer les visages de personnes sur des FMV [pour full motion videos, des scènes reconstituées à partir de fichiers vidéo préenregistrés]. Sur les ordinateurs des suspects, on a découvert une dizaine de gigaoctets de données faciales, qui ont changé de mains à de nombreuses reprises sur Internet – à l’insu, bien sûr, des personnes concernées.

Règlements inapplicables

Entre autres paliers franchis par les technologies de l’intelligence artificielle, les outils d’échange de visages par IA (aussi connus sous le nom face swap) sont désormais à la portée de tous.

Dès 2019, une application de ce genre appelée ZAO faisait fureur [en Chine], avant d’être retirée pour violation des droits d’auteur et atteinte à la vie privée, entre autres. Ses utilisateurs n’avaient qu’à fournir une photo de leur visage pour se retrouver, dans des vidéos, à la place de leur personnage de film ou de série préféré.

Spécialiste de droit pénal, Liu Xianquan met en garde contre les graves dangers qui peuvent résulter du détournement le plus anodin :

“En fait, ce n’est pas tant la technologie d’échange de visages par IA qui pose problème que la façon dont elle est utilisée.”

La Chine a mis en place, le 10 janvier dernier, un règlement limitant les services d’hypertrucage proposés sur Internet en Chine. Il stipule que les fournisseurs de ces services de deepfake ont pour obligation d’ajouter une fonction permettant d’identifier clairement le contenu comme étant issu d’un trucage numérique.

Par ailleurs, lorsqu’ils proposent des montages à partir de données biométriques comme la voix ou le visage d’un individu, ils sont tenus de prévenir leurs clients de l’obligation d’obtenir le consentement de cet individu. Problème : les techniques d’échange de visages par IA se monnayent bien souvent en catimini sur Internet, ce qui rend l’application de ce règlement particulièrement difficile.

Recréer les parties invisibles

On trouve des services en ligne proposant de changer les visages sur des photos pour 35, 50 ou 100 yuans [de 4,5 à 13 euros]. Pour les échanges de visages sur des vidéos, la tarification est à la minute, de 70 à 400 yuans [de 9 à 50 euros].

“Il est possible de changer n’importe quel visage”, indique l’un de ces marchands, qui se fait appeler “Zhang l’ingénieur”. Si un client lui fournit la photo ou la vidéo d’un visage, il est capable de l’intervertir avec celui d’une vedette, par exemple, mais aussi de “ressusciter” en vidéo des personnes mortes.

Zhang l’ingénieur ne propose pas seulement des prestations clé en main, mais aussi d’enseigner les techniques d’échange de visages. “Chez nous, on peut acheter un tutoriel et apprendre à tout faire soi-même”, indique-t-il. Il a lui-même développé un algorithme, qu’il vend 368 yuans sous forme d’extension sur la plateforme [de commerce en ligne] Taobao pour une utilisation illimitée pendant… cinquante ans !

Pour un rendu plus naturel, certains de ces marchands conseillent de fournir une photo de départ prise sous le même angle que celle de destination. Mais un autre vendeur affirme parvenir à un résultat criant de vérité avec juste une photo de face :

“Grâce au processus de ‘machine learning automatisé’, on peut reconstituer un visage dans ses moindres détails – y compris les parties invisibles.”

Le patron du studio de design vidéo Jielun, une boutique en ligne sur la plateforme WeChat, se présente comme un expert dans l’échange de visages par IA. Il montre avec fierté une vidéo de dix-neuf secondes qu’il a diffusée en mai dernier auprès de son cercle d’amis. Une femme vêtue d’un bustier, d’une minijupe et de bas noirs, s’y déhanche face à la caméra. Son visage ressemble en tout point à celui de la star [du cinéma et de la chanson] Yang Mi ; seul un léger décalage est décelable lorsqu’elle regarde vers le bas ou se tourne sur le côté.

Vingt euros la vidéo porno

Au studio Jielun, il faut compter 70 yuans la minute pour faire réaliser des vidéos ordinaires et 150 yuans [20 euros] pour des vidéos obscènes. Notre enquête confirme qu’il faut à peine deux heures de travail pour créer sur mesure une minute de vidéo porno truquée avec échange de visages.

Au cours de nos échanges, le patron du studio a demandé à plusieurs reprises à retirer des informations qu’il considérait comme “sensibles”. En revanche, il n’a jamais indiqué vouloir informer les “individus édités” de l’utilisation de leurs données faciales. Et, sur la vidéo truquée, il n’est nulle part fait mention d’un échange de visages par IA.

Mais le “commerçant” se retranche derrière ce qu’il appelle la “clause exonératoire de responsabilité” jointe à la vidéo. Elle stipule que “toute diffusion de matériel graphique ou vidéo est interdite, et le producteur n’en assume aucune conséquence. La vidéo est réalisée à des fins de divertissement uniquement, et nous ne pourrons en aucun cas être tenus responsables de l’utilisation des images et des vidéos, ni de tout autre dommage.”

Au Studio Jielun, on trouve également des applications ou des logiciels gratuits d’échange de visages par IA. Une rapide recherche sur TikTok suffit à découvrir de nombreuses offres publicitaires assorties de liens de téléchargement.

Le droit des victimes oublié

Ensuite, il suffit d’un clic : un clip publicitaire de vingt-cinq secondes se lance, après quoi, on peut utiliser gratuitement l’appli pour réaliser une vidéo truquée d’une dizaine de secondes, à partir de toute une série de courtes vidéos matricielles de célébrités ou de gens ordinaires, toutes disponibles sur la page d’accueil.

“C’est comme quand quelqu’un achète un couteau et commet un meurtre avec. Aurait-on l’idée d’en rejeter la faute sur le couteau ou sur celui qui l’a vendu ?”

Pour Gan Shirong, du cabinet d’avocats Huacheng de Pékin, ce n’est pas la technologie qui pose problème, mais l’utilisateur qui commet un acte illégal avec. Le juriste insiste, du reste, sur le fait que la vente “non encadrée” de ce genre de technologie augmente naturellement le risque de violation de la loi et rend son contrôle plus difficile.

Surtout, il est encore très compliqué de défendre les droits des victimes d’une violation d’identité par IA interposée. Comme le fait observer Liu Xianquan, d’un point de vue juridique, aucune réglementation pertinente n’existe actuellement sur l’utilisation et le développement des technologies d’intelligence artificielle.

Quant à Pan Ziping, il n’a finalement pas pu porter plainte après le vol de son visage et son utilisation dans une vidéo pornographique. L’affaire n’a pas eu de conséquence financière pour lui [puisqu’il a refusé le chantage], mais il n’a pu ni retrouver l’auteur du vol de son visage, ni empêcher la diffusion de la vidéo. Son seul recours a été d’envoyer un message collectif à tous les contacts de son répertoire pour leur demander de ne pas relayer la vidéo. Et, malgré les images, de ne pas croire à son contenu.

Inside the AI Porn Marketplace Where Everything and Everyone Is for Salehttps://www.404media.co/inside-the-ai-porn-marketplace-where-everything-and-everyone-is-for-sale/

Inside the AI Porn Marketplace Where Everything and Everyone Is for Sale

Emanuel Maiberg Aug 22, 2023

Generative AI tools have empowered amateurs and entrepreneurs to build mind-boggling amounts of non-consensual porn.

On CivitAI, a site for sharing image generating AI models, users can browse thousands of models that can produce any kind of pornographic scenario they can dream of, trained on real images of real people scraped without consent from every corner of the internet.

The “Erect Horse Penis - Concept LoRA,” an image generating AI model that instantly produces images of women with erect horse penises as their genitalia, has been downloaded 16,000 times, and has an average score of five out of five stars, despite criticism from users.

“For some reason adding ‘hands on hips’ to the prompt completely breaks this [model]. Generates just the balls with no penis 100% of the time. What a shame,” one user commented on the model. The creator of the model apologized for the error in a reply and said they hoped the problem will be solved in a future update.

The “Cock on head (the dickhead pose LoRA),” which has been downloaded 8,854 times, generates what its title describes: images of women with penises resting on their heads. The “Rest on stomach, feet up (pose)” has been downloaded 19,250 times. “these images are trained from public images from Reddit (ex. r/innie). Does not violate any [terms of service]. Pls do not remove <3,” wrote the creator of the “Realistic Vaginas - Innie Pussy 1” model, which has been downloaded more than 75,000 times. The creator of the “Instant Cumshot” model, which has been downloaded 64,502 times, said it was “Trained entirely on images of professional adult actresses, as freeze frames from 1080p+ video.”

While the practice is technically not allowed on CivitAI, the site hosts image generating AI models of specific real people, which can be combined with any of the pornographic AI models to generate non-consensual sexual images. 404 Media has seen the non-consensual sexual images these models enable on CivitAI, its Discord, and off its platform.

A 404 Media investigation shows that recent developments in AI image generators have created an explosion of communities where people share knowledge to advance this practice, for fun or profit. Foundational to the community are previously unreported but popular websites that allow anyone to generate millions of these images a month, limited only by how fast they can click their mouse, and how quickly the cloud computing solutions powering these tools can fill requests. The sheer number of people using these platforms and non-consensual sexual images they create show that the AI porn problem is far worse than has been previously reported.

Our investigation shows the current state of the non-consensual AI porn supply chain: specific Reddit communities that are being scraped for images, the platforms that monetize these AI models and images, and the open source technology that makes it possible to easily generate non-consensual sexual images of celebrities, influencers, YouTubers, and athletes. We also spoke to sex workers whose images are powering these AI generated porn without their consent who said they are terrified of how this will impact their lives.

Hany Farid, an image forensics expert and professor at University of California, Berkeley told 404 Media that it’s the same problem we’ve seen since deepfakes first appeared six years ago, only the tools for creating these images are easier to access and use.

“This means that the threat has moved from anyone with a large digital footprint, to anyone with even a modest digital footprint,” Farid Said. “And, of course, now that these tools and content are being monetized, there is even more incentive to create and distribute them.”

The Product

On Product Hunt, a site where users vote for the most exciting startups and tech products of the day, Mage, which on April 20 cracked the site’s top three products, is described as “an incredibly simple and fun platform that provides 50+ top, custom Text-to-Image AI models as well as Text-to-GIF for consumers to create personalized content.”

“Create anything,” Mage.Space’s landing page invites users with a text box underneath. Type in the name of a major celebrity, and Mage will generate their image using Stable Diffusion, an open source, text-to-image machine learning model. Type in the name of the same celebrity plus the word “nude” or a specific sex act, and Mage will generate a blurred image and prompt you to upgrade to a “Basic” account for $4 a month, or a “Pro Plan” for $15 a month. “NSFW content is only available to premium members.” the prompt says.

To get an idea of what kind of explicit images you can generate with a premium Mage subscription, click over to the “Explore” tab at the top of the page and type in the same names and terms to search for similar images previously created by other users. On first impression, the Explore page makes Mage seem like a boring AI image generating site, presenting visitors with a wall of futuristic cityscapes, cyborgs, and aliens. But search for porn with “NSFW” content enabled and Mage will reply with a wall of relevant images. Clicking on any one of them will show when they were created, with what modified Stable Diffusion model, the text prompt that generated the image, and the user who created it.

Since Mage by default saves every image generated on the site, clicking on a username will reveal their entire image generation history, another wall of images that often includes hundreds or thousands of AI-generated sexual images of various celebrities made by just one of Mage’s many users. A user’s image generation history is presented in reverse chronological order, revealing how their experimentation with the technology evolves over time.

Scrolling through a user’s image generation history feels like an unvarnished peek into their id. In one user’s feed, I saw eight images of the cartoon character from the children's’ show Ben 10, Gwen Tennyson, in a revealing maid’s uniform. Then, nine images of her making the “ahegao” face in front of an erect penis. Then more than a dozen images of her in bed, in pajamas, with very large breasts. Earlier the same day, that user generated dozens of innocuous images of various female celebrities in the style of red carpet or fashion magazine photos. Scrolling down further, I can see the user fixate on specific celebrities and fictional characters, Disney princesses, anime characters, and actresses, each rotated through a series of images posing them in lingerie, schoolgirl uniforms, and hardcore pornography. Each image represents a fraction of a penny in profit to the person who created the custom Stable Diffusion model that generated it.

Mage displays the prompt the user wrote in order to generate the image to allow other users to iterate and improve upon images they like. Each of these reads like an extremely horny and angry man yelling their basest desires at Pornhub’s search function. One such prompt reads:

"[[[narrow close-up of a dick rubbed by middle age VERY LUSTFUL woman using her MOUTH TO PLEASURE A MAN, SPERM SPLASH]]] (((licking the glans of BIG DICK))) (((BLOWjob, ORAL SEX))) petting happy ending cumshot (((massive jizz cum))))(((frame with a girl and a man)))) breeding ((hot bodies)) dribble down his hard pumping in thick strokes, straight sex, massage, romantic, erotic, orgasm porn (((perfect ball scrotum and penis with visible shaft and glans))) [FULL BODY MAN WITH (((woman face mix of Lisa Ann+meghan markle+brandi love moaning face, sweaty, FREKLESS, VERY LONG BRAID AND FRINGE, brunette HAIR)), (man Mick Blue face)"

This user, who shares AI-generated porn almost exclusively, has created more than 16,000 images since January 13. Another user whose image history is mostly pornographic generated more than 6,500 images since they started using Mage on January 15, 2023.

On the official Mage Discord, which has more than 3,000 members, and where the platform’s founders post regularly, users can choose from dozens of chat rooms organized by categories like “gif-nsfw,” “furry-nsfw,” “soft-women-nsfw,” and share tricks on how to create better images.

“To discover new things I often like to find pictures from other users I like and click remix. I run it once and add it to a list on my profile called ‘others prompts’ then I'll use that prompt as a jumping off point,” one user wrote on July 12. “It's a good way to try different styles as you hone your own style.”

“anyone have any luck getting an [sic] good result for a titty-fuck?” another user asked July 17, prompting a couple of other users to share images of their attempts.

Generating pornographic images of real people is against the Mage Discord community’s rules, which the community strictly enforces because it’s also against Discord’s platform-wide community guidelines. A previous Mage Discord was suspended in March for this reason. While 404 Media has seen multiple instances of non-consensual images of real people and methods for creating them, the Discord community self-polices: users flag such content, and it’s removed quickly. As one Mage user chided another after they shared an AI-generated nude image of Jennifer Lawrence: “posting celeb-related content is forbidden by discord and our discord was shut down a few weeks ago because of celeb content, check [the rules.] you can create it on mage, but not share it here.”

Gregory Hunkins and Roi Lee, Mage’s founders, told me that Mage has over 500,000 accounts, a million unique creators active on it every month, and that the site generates a “seven-figure” annual revenue. More than 500 million images have been generated on the site so far, they said.

“To be clear, while we support freedom of expression, NSFW content constitutes a minority of content created on our platform,” Lee and Hunkins said in a written statement. “NSFW content is behind a paywall to guard against those who abuse the Mage Space platform and create content that does not abide by our Terms & Conditions. One of the most effective guards against anonymity, repeat offenders, and enforcing a social contract is our financial institutions.”

When asked about the site’s moderation policies, Lee and Hunkins explained that Mage uses an automated moderation system called “GIGACOP” that warns users and rejects prompts that are likely to be abused. 404 Media did not encounter any such warning in its testing, and Lee and Hunkins did not respond to a question about how exactly GIGACOP works. They also said that there are “automated scans of the platform to determine if patterns of abuse are evading our active moderation tools. Potential patterns of abuse are then elevated for review by our moderation team.”

However, 404 Media found that on Mage’s site AI-generated non-consensual sexual images are easy to find and are functionally infinite.

“The scale of Mage Space and the volume of content generated antiquates previous moderation strategies, and we are continuously working to improve this system to provide a safe platform for all,” Lee and Hunkins said. “The philosophy of Mage Space is to enable and empower creative freedom of expression within broadly accepted societal boundaries. This tension and balance is a very active conversation right now, one we are excited and proud to be a part of. As the conversation progresses, so will we, and we welcome all feedback.”

Laura Mesa, Product Hunt’s vice president of marketing and community, told me that Mage violates Product Hunt’s policy, and Mage was removed shortly after I reached out for comment.

The images Mage generates are defined by the technology it’s allowing users to access. Like many of the smaller image generating AI tools online, at its core it’s powered by Stable Diffusion, which surged in popularity when it was released last year under the Creative ML OpenRAIL-M license, allowing users to modify it for commercial and non-commercial purposes.

Mage users can choose what kind of “base model” they want to use to generate their images. These base models are modified versions of Stable Diffusion that have been trained to produce a particular type of image. The “Anime Pastel Dream” model, for example, is great at producing images that look like stills from big budget anime, while “Analog Diffusion” is good at giving images a vintage film photo aesthetic.

One of the most popular base models on Mage is called “URPM,” an acronym for “Uber Realistic Porn Merge.” That Stable Diffusion model, as well as others designed to produce pornography, are created upstream in the AI porn supply chain, where people train AI to recreate the likeness of anyone, doing anything.

The People Who Become Datasets

Generative AI tools like Stable Diffusion use a deep learning neural network that was trained on a massive dataset of images. This dataset then generates new images by predicting how pixels should be arranged based on patterns in the dataset and what kind of image the prompt is asking for. For example, LAION-5B, an open source dataset made up of over 5 billion images scraped from the internet, helps power Stable Diffusion.

This makes Stable Diffusion good at generating images of broad concepts, but not specific people or esoteric concepts (like women with erect horse penises). But because Stable Diffusion code is public, over the last year researchers and anonymous users have come up with several ingenious ways to train Stable Diffusion to generate such images with startling accuracy.

In August of 2022, researchers from Tel Aviv University introduced the concept of “textual inversion.” This method trains Stable Diffusion on a new “concept,” which can be an object, person, texture, style, or composition, with as few as 3-5 images, and be represented by a specific word or letter. Users can train Stable Diffusion on these new concepts without retraining the entire Stable Diffusion model, which would be “prohibitively expensive,” as the researchers explain in their paper.

In their paper, the researchers demonstrated their method by training the image generator on a few images of a Furby, represented by the letter S. They can then give the image generator the prompt “A mosaic depicting S,” or “An artist drawing S,” and get the following results:

By September 2022, AUTOMATIC1111, a Github user who maintains a popular web interface for Stable Diffusion, explained how to implement textual inversion. In November, a web developer named Justin Maier launched CivitAI, a platform where people could easily share the specific models they’ve trained using textual inversion and similar methods, so other users could download them, generate similar images, iterate on the models by following countless YouTube tutorials, and combine them with other models trained on other specific concepts.

There are many non-explicit models on CivitAI. Some replicate the style of anime, popular role-playing games, or Chinese comic books. But if you sort CivitAI’s platform by the most popular models, they are dominated by models that expertly produce pornography.

LazyMix+ (Real Amateur Nudes), for example, produces very convincing nudes that look like they were shot by an amateur OnlyFans creator or an image from one of the many subreddits where people share amateur porn. Many Stable Diffusion models on CivitAI don’t say what data they were trained on, and others are just tweaking and combining other, already existing models. But with LazyMix+ (Real Amateur Nudes), which has been downloaded more than 71,000 times, we can follow the trail to the source.

According to the model’s description, it’s a merge between the original LazyMix model and a model called Subreddit V3, the latter of which states it was trained on images from a variety of adult-themed subreddit communities like r/gonewild, famously where average Reddit users post nudes, r/nsfw, r/cumsluts and 38 other subreddits.

“There's nothing that's been done in the past to protect us so I don't see why this would inspire anyone to make protections against it.”

A Reddit user who goes by Pissmittens and moderates r/gonewild, r/milf, and several other big adult communities said he suspects that most people who post nudes to these subreddits probably don’t know their images are being used to power AI models.

“The issue many of them run into is that usually places misusing their content aren’t hosted in the United States, so DMCA is useless,” Pissmittens said, referring to copyright law. “The problem, obviously, is that there doesn’t seem to be any way for them to know if their content has been used to generate [computer generated] images.”

Fiona Mae, who promotes her OnlyFans account on several subreddits including some of those scraped by Subreddit V3, told me that the fact that anyone can type a body type and sex act into an AI generator and instantly get an image “terrifies” her.

“Sex workers and femmes are already dehumanized,” she said. “Literally having a non-human archetype of a woman replacing jobs and satisfying a depiction of who women should be to men? I only see that leading more to serving the argument that femmes aren’t human.”

“I have no issue with computer generated pornography at all,” GoAskAlex, an adult performer who promotes her work on Reddit, told me. “My concern is that adult performers are ultimately unable to consent to their likeness being artificially reproduced.”

An erotic artist and performer who goes by sbdolphin and promotes her work on Reddit told me that this technology could be extremely dangerous for sex workers.

“There's nothing that's been done in the past to protect us so I don't see why this would inspire anyone to make protections against it,” she said.

404 Media has also found multiple instances of non-consensual sexual imagery of specific people hosted on CivitAI. The site allows pornography, and it allows people to use AI to generate images of real people, but does not allow users to share images that do both things at once. Its terms of service say it will remove “content depicting or intended to depict real individuals or minors (under 18) in a mature context.” While 404 Media has seen CivitAI enforce this policy and remove such content multiple times, non-consensual sexual imagery is still posted to the site regularly, and in some cases has stayed online for months.

When looking at a Stable Diffusion model on CivitAI, the site will populate its page with a gallery of images other users have created using the same model. When 404 Media viewed a Billie Eilish model, CivitAI populated the page’s gallery with a series of images from one person who used the model to generate nude images of a pregnant Eilish.

That gallery was in place for weeks, but has since been removed. The user who created the nude images is still active on the site. The Billie Eilish model is also still hosted on CivitAI, and its gallery doesn’t include any fully nude images of Eilish, but it did include images of her in lingerie and very large breasts, which is also against CivitAI’s terms of service and were eventually removed.

The Ares Mix model, which has been downloaded more than 32,000 times since it was uploaded to CivitAI in February, is described by its creator as being good for generating images of “nude photographs on different backgrounds and some light hardcore capabilities.” The gallery at the bottom of the model’s page mostly showcases “safe for work” images of celebrities and pornographic images of seemingly computer-generated people, but it also includes an AI-generated nude image of the actress Daisy Ridley. Unlike the Billie Eilish example, the image is not clearly labeled with Ridley’s name, but the generated image is convincing enough that she’s recognizable on sight.

Clicking on the image also reveals the prompt used to generate the image, which starts: “(((a petite 19 year old naked girl (emb-daisy) wearing, a leather belt, sitting on floor, wide spread legs))).”

The nude image was created by merging the Ares Mix model with another model hosted on CivitAI dedicated to generating the actress’s likeness. According to that model’s page, its “trigger words” (in the same way “S” triggered the Furby in the textual inversion scientific paper) are “emb-daisy.” Like many of the Stable Diffusion models of real people hosted on CivitAI, it includes the following message:

“This resource is intended to reproduce the likeness of a real person. Out of respect for this individual and in accordance with our Content Rules, only work-safe images and non-commercial use is permitted.”

CivitAI’s failure to moderate Ridley’s image shows the abuse CivitAI facilitates despite its official policy. Models that generate pornographic images are allowed. Models that generate images of real people are allowed. Combining the two is not. But there’s nothing preventing people from putting the pieces together, generating non-consensual sexual images, and sharing them off CivitAI’s platform.

“In general, the policies sound difficult to enforce,” Tiffany Li, a law professor at the University of San Francisco School of Law and an expert on privacy, artificial intelligence, and technology platform governance, told 404 Media. “It appears the company is trying, and there are references to concepts like consent, but it's all a bit murky.”

This makes the countless models of real people hosted on CivitAI terrifying. Every major actor you can think of has a Stable Diffusion model on the site. So do countless Instagram influencers, YouTubers, adult film performers, and athletes.

“As these systems are deployed and it becomes the norm to generate and distribute pornographic images of ordinary people, the people who end up being negatively impacted are people at the bottom of society.”

404 Media has seen at least two Stable Diffusion models of Nicole Sanchez, a Twitch streamer and TikTok personality better known as Neekolul or the “OK boomer girl,” hosted on CivitAI, each of which was downloaded almost 500 times. While we didn’t see any non-consensual sexual images we could verify were created with those models, Sanchez told 404 Media that she has seen pornographic AI-generated images of herself online.

“I don't like it at all and it feels so gross knowing people with a clear mind are doing this to creators who likely wouldn't want this to be happening to them. Since this is all very new, I’m hoping that there will be clearer ethical guidelines around it and that websites will start implementing policies against NSFW content, at least while we learn to live alongside AI,” Sanchez said. “So until then, I hope that websites used to sell this content will put guidelines in place to protect people from being exploited because it can be extremely damaging to their mental health.”

Saftle, the CivitAI user who created Uber Realistic Porn Merge (URPM), one of the most popular models on the site that is also integrated with Mage, said that CivitAI is “thankfully” one of the only platforms actively trying to innovate and block out this type of content. “However it's probably a constant struggle due to people trying to outsmart their current algorithms and bots,” he said.

Li said that while these types of non-consensual sexual images are not new, there is still no good way for victims to combat them.

“At least in some states, they can sue the people who created AI-generated intimate images of them without their consent. (Even in states without these laws, there may be other legal methods to do it.) But it can be hard to find the makers of the images,” Li said. “They may be using these AI-generating sites anonymously. They may even have taken steps to shield their digital identity. Some sites will not give up user info without a warrant.”

“As these systems are deployed and it becomes the norm to generate and distribute pornographic images of ordinary people, the people who end up being negatively impacted are people at the bottom of society,” Abeba Birhane, a senior fellow in Trustworthy AI at Mozilla Foundation and lecturer at the School of Computer Science and Statistics at Trinity College Dublin, Ireland, told 404 Media. “It always ends up negatively impacting those that are not able to defend themselves or those who are disfranchised. And these are the points that are often left out in the debate of technicality.”

The Money

The creators of these models offer them for free, but accept donations. Saftle had 120 paying Patreon members to support his project before he “paused” his Patreon in May when he got a full time job. He told me that he made $1,500 a month from Patreon at its peak. He also said that while he has no formal relationship with Mage Space, he did join its “creators program,” which paid him $0.001 for every image that was generated on the site using URPM. He said he made about $2,000-$3,000 a month (equal to 2-3 million images) when he took part in the program, but has since opted out. Lee and Hunkins, Mage’s founders, told me that “many model creators earn well in excess of this,” but not all models on Mage specialize in sexual images.

The creator of “Rest on stomach, feet up (pose)” links to their Ko-Fi account, where people can send tips. One CivitAI user, who created dozens of models of real people and models that generate sexual images, shares their Bitcoin wallet address in their profile. Some creators will do all the work for you for a price on Fiverr.

Clicking the “Run Model” button at the top of every model page will bring up a window that sends users to a variety of sites and services that can generate images with that model, like Mage Space, or Dazzle.AI, which charges $0.1 per image.

CivitAI itself also collects donations, and offers a $5 a month membership that gives users early access to new features and unique badges for their usernames on the site and Discord.

“Civitai exists to democratize AI media creation, making it a shared, inclusive, and empowering journey.” CivitAI’s site says.

Justin Maier, CivitAI’s founder, did not respond to a request for comment via LinkedIn, Twitter, Discord, and email.

The Singularity

Since ChatGPT, DALL-E, and other generative AI tools became available on the internet, computer scientists, ethicists, and politicians have been increasingly discussing “the singularity,” a concept that until recently existed mostly in the realm of science fiction. It describes a hypothetical point in the future when AI becomes so advanced, it triggers an uncontrollable explosion of technological development that quickly surpasses and supersedes humanity.

As many experts and journalists have observed, there is no evidence that companies like OpenAI, Facebook, and Google have created anything even close to resembling an artificial general intelligence agent that could bring about this technological apocalypse, and promoting that alarmist speculation serves their financial interests because it makes their AI tools seem more powerful and valuable than they actually are.

However, it’s a good way to describe the massive changes that have already taken hold in the generative AI porn scene. An AI porn singularity has already occurred, an explosion of non-consensual sexual imagery that’s seeping out of every crack of internet infrastructure if you only care to look, and we’re all caught up in it. Celebrities big and small and normal people. Images of our faces and bodies are fueling a new type of pornography in which humans are only a memory that’s copied and remixed to instantly generate whatever sexual image a user can describe with words.

Samantha Cole contributed reporting.

‘Everything you’ve been told is a lie!’ Inside the wellness-to-fascism pipeline | Health & wellbeing | The Guardianhttps://www.theguardian.com/lifeandstyle/2023/aug/02/everything-youve-been-told-is-a-lie-inside-the-wellness-to-facism-pipeline

‘Everything you’ve been told is a lie!’ Inside the wellness-to-fascism pipeline

James Ball Wed 2 Aug 2023 14.00 BST

One minute you’re doing the downward dog, the next you’re listening to conspiracy theories about Covid or the new world order. How did the desire to look after yourself become so toxic?

Jane – not her real name – is nervous about speaking to me. She has asked that I don’t identify her or the small, south-coast Devon town in which she lives. “I’m feeling disloyal, because I’m talking about people I’ve known for 30 to 40 years,” she says.

Jane isn’t trying to blow the whistle on government corruption or organised crime: she wants to tell me about her old meditation group. The group had met happily for decades, she says, aligned around a shared interest in topics including “environmental issues, spiritual issues and alternative health”. It included several people whom Jane considered close friends, and she thought they were all on the same page. Then Covid came.

Jane spent most of the first Covid lockdowns in London. During that time, she caught Covid and was hospitalised, and it was then that she realised something significant had changed: a friend from the group got in touch while she was on the ward. “I had somebody I considered a real best friend of mine on the phone telling me, no, I ‘didn’t have Covid’,” she says. “She was absolutely adamant. And I said: ‘Well, why do you think I went into hospital?’”

The friend conceded that Jane was ill, but insisted it must be something other than Covid-19, because Covid wasn’t real. Jane’s hospital stay was thankfully short, but by the time she was sufficiently recovered and restrictions had lifted enough to allow her to rejoin her meditation group, things were very different.

“They have been moving generally to far-right views, bordering on racism, and really pro-Russian views, with the Ukraine war,” she says. “It started very much with health, with ‘Covid doesn’t exist’, anti-lockdown, anti-masks, and it became anti-everything: the BBC lie, don’t listen to them; follow what you see on the internet.”

Things came to a head when one day, before a meditation session – an activity designed to relax the mind and spirit, pushing away all worldly concerns – the group played a conspiratorial video arguing that 15-minute cities and low-traffic zones were part of a global plot. Jane finally gave up.

This apparent radicalisation of a nice, middle-class, hippy-ish group feels as if it should be a one-off, but the reality is very different. The “wellness-to-woo pipeline” – or even “wellness-to-fascism pipeline” – has become a cause of concern to people who study conspiracy theories.

It doesn’t stop with a few videos shared among friends, either. One of the leaders of the German branch of the QAnon movement – a conspiracy founded on the belief that Donald Trump was doing battle with a cabal of Satanic paedophiles led by Hillary Clinton and George Soros, among others – was at first best known as the author of vegan cookbooks. In 2021, Attila Hildmann helped lead a protest that turned violent, with protesters storming the steps of Germany’s parliament. Such was his radicalism in QAnon and online far-right circles that he was under investigation in connection with multiple alleged offences, but he fled Germany for Turkey before he could be arrested.

Similarly, Jacob Chansley, AKA the “QAnon shaman” – one of the most visible faces of the attack on the US Capitol on 6 January 2021, thanks to his face paint and horned headgear – is a practitioner of “shamanic arts” who eats natural and organic food, and has more than once been described as an “ecofascist”.

Thanks to wellness, QAnon is the conspiracy that can draw in the mum who shops at Holland & Barrett and her Andrew Tate-watching teenage son. The QAnon conspiracy is one of the most dangerous in the world, directly linked to attempted insurrections in the US and Germany, and mass shootings in multiple countries – and wellness is helping to fuel it. Something about the strange mixture of mistrust of the mainstream, the intimate nature of the relationship between a therapist, spiritual adviser, or even personal trainer, and their client, combined with the conspiratorial world in which we now live, is giving rise to a new kind of radicalisation. How did we end up here?

There are many people interested in spiritualism, alternative medicine, meditation, or personal training, whose views fall well within the mainstream – and more who, if they have niche views, choose not to share them with their clients. But even a cursory online request about this issue led to me being deluged with responses. Despite most experiences being far less intense than Jane’s, no one wanted to put their name to their story – something about the closeness of wellness interactions makes people loth to commit a “betrayal”, it seems.

One person recounted how her pole-dancing instructor would – while up the pole, hanging on with her legs – explain how the CIA was covering up evidence of aliens, and offer tips on avoiding alien abduction.

“A physiotherapist would tell me, while working on my back with me lying face down, about her weekly ‘meetings’ in London about ‘current affairs’,” another said. “There was a whiff about it, but it was ignorable. Then, the last time I saw her, she muttered darkly about the Rothschilds [a common target of antisemitic conspiracy theories] ‘and people like that’. I didn’t go back.”

Some people’s problems escalated when their personal trainer learned about their work. “I had three successive personal trainers who were anti-vax. One Belgian, two Swiss,” I was told by a British man who has spent most of the past decade working in Europe for the World Economic Forum, which organises the annual summit at Davos for politicians and the world’s elite.

“It was hard because I used to argue with all of them and the Swiss made life very difficult for the unvaccinated, but the Swiss bloke insisted that, with the right mental attitude and exercise, you could defeat any illness. I was always asking what would happen if he got rabies.”

When the trainer found out the man worked for the World Economic Forum, he was immediately cut off.

Other respondents’ stories covered everything from yoga to reiki, weightlifters to alternative dog trainers. The theories they shared ranged from extreme versions of wellness-related conspiracies – about the risks of 5G and wifi, or Microsoft founder Bill Gates plotting with vaccines – to 15-minute cities, paedophile rings and bankers’ conspiracies.

Is there a reason why people under the wellness and fitness umbrella might be prone to being induced into conspiracy? It is not that difficult to imagine why young men hitting the gym might be susceptible to QAnon and its ilk. This group spends a lot of time online, there is a supposed crisis of masculinity manifesting in the “incel” (involuntary celibacy) movement and similar, and numerous rightwing influencers have been targeting this group. Add in a masculine gym culture and a community already keen to look for the “secrets” of getting healthy, and there is a lot for a conspiracy theory to hook itself on to.

What is more interesting, surely, is how women old enough to be these men’s mothers find themselves sucked in by the same rhetoric. These are often people with more life experience, who have completed their education and been working – often for decades – and have apparently functional adult lives. But, as Caroline Criado Perez, author of Invisible Women: Exposing Data Bias in a World Designed for Men, observes, the answer may lie in looking at why women turn to wellness and alternative medicine in the first place.

New age and conspiracy theories both see themselves as counter-knowledges challenging received wisdom

“Far too often, we blame women for turning to alternative medicine, painting them as credulous and even dangerous,” she says. “But the blame does not lie with the women – it lies with the gender data gap. Thanks to hundreds of years of treating the male body as the default in medicine, we simply do not know enough about how disease manifests in the female body.”

Women are overwhelmingly more likely than men to suffer from auto-immune disorders, chronic pain and chronic fatigue – and such patients often hit a point at which their doctors tell them there is nothing they can do. The conditions are under-researched and the treatments are often brutal. Is it any surprise that trust in conventional medicine and big pharma is shaken? And is it any surprise that people look for something to fill that void?

Criado Perez says: “If we want to address the trend of women seeking help outside mainstream medicine, it’s not the women we need to fix; it’s mainstream medicine.”

This sense of conspiracies filling a void is an important one. Academic researchers of conspiracy theories have speculated about whether their rise in the 20th century is related to the decline of religion. In a strange way, the idea that a malign cabal is running the world – while far more worrying than a benevolent God – is less scary than the idea that no one is in charge and everything is chaos. People who have a reason to mistrust the mainstream pillars of society – government, doctors, the media, teachers – are more likely to turn to conspiracy theories for explanations as to why the world is like it is.

Peter Knight, professor of American studies at the University of Manchester, who has studied conspiracy theories and their history, notes that the link between alternative therapies and conspiracy is at least a century old, and has been much ignored. “New age and conspiracy theories both see themselves as counter-knowledges that challenge what they see as received wisdom,” he says. “Conspiracy theories provide the missing link, turbo-charging an existing account of what’s happening by claiming that it is not just the result of chance or the unintended consequences of policy choices, but the result of a deliberate, secret plan, whether by big pharma, corrupt scientists, the military-industrial complex or big tech.”

Knight notes an extra factor, though – the wellness pipeline has become a co-dependency. Many far-right or conspiracy sites now fund themselves through supplements or fitness products, usually by hyping how the mainstream doesn’t want the audience to have them.

Alex Jones, the US conspiracist who for a decade claimed the Sandy Hook shootings – which killed 20 children and six adults – were a false-flag operation, had his financial records opened up when he was sued by the families of the victims. During the cases, it emerged he had made a huge amount of money by selling his own branded wellness products.

“Alex Jones perfected the grift of selling snake-oil supplements and prepper kit to the libertarian right wing via his conspiracy theory media channels,” Knight says. “But it was Covid that led to the most direct connections between far-right conspiracism and wellness cultures. The measures introduced to curb the pandemic were viewed as attacks on individual sovereignty, which is the core value of both the wellness and libertarian/‘alt-right’ conspiracy communities.”

The problem is, it rarely stops with libertarians. While they may not recognise it, those drawn in from the left are increasingly ending up in the same place as their rightwing counterparts.

“Although many of the traditional left-leaning alternative health and wellness advocates might reject some of the more racist forms of rightwing conspiracism, they now increasingly share the same online spaces and memes,” he says, before concluding: “They both start from the position that everything we are told is a lie, and the authorities can’t be trusted.”

Society’s discussion of QAnon, anti-vaxxers and other fringe conspiracies is heavily focused on what happens in digital spaces – perhaps too much so, to the exclusion of all else. The solution, though, is unlikely to be microphones in every gym and treatment room, monitoring what gets said to clients. The better question to ask is what has made these practitioners, and all too often their clients, so susceptible to these messages in the first place. For QAnon to be the most convincing answer, what someone has heard before must have been completely unsatisfactory.

Jane has her own theory as to why her wellness group got radicalised and she did not – and it’s one that aligns with concerns from conspiracy experts, too. “I think it’s the isolation,” she concludes, citing lockdown as the catalyst, before noting the irony that conspiracies then kick off a cycle of increasing isolation by forcing believers to reject the wider world. “It becomes very isolating because then their attitude is all: ‘Mainstream media … they lie about everything.’”

The Other Pandemic: How QAnon Contaminated *the World by James Ball is published by Bloomsbury*. To support the Guardian and Observer, order your copy at guardianbookshop.com. Delivery charges may apply

I Would Rather See My Books Get Pirated Than This (Or: Why Goodreads and Amazon Are Becoming Dumpster Fires) | Jane Friedmanhttps://janefriedman.com/i-would-rather-see-my-books-pirated/

I Would Rather See My Books Get Pirated Than This (Or: Why Goodreads and Amazon Are Becoming Dumpster Fires)

Updated: August 8, 2023

First Published: August 7, 2023 by Jane Friedman 60 Comments

Update (afternoon of Aug. 7): Hours after this post was published, my official Goodreads profile was cleaned of the offending titles. I did file a report with Amazon, complaining that these books were using my name and reputation without my consent. Amazon’s response: “Please provide us with any trademark registration numbers that relate to your claim.” When I replied that I did not have a trademark for my name, they closed the case and said the books would not be removed from sale.

Update (morning of Aug. 8): The fraudulent titles appear to be entirely removed from Amazon and Goodreads alike. I’m sure that’s in no small part due to my visibility and reputation in the writing and publishing community. What will authors with smaller profiles do when this happens to them? If you ever find yourself in a similar situation, I’d start by reaching out to an advocacy organization like The Authors Guild (I’m a member).

Update (evening of Aug. 8): Since these fake books have been removed, I’ve added titles and screenshots below, as well as an explanation of why I believe the books are AI generated.

There’s not much that makes me angry these days about writing and publishing. I’ve seen it all. I know what to expect from Amazon and Goodreads. Meaning: I don’t expect much, and I assume I will be continually disappointed. Nor do I have the power to change how they operate. My energy-saving strategy: move on and focus on what you can control.

That’s going to become much harder to do if Amazon and Goodreads don’t start defending against the absolute garbage now being spread across their sites.

I know my work gets pirated and frankly I don’t care. (I’m not saying other authors shouldn’t care, but that’s not a battle worth my time today.)

But here’s what does rankle me: garbage books getting uploaded to Amazon where my name is credited as the author, such as:

A Step-by-Step Guide to Crafting Compelling eBooks, Building a Thriving Author Platform, and Maximizing Profitability
How to Write and Publish an eBook Quickly and Make Money
Promote to Prosper: Strategies to Skyrocket Your eBook Sales on Amazon
Publishing Power: Navigating Amazon’s Kindle Direct Publishing
Igniting Ideas: Your Guide to Writing a Bestseller eBook on Amazon

Whoever’s doing this is obviously preying on writers who trust my name and think I’ve actually written these books. I have not. Most likely they’ve been generated by AI. (Why do I think this? I’ve used these AI tools extensively to test how well they can reproduce my knowledge. I also do a lot of vanity prompting, like “What would Jane Friedman say about building author platform?” I’ve been blogging since 2009—there’s a lot of my content publicly available for training AI models. As soon as I read the first pages of these fake books, it was like reading ChatGPT responses I had generated myself.)

It might be possible to ignore this nonsense on some level since these books aren’t receiving customer reviews (so far), and mostly they sink to the bottom of search results (although not always). At the very least, if you look at my author profile on Amazon, these junk books don’t appear. A reader who applies some critical thinking might think twice before accepting these books as mine.

Still, it’s not great. And it falls on me, the author—the one with a reputation at stake—to get these misleading books removed from Amazon. I’m not even sure it’s possible. I don’t own the copyright to these junk books. I don’t exactly “own” my name either—lots of other people who are also legit authors share my name, after all. So on what grounds can I successfully demand this stop, at least in Amazon’s eyes? I’m not sure.

To add insult to injury, these sham books are getting added to my official Goodreads profile. A reasonable person might think I control what books are shown on my Goodreads profile, or that I approve them, or at the very least I could have them easily removed. Not so.

If you need to have your Goodreads profile corrected—as far as the books credited to you—you have to reach out to volunteer “librarians” on Goodreads, which requires joining a group, then posting in a comment thread that you want illegitimate books removed from your profile.

When I complained about this on Twitter/X, an author responded that she had to report 29 illegitimate books in just the last week alone. 29!

With the flood of AI content now published at Amazon, sometimes attributed to authors in a misleading or fraudulent manner, how can anyone reasonably expect working authors to spend every week for the rest of their lives policing this? And if authors don’t police it, they will certainly hear about it, from readers concerned about these garbage books, and from readers who credulously bought this crap and have complaints. Or authors might not hear any thing at all, and lose a potential reader forever.

We desperately need guardrails on this landslide of misattribution and misinformation. Amazon and Goodreads, I beg you to create a way to verify authorship, or for authors to easily block fraudulent books credited to them. Do it now, do it quickly.

Unfortunately, even if and when you get these insane books removed from your official profiles, they will still be floating around out there, with your name, on two major sites that gets millions of visitors, just waiting to be “discovered.” And there’s absolutely nothing you can do about it.

Hollywood Studios’ Demand For Free AI Replicas Sparks Actor Strike | Ubergizmohttps://www.ubergizmo.com/2023/07/hollywood-demand-for-free-ai-replicas-actor-strike/

Hollywood Studios’ Demand For Free AI Replicas Sparks Actor Strike

By Paulo Montenegro, on 07/14/2023 16:01 PDT

In a startling revelation made during the press conference announcing their strike, Hollywood actors disclosed that the studios are demanding possession of their AI replicas without any compensation—a proposition that feels reminiscent of a dystopian narrative from the television series Black Mirror.

Duncan Crabtree-Ireland, the chief negotiator for SAG-AFTRA, shared details of the Hollywood studios’ proposal, which was described by the Alliance of Motion Picture and Television Producers (AMPTP) as a “groundbreaking AI proposal” safeguarding the digital likenesses of actors belonging to SAG-AFTRA.

When questioned about the proposal at the press conference, Crabtree-Ireland expressed his incredulity, stating:

“Yesterday, they presented us with this so-called ‘groundbreaking’ AI proposal. They suggested that our background performers should undergo scanning, receive payment for a single day’s work, and grant ownership of that scan, their image, and their likeness to the studios indefinitely. These studios would then have the right to utilize this digital representation without any consent or compensation, on any future project, for all eternity. If they believe this is a groundbreaking proposal, I suggest they reevaluate their perspective.”

The integration of generative AI has been a contentious issue in the ongoing negotiations between the two parties, with its implications extending beyond the current actors’ strike and also playing a significant role in the writers’ strike. SAG-AFTRA President Fran Drescher emphasized the urgency of the situation in her opening statement, warning, “If we fail to take a firm stand now, we will all face dire consequences. Our very existence is at stake, as we risk being replaced by machines.”

The SAG-AFTRA strike is scheduled to commence at midnight tonight, marking a pivotal moment in the struggle for fair treatment and the preservation of actors’ rights.

Filed in Robots. Read more about AI (Artificial Intelligence).

Les chatbots peuvent-ils vraiment nous influencer ?https://theconversation.com/les-chatbots-peuvent-ils-vraiment-nous-influencer-193341

Les chatbots peuvent-ils vraiment nous influencer ?

Publié: 27 novembre 2022, 17:01 CET

Depuis Eliza (1966), le premier chatbot de l’histoire, jusqu’à nos jours, les machines conversationnelles issues de l’intelligence artificielle se voient souvent attribuer des attitudes et des comportements humains : joie, étonnement, écoute, empathie…

Sur le plan psychologique, ces attributions correspondent à des « projections anthropomorphiques ». Ainsi, le risque existe d’identifier pleinement les chatbots à ce que nous leur attribuons de nous-mêmes, au point de susciter la croyance d’avoir affaire à quelqu’un plutôt que de garder à l’esprit qu’il s’agit d’un programme informatique disposant d’une interface de communication.

Par ailleurs, le risque existe que les concepteurs issus des « technologies persuasives » (technologies visant à persuader les humains d’adopter des attitudes et des comportements cibles), conscients d’un tel phénomène, utilisent les chatbots pour influencer nos comportements à l’aide du langage naturel, exactement comme le ferait un humain.

Pour circonscrire les mécanismes projectifs dont les technologies persuasives pourraient faire usage, nous avons conduit une étude à grande échelle auprès d’un échantillon représentatif de Français (soit 1 019 personnes) placés en position d’envisager ou de se remémorer une relation interactive dialoguée avec un chatbot qu’il soit, au choix, un·e ami·e confident·e, un·e partenaire amoureux·se, un·e coach·e de vie professionnelle ou un·e conseiller.ère clientèle.

Pour interpréter nos résultats, nous avons retenu des projections anthropomorphiques quatre modalités essentielles :

Anthropomorphisme perceptuel : consiste à projeter sur un objet des caractéristiques humaines, ce qui relève de l’imagination.
Animisme : consiste à donner vie aux caractéristiques attribuées à un objet en projetant « sur » lui des intentions simples généralement humaines.
Anthropomorphisme intentionnel : est une forme d’animisme consistant à projeter « dans » l’objet des intentions humaines complexes sans pour autant identifier totalement cet objet à ce qu’on y a projeté.
Identification projective : consiste à projeter « dans » l’objet des caractéristiques de soi et à l’identifier totalement à ce qu’on y a projeté au point de modifier radicalement la perception même de cet objet.

Un résultat intriguant : mon chatbot est plutôt féminin

Quel que soit le chatbot choisi, 53 % des répondants le considèrent comme vivant autant qu’humain et parmi eux 28 % projettent sur lui les caractéristiques d’un homme adulte et 53 % celles d’une femme adulte (anthropomorphisme perceptuel).

Ensemble, ils lui donnent vie en lui attribuant des intentions simples (animisme). Lorsque les répondants ne considèrent pas le chatbot choisi comme vivant (40 %), certains projettent paradoxalement sur lui des caractéristiques humaines comme une voix (27 %), un visage (18 %) et un corps (8 %) tendanciellement féminins. Dans l’ensemble, seuls 38 % des répondants projettent dans leur chatbot une agentivité c’est-à-dire des états intérieurs complexes, cognitifs et émotionnels, constitutifs d’un pouvoir et d’une autonomie d’action (anthropomorphisme intentionnel).

Ainsi, tout se passe comme si la tendance était d’attribuer au chatbot les caractéristiques d’un sujet humain, mais avec une certaine hésitation sur l’attribution d’une intériorité : il serait ainsi considéré comme un sujet sans subjectivité. Ces résultats tendraient à montrer que les répondants n’identifient pas totalement le chatbot à ce qu’ils imaginent d’humain en lui et, ainsi, qu’ils ne le prennent pas pour un semblable. Il n’y aurait donc pas de processus avéré d’identification projective.

[Près de 80 000 lecteurs font confiance à la newsletter de The Conversation pour mieux comprendre les grands enjeux du monde. Abonnez-vous aujourd’hui]

Face à ces résultats, deux questions nous ont semblé essentielles. La première consiste à se demander si la tendance des répondants à projeter du féminin dans leur chatbot, qu’il soit ou non considéré comme vivant – et notamment une femme plus qu’un homme adulte –, relève d’un stéréotype ou d’un archétype. Rappelons ici qu’un stéréotype est une opinion toute faite, forgée sans examen critique qui véhicule des représentations sociales standardisées et appauvrissantes visant à catégoriser voire caricaturer tel ou tel groupe humain.

Un archétype, quant à lui, est un schéma d’organisation inné de notre vie psychique, présent à l’état « virtuel » dans notre esprit et que seules certaines circonstances peuvent activer et actualiser. La seconde question consiste à se demander pourquoi les répondants n’identifient-ils pas pleinement leur chatbot à ce qu’il projette d’humain en eux ?

Afin de répondre à ces questions et de mieux comprendre nos relations aux chatbots, certains des concepts majeurs de la psychanalyse nous ont éclairés.

La psychanalyse pour comprendre nos relations aux chatbots

Tentons une réponse à la première de nos deux questions. Selon la littérature scientifique, des stéréotypes sociaux de genre sont souvent projetés sur les machines. Alors que la vocation des chatbots est d’assister l’humain, il serait en effet naturel, selon certains, que, dans l’imaginaire social, cet assistanat soit situé du côté du « care » et ainsi associé aux femmes.

Mais sommes-nous vraiment en présence d’un tel stéréotype dans notre enquête ? Nos investigations montrent en effet que 58 % des femmes qui considèrent leur chatbot comme vivant et humain l’envisagent comme une personne de genre féminin contre seulement 48 % des hommes. Ainsi, soit elles sont victimes d’un stéréotype de genre par contagion sociale, soit cette projection d’une figure féminine exprimerait un invariant collectif qui serait l’expression d’un archétype plus que d’un stéréotype.

Un archétype, tel que nous l’avons défini, est par exemple à l’œuvre dans les processus d’attachement pulsionnel à la mère. En effet, il a été démontré que le nouveau-né, dès le premier contact avec sa génitrice, dirige instinctivement son regard vers elle avant de migrer vers le sein pour sa première tétée. Ce comportement inné relève de l’archétype de la Mère.

Plus généralement, certaines recherches montrent que la première forme vivante que les nouveau-nés rencontrent à leur naissance fait « empreinte » en eux sous la forme d’une image et les conduit à se lier immédiatement à elle pour recevoir les soins dont ils ont besoin. Peu importe si cette forme appartient à une autre espèce. Certains en concluent que l’archétype, en tant que schéma inné de comportement, conduit un être vivant à rechercher une fonction de soin plus qu’un individu spécifique à son espèce d’appartenance.

Le concept d’archétype nous permet donc d’envisager que la figure projective féminine propre à notre enquête ne résulterait pas forcément d’un stéréotype de genre. Elle pourrait attester l’activation et l’actualisation de l’archétype de la Mère poussant ainsi l’utilisateur « humain » à projeter une figure féminine archétypale dans le chatbot, preuve qu’il cherche, dans l’interaction avec lui, une fonction de soin telle qu’il l’a déjà expérimentée.

Peu importe qu’il soit un programme informatique, un « individu technique », s’il donne le sentiment de « prendre soin » en aidant à choisir un produit, en conseillant une attitude juste ou en offrant des signes de reconnaissance amicaux autant qu’amoureux.

Un différentiel homme-machine auto-protecteur ?

Abordons maintenant notre seconde question. Dans notre enquête, le chatbot est généralement imaginé comme un sujet paré de caractéristiques humaines, mais sans subjectivité. Ce qui signifie que les répondants n’identifient pas pleinement leur chatbot à ce qu’ils projettent de leur propre humanité en eux. Les recherches dans le domaine de l’attachement en fournissent peut-être l’explication.

Elles indiquent en effet que les relations avec un premier pourvoyeur de soins, donne les moyens à celui qui s’attache, de pouvoir faire ultérieurement la différence entre ses congénères et les autres. C’est probablement la raison pour laquelle les répondants montrent qu’ils pourraient être en mesure de s’attacher à un chatbot qui leur fait la conversation sans pour autant le considérer comme un de leurs semblables : la conscience d’un différentiel de génération et d’existence entre l’humain et la machine – différentiel dit ontologique – limiterait ainsi voire interdirait toute identification projective.

Un tel « rempart naturel », face à l’ambition persuasive de la captologie pour laquelle la fin peut parfois justifier les moyens, pourrait rendre les utilisateurs beaucoup moins influençables voire moins dupes que ne l’envisagent les professionnels du marketing et du design conversationnel : ils jouent le jeu probablement en conscience.

Reste cette question : que faire pour protéger les plus fragiles et les plus influençables d’entre nous qui pourraient se prendre à un tel jeu et courir le risque de s’y perdre ?

Pour aller plus loin : « L’anthropomorphisme, enjeu de performance pour les chatbots », du même auteur.

Prompt Armageddon : le troisième récit. – affordance.infohttps://affordance.framasoft.org/2023/06/prompt-armaggedon-le-troisieme-recit/

Prompt Armageddon : le troisième récit.

Olivier Ertzscheid 20 juin 2023

En 2010 The Economist faisait sa Une autour du concept de “Data Deluge”. Jamais en 13 ans le déluge ne cessa. Il irrigua chaque pan de nos vies, se déclina dans une ininterrompue litanie d’applications et de métriques, alimenta l’ensemble des politiques publiques, constitua la part émergée de certaines au travers de l’Open Data, fit le lit de tous les cauchemars de surveillance, constitua l’unique et inique horizon de tant de rêves de maîtrise et d’anticipation.

Tout fut “Data” : Data-journalisme, Data-visualisation, Data-gouvernance … Tant de données qui ne sont qu’autant “d’obtenues” comme l’expliquait Bruno Latour, expliquant aussi pourquoi refusant de voir qu’elles n’étaient que cela, nous en avons été si peu capables d’en obtenir autre chose que quelques oracles pour d’improbables ou opportuns cénacles.

Tant de données mais si peu de possibilités de les manipuler au sens étymologique du terme. Il leur manquait en vrai une interface à façon. Cette interface que ChatGPT a révélé en grand et en public, et donc au “grand public”. La plus simple parce que paradoxalement la plus insondablement complexe en termes de combinatoire pour elle qui n’est qu’une prédictibilité statistique. Rivés à l’affichage écran des scripts que renvoie ChatGPT comme devant un bandit manchot de casino, nous nourrissons la croyance probabiliste que quelque chose de vrai, de réfléchi ou de sincère puisse s’exprimer. Et nous voyons la langue s’agencer devant nous. Le plus souvent pour ne rien dire, mais en le disant bien. Le plus souvent pour ne faire que réécrire ce qui est lu ailleurs en le réagençant à peine, mais en l’agençant bien et sans jamais nous citer ces ailleurs où la combinatoire s’abreuve.

L’interface de la langue, du prompt, du script existait déjà dans les moteurs de recherche au travers des requêtes, y compris vocales. Mais elle ne construisait pas un écho de dialogue. Elle était un puits plutôt qu’un miroir. Et surtout, elle ne le faisait pas sous nos yeux. Nous étions comme en voiture appuyant sur l’accélérateur et constatant l’augmentation de vitesse ; avec ChatGPT (et consorts) nous sommes au coeur du moteur, nous observons l’accélération en même temps que nous la ressentons et gardons l’impression d’un sentiment de commande et de contrôle.

L’apparence d’un miracle ludique et païen, voilà ce que sont ces interfaces langagières et ces artefacts génératifs. Qui se conjuguant demain aux autres interfaces thaumaturges qui mobilisent et équipent à la fois nos regards et nos gestes en plus de notre langue, nous donneront une puissance dont l’illusion n’aura jamais été aussi forte et claire, et l’emprise sur le monde aussi faible et déréalisante.

Data Storytelling et Prompt Clash.

A l’image de ce qui se produisit dans la sphère politique depuis le tout début des années 2010 – Barack Obama est élu pour la 1ère fois en 2008 -, avec le passage d’une ère du storytelling (basé entre autres sur de l’analyse de données) à une ère du clash (reposant sur une maîtrise rhétorique des discours médiatiques), c’est désormais l’ensemble de l’écosystème des discours médiatiques mais aussi d’une partie de plus en plus significative de nos interactions sociales avec l’information qui nous mène d’une société de la “data” à une société du “prompt” et du “script”. Une ère post-moderne puisqu’au commencement était la ligne de commande et que désormais nous commandons en ligne, des pizzas comme des dialogues et des interactions sociales.

Le Data-Deluge était à la fois un concept écran et un concept mobilisateur. Qui nous installait dans une posture de négociation impossible : puisque les données étaient partout, en tout cas supposément, alors il fallait accepter qu’elles gouvernent nos vies et la décision politique dans l’ensemble de ses servitudes économiques.

Après moi le déluge. Et après le déluge ?

Résumons : avant les “Data” il y avait le “moi”, qui préparait leur avènement. Un web dont le centre de gravité ne fut plus celui des documents mais des profils, dans lequel l’être humain était un document comme les autres, un web “social par défaut”, où l’egotrip devînt une puissance bien avant que le capitalisme charismatique des influenceurs et influenceuses ne devienne une catharsis de batteleurs publicitaires. Le moi puis la Data. Après moi le déluge.

Puis après le data-deluge, vînt l’infocalypse. L’apocalypse du faux. Infocalypse Now.

Et désormais partout des “prompts” et des “scripts” (pour ChatGPT ou pour d’autres) qui nourrissent les machines autant qu’ils épuisent le langage. Que nous disent ces passages de saturation médiatique et informationnelle des discours autour de la “Data”, puis de “l’infocalypse” puis du “prompt” mais aussi des divers “Métavers” ?

Prompt Armaggedon.

Dans mon article précédent au sujet du casque “Apple Vision Pro” j’expliquais que par-delà les avancées technologiques il s’agissait avant tout de fournir une fonction support à un monde devenu littéralement insupportable.

Grégory Chatonsky formule l’hypothèse selon laquelle “L’IA a permis à la Silicon Valley de se relancer politiquement. Dans un contexte d’extinction planétaire, les technologies apparaissaient de plus en plus problématiques. Il lui a suffit de métaboliser l’extinction dans l’IA elle-même, en prétendant que cette technologie constituait le plus grande danger, pour continuer coûte que coûte sa production idéologique.”

Les technologies liées ou associées à diverses formes “d’intelligence artificielle” nous promettent un méta-contrôle de mondes qui ne sont ni le monde, ni notre monde. Elles poussent le curseur jusqu’à l’acceptation de l’idée que ce méta-contrôle nous dispense de notre puissance d’agir sur le réel sans entraîner de culpabilité mortifère puisqu’il s’agirait de s’inscrire dans une sorte d’élan vital technologique (bisous #Vivatech)).

On a souvent expliqué que deux grands récits technologiques s’affrontaient : celui d’une émancipation par la technique d’une part (le solutionnisme technologique), et celui d’un Armaggedon de robots ou d’IA tueuses d’autre part (en gros hein). Et que ces récits étaient exclusifs l’un de l’autre. Il est d’ailleurs intéressant de voir dans ce cadre l’émergence programmatique de figures troubles comme celle d’Elon Musk, qui sont des go-between capables d’affirmer tout à la fois que l’IA est la plus grande menace pour l’humanité et d’en faire le coeur du développement technologique de ses diverses sociétés et produits.

Il semble aujourd’hui que ces récits non seulement s’entrecroisent mais qu’ils sont plus fondamentalement et politiquement au service d’un troisième récit. Ce troisième récit est celui d’un retrait du monde. Pour le dire trivialement, puisqu’il est une hypothèse que la technique nous sauve, puisqu’une autre veut qu’elle nous condamne, et puisqu’il semble qu’il n’y ait à l’avance aucun scénario fiable d’équilibre dans les décisions à prendre, alors chaque développement technologique indépendamment de sa nature de “pharmakon” (il est à la fois remède et poison) comporte, affiche, vend et décline en lui la possibilité d’un retrait du monde qui travaille son acceptabilité au travers de promesses de puissance singulières. Le Métavers, les casques de réalité virtuelle ou augmentée, mais aussi ces LLM (Large Language Models) sont autant de ces promesses de puissances singulières. Or plus les Big Tech nous fournissent des environnements et des interfaces thaumaturges, et plus ils travaillent à nous installer dans une forme de déprise. Plus nous “commandons” de choses et de réalités alternatives, virtuelles ou mixtes, plus ces commandes passent par chacun de nos sens (toucher, vue, voix), plus les recherches avancent pour faire encore reculer cette dernière interface possible que constitue notre cerveau ou les ondes cérébrales, et moins nous sommes en prise sur le réel.

Le premier grand récit des technologies numériques consiste à prôner un solutionnisme suprémaciste, qui écrase tout horizon de contestation ou de débat soit au motif d’une vision fantasmée d’un “progrès” oublieux de ses externalités négatives, soit (le plus souvent) pour des raisons purement économiques de maintien d’effets de rente qui relèguent toute considération éthique à la dimension d’un essai clinique piloté par Didier Raoult.

Le second grand récit des technologies numériques est un renouvellement du Luddisme mâtiné de récits d’un effondrement dans lequel chaque pan de technologie n’aurait, là aussi de manière essentiellement caricaturale, que vocation à se retourner contre tout ou partie de l’humanité ou, de manière plus vraisemblable, la condamnerait à surexploiter le même cycle qui conduit déjà au dépassement des limites planétaires.

Le troisième grand récit des technologies numériques est un méta-récit. Une sorte de théorie des cordes (version Wish), dans laquelle le rapport de puissance s’inverse. Après un temps où les technologies numériques devaient permettre d’alléger notre cadre et nos tâches cognitives en s’y substituant (externalités mémorielles) ; après un temps où beaucoup d’entre nous parmi les plus pauvres, les plus fragiles, les moins qualifiés finirent par devenir les supplétifs à bas coût de technologies initialement présentées comme capables de les émanciper et qui ne firent que les aliéner (en gros le Digital Labor) ; nous voilà désormais dans un système capitalistique à l’équilibre mortifère où l’invisibilisation des processus extractifs, tant sur le plan des données que sur celui des sujets, est à son apogée. Il s’agit pour lui maintenant de décliner son extractivisme à l’ensemble des réalités alternatives existantes et accessibles (augmentée, virtuelle, mixte) en nous mettant en situation de pouvoir épuiser jusqu’à la langue elle-même au travers de prompts qui tendent à fabriquer une inépuisable fatrasie de textes dont la seule vocation n’est plus que de nourrir les générateurs qui permettent d’en produire de nouveaux. Jusqu’à épuisement. Ces réalités, augmentées, virtuelles et mixtes, sont tout autant fossiles que les énergies du monde qui s’épuise. Peut-être le sont-elles même encore davantage.

One More Thing : Interfaces Humains Informations.

Les IHM, “interfaces homme-machine” constituent un champ de recherche à part entière, qui mobilise des notions venant aussi bien de l’ergonomie, du design, de l’informatique, ou de la psychologie. Il nous faut réfléchir à la constitution d’un champ de savoir autour de ce que l’on pourrait appeler les IHI, l’analyse des interfaces (sociales, techniques, cognitives) entre l’humain (multi-appareillé ou non) et l’Information (dans sa diffusion, ses relais et sa compréhension). Un champ dans lequel les “sciences de l’information et de la communication” ont toute leur place mais ne sont pas seules légitimes. Les nouvelles “humanités numériques” sont avant tout informationnelles et culturelles.

Constamment le numérique oblitère des espaces de négociation et de recours. Les lois les plus structurantes mises en oeuvre ne sont pas celles qui tendent à le réguler mais celles qui le légitiment comme instance de contrôle. Les déploiements les plus structurants qui sont portés par la puissance publique ne visent pas pas rapprocher et à faciliter mais à éloigner et à suspecter. Le numérique dans son agrégation mortifère autour d’intérêts privés et d’architectures techniques toxiques à échoué à devenir une diplomatie de l’intérêt commun.

Et si la diplomatie est une théorie des relations entre les États, alors il faut que le champ des IHI, des “interfaces humain information”, devienne une diplomatie qui soit une théorie des relations entre les états de l’information et de sa circulation dans le champ social comme dans celui de la perception individuelle.

Black Mirror : le narcissisme à l’ère du numérique | Cairn.infohttps://www.cairn.info/revue-le-carnet-psy-2017-1-page-27.htm?ora.z_ref=li-92683689-pub

Black Mirror : le narcissisme à l’ère du numérique

Lise Haddouk

Dans Le Carnet PSY 2017/1 (N° 204), pages 27 à 29

La cyberculture offre des productions passionnantes, tant sur le plan artistique que scientifique. Terme apparu au début des années 90, la cyberculture désigne usuellement une certaine forme de culture qui se développe autour d’internet. Selon la Wikipedia, la cyberculture englobe des productions très diverses présentant un lien avec les TIC (Technologies de l’Information et de la Communication), notamment le multimédia, dont les œuvres mélangent image, son et programmation. Mais la notion de cyberculture va au-delà d’un genre culturel. Elle désignerait : « un nouveau rapport au savoir, une transformation profonde de la notion même de culture », voire une intelligence collective, dont la Wikipedia pourrait justement servir d’exemple. Cette révolution culturelle marquerait aussi : « l’avènement de la culture-monde » ou encore de la World philosophie.

A l’ère de la post, voire de l’hyper-modernité, les écrans sont devenus totalement indispensables dans nos vies quotidiennes. L’observation des usages que nous faisons de ces écrans renvoie souvent à celle des risques liés à des durées excessives d’utilisation, ou encore à la violence des images qui circulent et à une certaine déshumanisation des relations médiatisées par ordinateur, ou relations digitales. Sous certains aspects, ces usages renvoient à un versant narcissique de la personnalité, désignée par Lasch (1979) sur un plan sociétal comme : « la culture du narcissisme ».

De nombreux exemples des dérives possibles liées à des usages toxiques des écrans sont donnés dans la série Black Mirror. Précisons que la série, devenue un format particulièrement apprécié et adapté aux écrans de télévision, puis d’ordinateurs, constitue une production culturelle à part entière, pouvant donc être révélatrice des valeurs de notre société. Black Mirror (2011) est une série télévisée britannique, créée par Charlie Brooker. Les épisodes sont reliés par un thème commun, la mise en œuvre d’une technologie dystopique. Le créateur explique que le titre de la série fait référence à la technologie que nous considérons comme une drogue : « Si c’est une drogue, alors quels en sont les effets secondaires ? C’est dans cette zone entre joie et embarras que Black Mirror se situe. Le Black Mirror du titre est celui que vous voyez sur chaque mur, sur chaque bureau et dans chaque main, un écran froid et brillant d’une télévision ou d’un smartphone. Chaque épisode a un casting différent, un décor différent et une réalité différente, mais ils traitent tous de la façon dont nous vivons maintenant et de la façon dont nous pourrions vivre dans 10 minutes si nous sommes maladroits. » Par définition, l’écran sert à projeter quelque chose et donc à attirer le regard. La rétine est d’ailleurs elle-même considérée comme un écran. Supports de projection, les écrans d’aujourd’hui sont souvent utilisés comme des miroirs, et cette série dénonce les aspects déshumanisants des TIC et les usages extrêmement violents qui pourraient en être faits, dans une société très proche de la nôtre. L’écran noir, support de projections fantasmatiques potentiellement violentes et archaïques, semble pouvoir stimuler la pulsion scopique de certains utilisateurs et mener à des dérives, telles que celles figurées dans la série Black mirror.

L’écran peut ainsi être utilisé comme un miroir dans la relation qu’il permet d’établir avec les autres, « virtuels ». Dans ce cas, l’aspect narcissique risque de prédominer sur la relation, pouvant entraîner diverses conséquences, telles que la dépendance à cet « écran-miroir », ou encore le renforcement de l’isolement des utilisateurs, dans une forme d’auto-satisfaction. On pourrait alors parler des risques de la « relation digitale non objectale », ou « relation digitale narcissique ».

Mais au-delà des écrans, l’une des problématiques actuelles en lien avec les usages des TIC concerne le robot. Le passage de l’écran au robot révèle une forme de corporéisation de l’ordinateur, qui adopte une apparence plus ou moins humaine. Le robot dispose d’un corps, ce qui enrichit la palette des interactions sensorielles possibles, et donc probablement un sentiment de présence intersubjective, par rapport à une dimension plus spéculaire et narcissique des écrans-miroirs. Ainsi, le sentiment de présence est évoqué dans de nombreux travaux en cyberpsychologie et il représente l’un des vecteurs par lesquels on pourrait évaluer la qualité de la relation digitale, plus ou moins objectale. Cependant, les aspects sensoriels des robots humanoïdes accessibles actuellement sur le marché français, tel que Nao, restent encore assez limités. Au contraire, les robots du Professeur Ishigiro sont terriblement humains. Au sujet des relations digitales entre les humains et les robots, une autre série propose dans une fiction, cependant très réaliste, différents scénarios.

Real Humans : 100 % humain (2012) est une série télévisée dramatique suédoise créée par Lars Lundström. La série se déroule dans une Suède contemporaine alternative, où l’usage des androïdes devient de plus en plus prépondérant. Ces androïdes - appelés « hubots » dans la série - ont investi les maisons et les entreprises pour aider dans les tâches domestiques et industrielles. Les hubots, acronyme formé de humain et robot, ont : un port USB au niveau de leur nuque, de sorte qu’ils puissent être programmés, une prise électrique escamotable sous l’aisselle gauche, et une fente port micro SD à sa proximité. Ils sont utilisés comme domestiques, ouvriers, compagnons et même comme partenaires sexuels, bien que la législation du pays l’interdise. Mais des logiciels pirates de plus en plus sophistiqués leur ont aussi permis d’avoir des sentiments et des pensées. Certains hubots sont en réalité des clones d’humains, auxquels on a ajouté leur mémoire. Cette installation leur permet de devenir presque immortels, dans ces corps de robots, et ils sont recherchés par la police pour être étudiés et détruits. Tandis que certaines personnes adoptent cette nouvelle technologie, d’autres ont peur et redoutent ce qui pourrait arriver quand les humains sont peu à peu remplacés comme travailleurs, comme compagnons, parents et même amants.

Cette fiction évoque le travail de Turkle sur les relations homme-machine, notamment dans son ouvrage Seuls ensemble. Selon l’auteur, nos usages d’internet nous ont préparé au « moment robotique » actuel. En ligne, le privilège est accordé à notre capacité à partager nos idées, mais nous oublions facilement l’importance de l’écoute, des silences, du sens d’une hésitation. Ainsi, « les satisfactions “comme si” du moment robotique » interrogent sur le fait qu’en devenant amis avec les robots, nous perdrions de notre humanité. L’investissement massif des robots de compagnie nous conduirait à un « voyage vers l’oubli » des valeurs fondamentales de notre humanité car par essence, le robot ne mourra jamais. Ainsi, « l’artificiel permet de créer un attachement sans risques » et nous éloigne donc de ce qui caractérise les relations humaines, fondamentalement marquées par le manque, la mort et la séparation. Tout en prenant en considération ces réflexions particulièrement importantes à l’heure actuelle, on peut s’interroger sur la possibilité d’envisager d’autres usages des TIC, plus humanistes, en renforçant la dimension intersubjective dans les interactions à distance ?

La cyberpsychologie est une discipline émergente qui étudie les liens possibles entre la psychologie et les technologies numériques. En cyberthérapie, plusieurs protocoles de recherche et de soin sont déjà réalisés dans différents pays, notamment pour le traitement de troubles psychopathologiques par exposition à des environnements en réalité virtuelle, ou encore par la médiation psychothérapeutique par le jeu vidéo, et aussi la prise en charge psychothérapeutique de patients à distance en visioconférence. Ces nouvelles méthodes psychothérapeutiques sont encadrées en Amérique du Nord par un guide de pratique publié en 2013. Face à l’émergence de ces types d’usages des technologies, on peut s’interroger sur la dimension plus ou moins intersubjective des relations digitales, en ayant notamment recours au sentiment de présence pour nourrir cette réflexion.

Le sentiment de présence et l’immersion sont deux concepts qui intéressent de plus en plus de chercheurs en « réalité virtuelle ». La « présence » évoque souvent un sentiment associé à l’immersion en « réalité virtuelle » et encouragé par cet environnement. La capacité de la personne à se sentir « enveloppée » ou « présente » dans un « environnement virtuel » semble être nécessaire, particulièrement en psychologie, afin d’offrir des services thérapeutiques de qualité par l’entremise de la « réalité virtuelle ». La présence est traditionnellement définie par la perception psychologique d’être « là », à l’intérieur de l’environnement virtuel dans lequel la personne est immergée. Mais bien que les chercheurs s’entendent sur cette définition, chacun ajoute des nuances quelque peu différentes à celle-ci. On note que les technologies actuelles en cyberpsychologie impliquent la plupart du temps des acteurs humains qui utilisent des machines, tant du côté des psychologues que des patients. Cependant, on voit émerger des projets de recherche permettant l’élaboration d’avatars psychologues qui pourraient réaliser un diagnostic psychopathologique. En menant cette réflexion un peu plus loin, on peut déjà imaginer un robot psychologue…

Face à toutes ces questions et afin de limiter l’aspect narcissique de l’écran-miroir, l’apport de la psychologie clinique et de sa dimension éthique semble nécessaire, afin d’enrichir le champ de la cyber- psychologie. Ainsi, une réflexion clinique en cyberpsychologie peut apporter des éléments de réponse afin de renforcer et de préserver la dimension intersubjective, dans les interactions offertes par la technologie.

Pour sortir de l’impasse du narcissisme, Lasch faisait appel à la théorie des « objets transitionnels ». Ainsi, les objets transitionnels aident l’enfant à reconnaître le monde extérieur comme quelque chose de distinct de lui, bien que relié à lui. Mais ce caractère transitionnel serait manquant dans les sociétés de consommation, qui ne laisseraient que rarement une place à la frustration et au manque, facteurs contribuant à l’élaboration de la pensée. Cette théorie est très utile pour analyser les usages actuels des TIC. Ainsi, favoriser le caractère transitionnel d’internet se distinguerait d’un « usage narcissique » de cette technologie. Pour décrire la constitution du sujet psychique, Winnicott a discuté le stade du miroir, en y apportant un sens différent de celui du miroir spéculaire décrit par Lacan. Ainsi, l’espace potentiel créé entre le regard de la mère comme miroir et l’enfant, constitue un espace de création du sujet. Cet espace potentiel est aussi une « aire de séparation », qui permet d’aller à la rencontre du « soi ». Le premier miroir, c’est donc le visage de la mère.

Cet aspect subjectivant du regard se retrouve dans le cadre de la visioconsultation, en tant que relation à distance pouvant inclure un tiers humain symboliquement présent et s’illustrer dans un échange interactif et intersubjectif, que l’on peut qualifier de « relation digitale objectale », ou « relation digitale intersubjective ». L’objectif de l’expérience en visioconsultation a été, dès la conception du dispositif, de favoriser l’établissement d’une relation d’objet à distance, ce qui a semblé possible dès les premiers résultats. Ce type de relation digitale paraît occuper une pleine réalité, notamment sur le plan psychique, et on ne peut donc pas la qualifier de « virtuelle ».

Mis en ligne sur Cairn.info le 30/01/2017

https://doi.org/10.3917/lcp.204.0027

Influencer Caryn Marjorie is competing with her own AI to chat with fans - Los Angeles Timeshttps://www.latimes.com/entertainment-arts/business/story/2023-06-27/influencers-ai-chat-caryn-marjorie

Thousands chatted with this AI ‘virtual girlfriend.’ Then things got even weirder

By Brian Contreras Staff Writer June 27, 2023 5:30 AM PT

Last month, Caryn Marjorie went from a successful but niche social media star to a person of national interest: the subject of attention-grabbing headlines and, for many commentators, a template upon which to project their anxieties about rapidly advancing artificial intelligence.

The cause of the furor was a partnership Marjorie, 23, had launched with a technology startup promising to make a personalized AI “clone” of the Scottsdale, Ariz.-based lifestyle influencer. For a dollar a minute, fans she might never have otherwise had the time to meet could instead chat with Marjorie’s digital double.

CarynAI, as the audio chatbot has been dubbed, is explicitly framed as a romantic companion — one that aims to “cure loneliness” with software that supposedly incorporates aspects of cognitive behavioral therapy into its conversations. Marjorie said her fans have used the program to ask for life advice and roleplay a sunset date to the beach.

Marjorie was at one point tracking her subscriber growth in tweets about how many new “boyfriends” she had. “They feel like they’re finally getting to know me, even though they’re fully aware that it’s an AI,” she told The Times.

i have over 20,000 boyfriends now 💗

— Caryn Marjorie (@cutiecaryn) May 20, 2023

This HAL 9000 version of pillow talk has, predictably, triggered a backlash. Critics branded CarynAI as alternately demeaning women, enabling antisocial straight-male behavior or signaling impending societal collapse. Coming amid a period of uncertainty about what AI means for jobs, relationships and cultural institutions, Marjorie’s move toward self-automation seemed to perfectly encapsulate an increasingly bizarre present.

“We’re talking about an AI system [where] theoretically the goal is to keep people on as long as possible so that you continue earning money,” said Amy Webb, chief executive of the consulting firm Future Today Institute. “Which means that it’s likely going to start incentivizing behavior that we probably would not want in the real world.”

Webb suggested as an example a bot that’s too obedient — listening passively, for instance, as a user describes disturbing fantasies. Marjorie has addressed similar dynamics before (“If you are rude to CarynAI, it will dump you,” she tweeted at one point), but when asked about Webb’s perspective she instead emphasized her own concerns about addiction.

“I have seen my fans spend thousands of dollars in a matter of days chatting with CarynAI,” Marjorie said; one fan, at the bot’s encouragement, built a shrine-like photo wall of her. “This is why we have limited CarynAI to only accepting 500 new users in per day.”

As AI comes to play a growing role in the economy, and especially creative industries, the questions prompted by CarynAI will only become more widespread.

But Marjorie isn’t placing all her chips on the technology just yet. Within weeks of announcing her AI clone, she launched a second partnership with a different tech company. This one too would let fans talk with her, but instead it would be Marjorie herself on the other side of the screen.

She struck a deal with Fanfix, a Beverly Hills-based platform that helps social media creators put their premium content behind a paywall, and started using its messaging tools to chat directly with customers.

The result is essentially a two-tier business model where lonely guys looking for a 3 a.m. chat session can talk with Marjorie’s machine mimic, while die-hard fans willing to shell out a bit more can pay for the genuine article.

That within the span of a few weeks Marjorie launched two different, seemingly contradictory business ventures — both aimed at turning fan conversations into money — speaks to a central question of an AI-obsessed moment: With robots increasingly entangled in creative industries, what work should be asked of them and what should be left to us?

Marjorie’s hybrid model offers a preview of one possible path forward.

Users pay a minimum of $5 to send her a message on Fanfix, said co-founder Harry Gestetner. That pricing difference — $5 for one human-to-human text versus $1 for a minute of the AI voice-chatting — signals an approach to automation in which workers use machine learning not as a wholesale replacement but as a lower-end alternative for more frugal customers. (Think of an artisanal farmers market cheese versus a machine-made Kraft Single.)

“Messaging directly with a fan on Fanfix will always be a premium experience,” Gestetner said. “It’s important to view AI as the co-pilot, not the pilot.”

(According to Fanfix, Marjorie is making $10,000 a day after soft-launching on the platform and is projected to hit $5 to $10 million in total earnings by the end of the year.)

John Meyer, founder of Forever Voices, the Austin software company that developed Marjorie’s AI simulacrum, is naturally a bit more bullish on the benefits of punting fan interactions to the computer. In some cases, Meyer said, the bots can be more eloquent than the influencers they’re meant to replicate.

“One of the first feelings it brings up is the idea of, like, ‘Wow, should I be threatened by my own AI copy?’” Meyer said.

He lost his father when he was in his early 20s, and started working on the Forever Voices technology late last year as a means of reconnecting. After developing a voice replica of his dad — which he describes as “very realistic and healing” — Meyer expanded into voice clones of various celebrities and, more recently, web personalities. (One of the biggest names in online livestreaming, Kaitlyn “Amouranth” Siragusa, just signed up.)

The company has been inundated with requests from thousands of other influencers asking for their own AI clones, according to Meyer. “We really see this as a way to allow fans of influencers to connect with their favorite person in a really deep way: learn about them, grow with them and have memorable experiences with them,” he said.

The high demand is in part because maintaining a substantial online following can involve a lot of work — not all of it particularly interesting.

“On a daily basis, I see anywhere from 100,000 to half a million messages on Snapchat,” Marjorie said, explaining the workload that led her to embrace CarynAI. (She has 2 million followers on the messaging app; according to a recent Washington Post article, 98% of them are men.)

She added: “I see AI as a tool, and it’s a tool that helps creators create better content.”

Some of her industry peers are skeptical, however, including Valeria Fridegotto, a TikToker with 20,000 followers.

Fridegotto hasn’t written off the technology completely, though. Software that could lessen the workload of fan interaction would be great, she said, but the examples she’s seen released so far don’t seem lifelike enough to run without supervision. There still are too many errors and non sequiturs — what AI experts call “hallucinations.”

“It has to be developed to the point where we are very confident that this technology is going to act as good as us, or better,” Fridegotto said.

As the market floods with imitators, some influencers may even discover renewed demand for “old-school” human-made content.

“People will start leaning more heavily into authentic, personality-driven content,” said Jesse Shemen, the chief executive of Papercup, a startup that uses AI to automatically dub videos. “In the same way how there’s this fascination and big following behind organic food … I think we’ll see the same thing when it comes to content.”

There is a place for automation on social media, Shemen added, especially for people churning out loads of content on a short timeline — news reaction videos, for instance. But, he predicted, there will be a limited market for digital clones such as Marjorie’s.

Still, a space as frothy as AI is hard to ignore. Even Fanfix, the company helping (the real) Marjorie talk to her super fans, is interested. The company’s founders say they’re actively looking at how AI could help influencers.

Although the influencer economy still needs actual humans, the limits of what AI can do are receding, and many web personalities are getting more and more interested in using the technology to automate at least some of their workload.

Such questions are not confined to social media. Artificial intelligence is being rolled out across creative industries, with media outlets such as Buzzfeed incorporating it into their publications and film studios leveraging it for postproduction work. AI-based screenwriting has emerged as a key concern in the ongoing Writers Guild of America strike.

But social media is uniquely personality-driven, making the sector’s relationship with AI particularly fraught. The value of web personalities depends on their ability to win trust and affinity from their followers. That connection can be so powerful that some experts refer to it as a “parasocial relationship” — a strong but ultimately one-sided devotion to a public figure.

It’s a tricky dynamic to navigate, and one Marjorie finds herself in the midst of.

“In the world of AI, authenticity is more important than ever,” the influencer tweeted last month. “My tweets, [direct messages], direct replies, Snaps, stories and posts will always be me.”

CarynAI, she added, will be an “extension” of her consciousness; it “will never replace me.”

Comment les mouvements politiques français jouent des techniques de manipulation de l'information sur les réseaux sociauxhttps://www.nextinpact.com/article/70132/comment-mouvements-politiques-francais-jouent-techniques-manipulation-information-sur-reseaux-sociaux

Comment les mouvements politiques français jouent des techniques de manipulation de l'information sur les réseaux sociaux

Sans parcimonie

Par Mathilde Saliou Le vendredi 14 octobre 2022 à 16:07

Pendant la campagne électorale 2022, l’équipe d’Éric Zemmour s’est démarquée par son industrialisation des techniques de manipulation de l’information sur les réseaux sociaux. Mais un regard sur les quelques années écoulées montre qu’à peu près toutes les forces politiques françaises utilisent ou ont utilisé des tactiques de distorsion des discours en ligne.

Le 10 avril 2022, à 20 heures, Emmanuel Macron et Marine Le Pen sortent vainqueurs du premier tour des élections présidentielles françaises, avec 27,85 et 23,15 % des voix respectivement. Derrière eux, Jean-Luc Mélenchon, 21,95 %, et Éric Zemmour, 7,07 % des voix. Ce dernier score tranche avec la surreprésentation du candidat d’extrême droite sur les réseaux sociaux pendant la campagne.

Une des explications possibles à l’échec du polémiste le jour du vote a commencé à être documentée dès février 2022, alors que Le Monde révélait l’usage que faisait l’équipe de Reconquête de techniques de distorsion des discours sur les réseaux sociaux : en ligne, une bonne partie de l’engouement pour l’ex-chroniqueur du Figaro était faussée.

Un rapport de l’Institute for Strategic Dialogue (ISD) vient détailler les ressorts du phénomène : dès janvier 2021, soit 18 mois avant le scrutin, le groupe Les Amis d’Éric Zemmour a publié des pétitions utilisées ensuite sur Twitter et Facebook pour tenter d’influencer le discours médiatique en faveur du candidat. Appelée astroturfing, la pratique va à l’encontre des conditions d’utilisation des grands réseaux sociaux, puisqu’elle constitue une activité dite « inauthentique ».

Si Reconquête s’est distingué par l'industrialisation de son usage, c'est loin d'être le seul mouvement à recourir à ces tactiques de manipulation difficiles à repérer pour l’internaute.

L’astroturfing, une technique ancienne

De même que la présence en ligne des politiques ne date pas d’hier – le site web du Front National, premier parti français à se lancer sur Internet, en 1996 – l’astroturfing date de bien avant l’avènement des réseaux sociaux. Issue d’un jeu de mots en anglais, l’expression oppose la marque de gazon artificiel AstroTurf au terme grassroot, « populaire », qui désigne aussi, littéralement, les racines d’un gazon.

En communication, cela consiste à monter de toutes pièces un mouvement pour faire croire à l’observateur extérieur à un engouement civique légitime. « *Ça existait avec le collage, l*’envoi en masse de courrier aux électeurs, souligne le chercheur Nicolas Vanderbiest, spécialiste des phénomènes d’influence en ligne. Simplement, le numérique et les réseaux sociaux ont rendu ces opérations beaucoup plus simples à réaliser. »

De fait, le chercheur décortique depuis une dizaine d’années le bruit en ligne pour en évaluer la pertinence. « Vers 2016-2017, j’ai vu mon environnement d’étude, Twitter, muter vers une tendance extrêmement polémique et militante ».

En France, les premiers signes en sont l’explosion du hashtag #TelAvivSurSeine, qui provoque rapidement des articles dans Le Monde, 20 Minutes ou l’Express quand bien même le sujet n’est poussé que par un très faible nombre de militants pro-palestiniens.

Un an plus tard, c’est le sujet du burkini qui est poussé par l’extrême droite jusqu’à être commenté sur les plateaux télé. Chaque fois, la logique est la même : quelques comptes tweetent abondamment sur un sujet précis, ils sont repris par un ou des journaux qui leur donnent une forme de crédibilité, puis la polémique enfle jusqu’à occuper tout l’espace.

Une tactique de désinformation en ligne courante…

Depuis, la pratique s’est répandue. Au tournant de l’élection de Donald Trump et du scandale Cambridge Analytica, des cas d’ingérence étrangère inquiètent. À deux jours du premier tour de la présidentielle 2017, la publication sur Wikileaks de 9 Go de données provenant du piratage d’En Marche! soulève les craintes d’une manipulation russe – lors de cette campagne, l’alt-right américaine a aussi tenté d’influencer les débats pour promouvoir Marine Le Pen.

Mais se tourner automatiquement vers des groupes étrangers pour analyser ces déformations serait se bercer d’illusion. Auteur de Toxic Data et créateur du Politoscope, qui analyse l’activité politique française sur Twitter, le mathématicien David Chavalarias a noté dès les débuts de la campagne de 2017 un mouvement d’amplification des discours anti-Macron et anti-Mélenchon orchestré par des comptes français pour privilégier les thématiques d’extrême droite. Le phénomène a touché jusqu’à l’UMP, puisque la brusque apparition du hashtag #AliJuppé, très principalement tweeté par la droite et l’extrême droite, a servi à déstabiliser les primaires de l’UMP et à pousser la candidature de François Fillon.

Déformer la discussion, que ce soit dans ou hors des périodes électorales, « tout le monde le fait, souffle Nicolas Vanderbiest. Et c’est parce que tout le monde le fait que chacun peut se défendre en disant "si je ne le fais pas, je ne survivrai pas". »

Effectivement, en 2018, le hashtag #BenallaGate suscite en quelques jours plus de tweets que le seul #BalanceTonPorc, une manipulation que Nicolas Vanderbiest détecte comme faussée – certains comptes proches du Front National tweetent jusqu’à 1 000 messages par heure, ce qui laisse supposer des pratiques automatisées.

En 2019, Le Monde et Mediapart montrent comment des militants marcheurs multiplient les faux comptes pour augmenter la visibilité des informations qui les intéressent ou harceler des « cibles ». En 2021, c’est sur les pratiques virulentes du Printemps Républicain que revient Slate. En 2022, les militants Insoumis organisent des raids pour faire grimper leur candidat dans les tendances…

… aux contours débattus

Si bien que, pour le spécialiste des médias sociaux Fabrice Epelboin, lorsqu’on parle d’un nombre réduit de militants qui s’organisent pour rendre visible un sujet qui les arrange, ce n’est même plus de l’astroturfing, « c’est devenu une tactique classique de militantisme. »

Pour lui, les pratiques consistant à reprendre et amplifier un message, tant qu’elles ne sont pas assistées de bots, de faux comptes et/ou de personnes payées pour amplifier le bruit comme dans l’affaire Avisa Partners, sont un nouveau mode d’action politique et non une déformation de l’usage des réseaux. Et les deux experts en la matière, parce qu’ils savent si bien « utiliser des discours clivants pour se propulser dans les discussions médiatiques, sont Éric Zemmour et Sandrine Rousseau » estime l’entrepreneur.

Sauf que la propension à cliver ne vient pas des seules forces politiques, elle est ancrée dans l’architecture des plateformes sociales. « Celles-ci sont construites pour favoriser les contenus sensationnels, promotionnels, qui divisent » rappelle David Chavalarias. En cinq ans, cela s’est traduit par une « polarisation nette des échanges pour observer, en 2022, un pôle d’extrême-droite et un autre autour de la gauche radicale » alors que toutes les couleurs politiques étaient représentées de manière relativement équilibrée en 2017.

Par ailleurs, les conditions d’utilisation des plateformes sont claires : chez Twitter, il est interdit d’utiliser le réseau « d’une manière qui vise à (…) amplifier artificiellement des informations, et d’adopter un comportement qui manipule ou perturbe l’expérience des utilisateurs ». Côté Meta, l’authenticité est déclarée « pierre angulaire de notre audience » et les usagers ont interdiction de « mentir sur leur identité sur Facebook, utiliser de faux comptes, augmenter de manière artificielle la popularité de leur contenu ».

L’architecture numérique source d’oppositions

Co-autrice du rapport de l’ISD, la coordinatrice de recherche Zoé Fourel note pourtant que lesdites plateformes n’ont absolument pas réagi aux violations de leurs règles par les militants proches d’Éric Zemmour. L’immense majorité des tweets et publications qui ont permis de propulser en trending topic (sujet tendance sur Twitter) étaient non pas le fait d’une foule de citoyens engagés, mais d’un minuscule nombre de profils sur le réseau social – dans un cas sur dix, c’était le responsable de la stratégie numérique Samuel Lafont qui twittait lui-même les contenus destinés à attirer l’attention du public et des médias.

Et cela a fonctionné un temps : en septembre 2021, comptait Acrimed, l’éditorialiste multi-condamné pour provocation à la haine raciale était cité 4 167 fois dans la presse française, soit 139 fois par jour. En janvier 2022, les sondages lui annonçaient 14 % des voix d’électeurs.

Ce que les médias et les internautes doivent comprendre, estime David Chavalarias, c’est à quel point « les plateformes sociales ont un effet structurel sur les interactions sociales elles-mêmes : non seulement elles prennent vos données, mais elles façonnent aussi la discussion et les interactions. »

Cela finit par créer des stratégies d’influence à part entière, indique le chercheur : « promouvoir des idées aussi clivantes que la théorie du grand remplacement ou l’existence d’un islamo-gauchisme, c’est forcer le positionnement de l’internaute dans un camp : celui du pour ou celui du contre ». Par ailleurs, des chercheuses comme Jen Schradie ont montré la tendance des plateformes à favoriser les idées conservatrices, ce qu’un rapport interne à Twitter est venu confirmer fin 2021. L’architecture de nos arènes numériques, conclut David Chavalarias, « a pour effet de simplifier le business politique pour le rendre bipolaire. »

Que faire, face à ces phénomènes dont on commence tout juste à prendre la mesure ? Dans le discours politique, une réaction pourrait venir des partis et des militants eux-mêmes. L’équipe de Joe Biden, aux États-Unis, puis celle d’Emmanuel Macron, en France, ont adopté de nouvelles stratégies dans les campagnes présidentielles récentes : celle de ne plus communiquer, sur Twitter, que sur des éléments positifs (c’est-à-dire peu ou non clivants) et actions de leurs candidats. Ce faisant, ils s’éloignent de la machine à clash instituée par le réseau social.

« Il faudrait que les plateformes commencent par implémenter leurs propres règles », pointe par ailleurs Zoé Fourel, qui plaide pour une ouverture de leurs données pour faciliter le travail des chercheurs et les audits extérieurs.

« Ajouter des étiquettes sur l’activité suspectée d’illégitimité pourrait aussi aider les utilisateurs à s’y retrouver. Sans parler du besoin de coopération entre plateformes : quand une campagne est menée sur Twitter, elle a aussi des échos sur Facebook et ailleurs en ligne ». La chercheuse suggère de reproduire les partenariats existant pour lutter contre certains contenus extrêmes.

Qui a tué le CYBERPUNK ? - YouTubehttps://www.youtube.com/watch?v=1BcnhVVQhxA

Qui a tué le CYBERPUNK ?

Transcript de la vidéo Qui a tué le CYBERPUNK ? du vidéaste Bolchegeek

Une émission de Benjamin Patinaud avec Kate la Petite Voix , basée sur les travaux de Raphaël Colson et les tables rondes du festival Les Intergalactiques

vous voyez le délire un détective hacker taciturne qui déambule dans la nuit pluvieuse au milieu de loubard au bras bionique shooté à la réalité virtuelle sous une forêt de gratte-ciel frappée du logo de méga Corporation illuminés par les néons les écrans et les phares des voitures volantes.

Envoyez les synthés bien mélancoliques et le saxo porno, une narration intérieure du genre, cette ville cette techno cata boursouflé de Baï au crack au sein duquel des crypto Romulus et Rémus se nourrissent goulûment d'un cyberflu de métadata

Cette ville ce n'est pas la Mégacité des Doges non, mais c'est ma ville c'est néo-Limoges.
Enfin voilà vous connaissez le cliché Cyberpunk

Le Cyberpunk semble faire ces dernières années un retour en force, ce sous genre est-il en passe de redevenir l'avenir de la SF le plus à même de parler de notre présent auquel il semble étrangement ressembler, ou s'agit-il d'une mode passagère le revival d'un
truc un peu ringard pour de sombres raisons marketing bien moins pertinentes ?

Aujourd'hui Retour vers le Futur d'un imaginaire qu'on peut croire mort et enterré

Par Benjamin PATINAUD & Kath

Origines

En 1980 Bruce Baden n'est pas le nom le plus célèbre du panthéon de la science-fiction, ce développeur informatique du Minnesota aujourd'hui âgé de 68 ans à quelques œuvres à son actif dont des novalisations comme celle du film steampunk Wild Wild West et du FPS spatial Rebel Moon rising, à l'époque il écrit une nouvelle au titre quant à lui bien plus connue cyberpunk cette histoire publiée seulement en 1983 avant de devenir un roman suit les aventures d'un protagoniste d'un nouveau genre un hacker.

Elle reste surtout dans les mémoires pour avoir donné naissance au terme qui désignera bientôt tout un mouvement une fois popularisé par un article du Washington Post en 84.

Mais le mouvement lui-même prend racine ailleurs. Racines c'est bien le terme avec un S s'il vous plaît tant le cyberpunk éclos subitement d'un peu partout, de la littérature au cinéma, de l'est à l'ouest en pur fruit des années 80 naissantes.

Dans le continuum créatif c'est jamais facile de définir un point d'origine on attribue souvent la paternité du genre à William Gibson avec sa nouvelle Johnny mnémonique de 1982 l'histoire d'un trafiquant de données avec un disque dur dans la tronche.

Simultanément à l'autre bout du monde katsuiro Otomo accouche du manga Akira, toujours la même année sort au cinéma Tron et sa réalité virtuelle vidéo ludique mais aussi et surtout Blade Runner.

Le film de Ridley Scott avait alors pas très bien marché en plus de recevoir un accueil plus que mitigé de la critique. Il a depuis été réévalué comme une œuvre culte et nul ne peut nier son influence imposant les bases de toute une esthétique de SF néo noir.

Il s'agit pourtant de l'adaptation d'une nouvelle de Philippe K.Dick les Android rêvent-ils de moutons électriques a qui on
doit les noms de la chaîne Nexus 6 et de la maison d'édition les moutons électriques, écrite en 1968 elle précède donc largement le mouvement qui nous intéresse, ce qui lui vaut le qualificatif de proto-cyberpunk.

Car avant de rentrer de plein pied dans ses foutues années 80 la SF est passé par l'effervescence des années 60-70 marquée par les contre-cultures des mouvements d'émancipation dans tous les sens et une volonté générale de retourner la table.

Nombre d'auteurs de cette période comme Michael Moorcock, Ursula K. Le Guin et évidemment Dick avait sauté à pieds joint dans ce train lancé à toute vitesse bien décidés à dépoussiérer eux aussi les codes de la vieille SF à papa.

C'était parti pour une nouvelle vague de SF avec des formes littéraires plus expérimentales mettant en scène des antihéros têtes brûlées débarrassées de la foi aveugle envers l'avenir.

Bonjour le sexe la drogue, mais aussi les questions de classe et d'aliénation la défiance envers l'ordre social les nouvelles technologies et l'avenir en général avec la perspective d'un effondrement civilisationnel, et oui comme on l'a expliqué dans notre vidéo pour l'Huma sur la montée du post-apo le 20e siècle avait déjà sévèrement douché les espoirs naïfs en un progrès technique avançant main dans la main avec un progrès social.

Esprit de ces décennies oblige, cette nouvelle vague donne tout de même corps à des utopies nouvelles comme avec la société
anarchiste dans Les Dépossédés ou celle de Star Trek, c'est cet esprit là qui se mange de plein fouet les années 80, la contre-révolution conservatrice et l'hégémonie du rêve ultralibéral, la foi en la mondialisation, la fin des trentes glorieuses. La contre-offensive des grandes entreprises et la victoire du discours managérial.

Les années fric, le tournant de la rigueur, there is no alternative, la fin de l'histoire bref la réaction.

Une réaction sans pitié à ces années 60-70 qui l'emporte pour les décennies à venir. Dont acte la SF qui intègre elle aussi ce nouveau logiciel sans partager son enthousiasme béat.

Les futurs se font entièrement dystopiques, privatisés et policier dirigé par des méga corporation de la tech toute puissante et où les inégalités sociales se creusent avec leur lot de précarité, d'insécurité et de systèmes D du turfu, ou tout État de droit ayant disparu il
reste pour les classes possédantes l'impunité et pour les classes laborieuses la criminalité comme face d'une même pièce.

Toute la société se résume pour paraphraser Gibson a une expérience accélérée de darwinisme social, les personnages plus des abusés roublard et individualiste pioche dans les figures dites anti-politiques qu'on trouvait dans le western et surtout dans le polar noir

Les figures du cyberpunk sont qualifiées de détectives de cow-boy et de samouraïs d'un genre nouveau les errances bioethniques à la kerwax se déplace dans les ruelles de mégalopole tentaculaire d'où la nature a définitivement disparu.

L'exploration new age de paradis artificiels a été remplacé par des réalités virtuelles, quant à l'espoir de changement il a été écrasé par les gratte-ciel.

Si les détectives et les hackers jouent contre ces sociétés brutales détournant ces technologies a leur avantage c'est dans un espoir de survie ou de tirer leur épingle du jeu, car évidemment les années 80 c'est aussi l'avènement de nouvelles technologies porteuses d'autant de promesses que de crainte.

Le Time choisi l'ordinateur comme son homme de l'année 1982 succédant ainsi à Regan puis un Lech Walesa annonciateur de la fin du bloc soviétique et précédent a nouveau Reagan.

Le silicium de l'électronique donne son célèbre nom à la Silicon Valley, l'informatique
s'apprête à révolutionner nos vies et le jeu vidéo s'empare de la culture populaire.

N'oublions pas que les nerds et les geeks qui prennent alors le pouvoir respectivement dans ses industries émergentes et sur la culture
populaire proviennent eux-mêmes des contre-culture.

Voilà la recette du nom cyber pour l'aspect technologique ici l'informatique et punk pour les racines contre culturelles pas
n'importe quelle racine puisque le punk est le mouvement qui débarque à la toute fin des années 70 et proclame *NO FUTURE à partir de là comme sa maman les années 80 le cyberpunk semble ne jamais vouloir complètement disparaître.

Le livre considérait comme le fondement absolu du genre sort en 1984 No Romancer toujours de William Gibson, seul et unique a remporter le triptyque de prix Nebula Philippe K.Dick et le Hugo. En gros niveau SF c'est comme remporter à la fois la Palme d'Or l'Oscar et dépouillé les Golden Globes.

D'ailleurs si ces classiques vous intéresses s'ils ont été réédités avec une traduction entièrement retravaillée par Laurent kesci au Diablo Vauvert

ah et tiens qu'est-ce qu'on trouve aussi chez ce bien bel éditeur mon livre sur les méchants le syndrome magnéto disponible chez vos libraire préféré oh là là c'est pas fou ça ?

Bref le héros du Neuromancien évidemment un hacker chose amusante le daron du cyberpunk ne bite absolument rien en informatique bien qu'il soit depuis devenu un twitos prolifique qui relay toute la journée des trucs de boomer de gauche comme un vieux fourneau.

Lui il est plutôt du genre à avoir vadrouillé dans les années 70 en testant pas mal de produits ironie absolue il a écrit neuromenser sur une bonne vieille machine à écrire signe de son impact culturel après la littérature le cinéma et le manga le genre envahit la BD en général la télé l'animation le jeu de rôle et même le jeu vidéo.

Au Japon il perpétue ses formes particulières au non subtil de extreme japanes cyberpunk sous l'influence de la scène underground et notamment punk bien sûr, ils mettent en scène leur propre imaginaires de low life high-tech c'est-à-dire vide bas-fonds et haute technologie dans des esthétiques urbaines et industrielles avec comme particularité une passion pour le body, horror les corps mutants artificiels ou transformés par la technologie.

Pourtant et contrairement à ce que sa longévité laisse penser le cyberpunk devient très vite un imaginaire à un peu daté dont les anticipations manquent un paquet de cibles la réalité virtuelle se résumait alors à ce qu'on sera amené à appeler les casques à vomi pour se connecter en permanence on préfère aux implants cérébraux les ordinateurs de poche, pas de voiture volante à l'horizon c'est internet la vraie révolution technologique qui emporte nos sociétés.

Bravo vous êtes sur Internet vous allez voir c'est facile

Dès les années 90 on est déjà dans l'âge d'or du post-cyberpunk qui joue de son esthétique maintenant bien établie et ajoute plus d'ironie et détourne ses codes ne décrivant plus nécessairement un avenir high-tech dystopique les auteurs historiques se lassent eux-mêmes du genre et beaucoup passa à autre chose

Dès 1987 le cyberpunk était devenu un cliché d'autres auteurs l'avaient changé en formule la fascination de la pop culture pour cette vision fade du cyberpunk sera peut-être de courte durée, le cyberpunk actuel ne répond à aucune de nos questions à la place il offre des fantasmes de pouvoir, les mêmes frissons sans issue que procurent les jeux vidéo et les blockbusters ils laissent la nature pour morte accepte la violence et la cupidité comme inévitable et promeut le culte du solitaire.

Bon en Occident on essaie beaucoup de transcrire cette imaginaire au cinéma mais c'est pas toujours probant, bon alors par contre au Japon le genre continue lui de péter la forme enfin ça c'est jusqu'à ce qu'un signe noir sorte de nulle part pour terminer la décennie

Matrix marque un tournant dans le cinéma de SF même de l'industrie du cinéma en général en fait il fournit une synthèse de ce qu'il précède tout en proposant une approche renouvelée en un coup de tonnerre culturel, et pourtant matrix n'a pas tant ressuscité le cyberpunk qu'offert un baroud d'honneur tenez même la mode de Matrix-like qui a suivi le carton du film non retiennent même pas spécialement laspect cyberpunk.

Nous voilà dans l'hiver nucléaire pour le cyberpunk doublé comme on l'a expliqué par le post-apo comme son papa le punk il n'est pas mort il s'est dilué et ça on y reviendra on délaisse le cyber au profit de nouvelles technologies comme avec le nanopunk ou le biopunk

C'est seulement a partir des années 2010 qu'on voit le cyberpunk sortir petit à petit de son bunker pour aboutir à ce qui semblent être un véritable revival et si pour savoir qui a tué le cyberpunk il fallait d'abord se demander qui l'a ressuscité et surtout pourquoi

Revival

notre Prophète le cyberpunk reviendrait-il sur terre pour nous guider, on en perçoit des signaux faibles tout au long de la décennie jusqu'à une apothéose pourquoi ce soudain revival ? est-il le signe que le genre va retrouver un avenir ?

en parlant d'une autre et s'imposer à nouveau comme majeur dans la SF contemporaine les raisons paraissent sautées aux implants oculaires intensément d'imaginaire semble coller plus que jamais au problématiques actuelles c'est la thèse plutôt convaincante défendue par le bien nommé cyberpunks not dead de Yannick RUMPALA.

Le cyberpunk nous apparaît désormais comme familier, on vit dans une société je ne vous apprends rien une société où le technocapitalisme étant son règne et ses promesses plus encore que dans les années 80, des technologies organisées autour d'interface homme machine interface par lesquelles passent notre rapport au monde

Alors certains on a préféré pour le moment donner des extensions à nos corps et nos esprits plutôt que des puces et un plan cybernétique même si la Silicon Valley investit sa R&D comme jamais pour nous promettre que cette fois c'est la bonne qu'en plus juré ça n'est pas la pire idée dans la longue et triste histoire de l'humanité.

Une technologie de plus en plus absorbée par les corps et des corps de plus en plus absorbés par la technologie, le cyber c'est effectivement greffé textuellement dans les cyberguères, la cybersécurité, et la cybersurveillance, la domotique, les algorithmes et les IA explosent faisant désormais partie de notre quotidien. L'informatique en général devient totalisante en s'étendant à chaque aspect de nos vies l'enjeu n'est plus de contrer la technologie comme des ludiques modernes mais de la maîtriser l'utiliser à nos propres fins la détourner après tout les hackers bien réels font désormais partie des figures de contestation, les mégalopoles ont poussé de partout comme des champignons et l'urbanisation n’est pas près de s'arrêter.

Presque 60% de la population vit aujourd'hui dans une ville population qu'on estime pouvoir doubler d'ici 2050 des villes comme lieu de déshumanisation, d'atomisation et d'anonymat.

La marche de l'histoire tend vers la privatisation du monde le capitalisme sous sa forme dite financière c'est dématérialiser en des flux des données des opérations informatiques automatisées comme dans Johnny Memonic les données elles-mêmes deviennent une richesse prisée il s'est également des territorialisé à franchi des frontières et des régulations se fondant désormais sur des multinationales ce capitalisme tardif annoncé par Ernest Mandel 10 ans avant l'avènement du cyberpunk et désormais partout et donc nulle part.

Les structures collectives les institutions publiques et les corps intermédiaires disparaissent petit à petit rendu impuissant ou jeté en pâture aux puissances privées le cyberpunk puise dans les changements structurels et philosophiques des entreprises dans les années 80 son ére des méga corporations nous la vivons comme annoncé.

Fini le capitalisme industriel à la pap, les grands groupes tenus par quelques grandes familles, et des conseils d'actionnaires
anonymes démultiplient leurs activités pas étonnant que le genre présente souvent un avenir entre americanisation et influence thématique asiatique en miroir de ses principaux pays producteurs d’œuvres que sont les USA et le Japon, ce dernier avec son miracle économique faisait alors office de précurseur, à la fois fleuron de la tech et organisé autour des Keiretsu héritière des Zaibatsu qui ont tant inspiré Gibson.

D'énormes normes conglomérats familiaux implantés dans de multiples secteurs à coups de fusion acquisition

Le sang Zaibatsu c'est l'information pas les individus. La structure est indépendante des vies individuelles qui la composent. L'entreprise devenue forme de vie

New Rose Hotel, William Gibson (1986)

Ces entreprises omnipotentes deviennent des organismes tentaculaires non plus des services mais des marques à l'identité propre

Dans une société de contrôle on nous apprend que les entreprises ont une âme ce qui est bien la nouvelle la plus terrifiante du monde

Gilles Deleuze, Pourparlers (1990)

Les élites elles continuent dans leur séparatisme si elles ne sont pas encore parvenues à rester en orbite ou sur d'autres planètes elles
vivent coupées du reste d'entre nous dans les ghettos du gotha, les Gated community, au-delà du monde et des frontières qui s'imposent encore à l'inverse à la masse des déplacés et des plus pauvres.

Ils se projettent dans leur propre ville apatrides au milieu de l'océan ou du désert sans plus jamais toucher terre, littéralement hors sol evadé du reste de la société autant que de la fiscalité. Se plaçant tout comme leur richesse accaparée offshore

Des élites en rupture avec l'humanité elle-même via des rêves d'immortalité et de transhumanisme, séparé du genre humain par le gouffre béant des inégalités ou la classe moyenne disparaît comme le prolétariat renvoyait à un précariat ou un lumpenprolétariat pour être un peu old school, avec pour seul perspective la survie quotidienne.

Entre eux et des riches toujours plus riches plus rien, aucun optimisme aucune issue aucun contre modèle à chercher dans ce monde cyberpunk car la précarité c'est le NO FUTURE,

La précarité affecte profondément celui ou celle qui la subit en rendant tout l'avenir incertain, elle interdit toute anticipation rationnelle et en particulier, ce minimum de croyance et d'espérance en l'avenir qu'il faut avoir pour se révolter, surtout collectivement contre le présent, même le plus intolérable.

Pierre Bourdieu, Contre-feux (1998)

On parle parfois de techno-féodalisme à autre nom pour les rêves mouillés des libertariens, un terme en apparence paradoxal ou la concentration de richesse et des technologies toujours plus puissantes toutes deux libérée de leurs entraves amènent à une régression sociale rappelant la féodalité un monde de technobaron et de cyber-serfs même si nos rues ne regorgent finalement pas de cyborgs les verrous moraux ont sauté pour ouvrir la voie à une conquête de nouveaux marchés par une technologie débarrassée des considérations éthiques et prolonger la marchandisation de tout jusqu'au plus profond des corps et des esprits.

Donnez-le vous pour dit désormais c'est le Far West sauf que la frontière a été repoussée vers de nouveaux territoires c'est nous.

La technologie n'apporte plus le bonheur collectif elle renforce au contraire les injustices en profitant à quelques-uns. Le cyberpunk décrit littéralement un monde d'après, post-humain, post-national, post-politique, monde d'après qui serait notre présent.

Serait-il alors effectivement le meilleur genre de SF pour faire le bilan de notre époque et en imaginer les perspectives ?

Coup dur du coup vu qu'il en a pas de perspective mais pas étonnant qui s'impose à nouveau à nous et de beaux jours devant lui à moins que ...

Rétrofutur

Si tout ce que je viens de dire est tout à fait vrai il faudrait pas oublier une caractéristique cruciale de ce revival

Survival il s'inscrit dans un phénomène bien plus large qui définit beaucoup notre moment culturel tout particulièrement dans la pop culture la nostalgie des années 80

Parce qu'il représente notre futur mais parce qu'il représente le futur des années 80, ça ça change tout et l'ironie de la chose et pire que vous le pensez car figurez-vous que le cyberpunk alors qu'il commençait à être délaissé par ses créateurs à très vite donner naissance à des sous genres dont vous avez sûrement entendu parler à commencer par le steampunk popularisé par le roman de 1990 the different engine sous les plumes de Bruce Sterling et ce bon William Gibson.

On pourra y ajouter tout un tas d'autres dérivés du même tonneau comme le diesel-punk, laser-punk, l'atome-punk ou
en fait tout ce que vous voulez. Le principe reste le même remplacer cyber par n'importe quel autre technologie dont va découler tout un univers. Mais ces héritiers ont une particularité il s'agit le plus souvent de rétro-futurisme le plus connu le steampunk donc donne une science-fiction victorienne partant des débuts de l'industrialisation pousser plus loin les perspectives de la vapeur

Attention si ce genre s'inspire d'auteur de l'époque comme Jules Verne ça ne fait pas de vingt mille lieues sous les mers une œuvre steampunk car ce n'est pas du rétrofuturisme. A ce moment-là c'est juste la SF de l'époque celle à laquelle revient le steampunk en imaginant non plus un futur mais une uchronie, une histoire alternative ou le monde aurait pris une direction différente, et ça marche en fait avec n'importe quoi je vais prendre des exemples bien de chez nous qui illustrent bien ça.

Le château des étoiles c'est une fort belle BD de Alex Alice débutant en 1869, bon alors l'esthétique c'est complètement un délire steampunk faut se calmer à inventer un sous genre à chaque variante mais on pourrait presque dire etherpunk du fait de sa technologie centrale en effet une partie de la science de l'époque postulait l'existence d'une matière constituant le vide spatial. l'ether évidemment maintenant on sait que pas du tout mais le château des étoiles part de cette science de l'époque imagine qu'elle avait raison et en fait découler une science-fiction un futurisme mais du passé un rétro futurisme.

L'intérêt n'est donc plus la prospective et l'exploration de futurs possibles mais l'exploration d'époque passé et de futurs qu'elles auraient pu croire possible. Sauf que non comme on le constate tous les jours d'ailleurs ces sous genre accorde souvent une grande importance au contexte historique traditionnellement on trouvera dans cette SF des événements mais aussi des personnages bien réels qui côtoient des personnages fictifs souvent issus de la culture de l'époque.

Autre oeuvre que Cocorico, la Brigade Chimérique de Serge Lehman et Fabrice Colin prend le parti du radium punk où les découvertes de Marie Curie donnent naissance dans de guerre à des genres de super héros européens tous en réalité issus de la littérature populaire de l'époque. Le contexte historique et politique y est central on y aperçoit André Breton où Irène Joliot-Curie autant que des personnages issus de la littérature populaire de l'époque qui viennent en incarner des phénomènes réels. Le génie du mal allemand docteur Mabuse ou Gog personnage du roman éponyme de l'écrivain fasciste Giovanni Papini pour les forces de l'Axe. L'URSS de Staline qui pioche ses agents en exosquelette dans nous autres un roman de science-fiction soviétique tandis que le nyctalope dont on doit les aventures foisonnantes à l'écrivain collabo Jean de La Hire devient protecteur de Paris

Bien que la démarche soit la même la période couverte ici ne correspond plus au steampunk mais plutôt à un autre genre le diesel punk même si elle fait le choix d'une autre technologie avec le radium. Qui dit époque différente dit problématique différente si le steampunk aborde les débuts de l'industrialisation et se prête aux questions de classe de progrès ou de colonialisme on développe plutôt ici le contexte d'entreux de guerre les tensions en Europe la montée des fascismes ou le communisme vous voyez le truc le rétrofuturisme peut servir à explorer des problématiques du passé qui résonnent dans le présent enfin quand c'est bien fait quoi comme par exemple avec frostpunk qui mobilise le steampunk pour évoquer les bouleversements climatiques en revenant à leur point d'origine qui est l'industrialisation parce que le problème justement c'est que ce côté rétro peut se limiter à une nostalgie pour une esthétique et une époque fantasmée et à une approche purement référentielle.

Non mais il suffit de voir le steampunk lorsque c'est résumé à mettre des rouages sur un haut de forme à tous porter ces mêmes de lunettes Gogole et à se faire appeler Lord de Nicodémus Phinéas Kumberclock aventuriers en montgolfière évacuant toutes les thématiques à un peu gênantes pour pouvoir fantasmer une ére victorienne sans regard critique.

Voilà la terrible ironie du cyberpunk genre ultramarquant d'une époque sont suffixe à couche de rétrofuturisme sans en être un lui-même avant d'en devenir un son tour une uchronie des années 80 où le cyber est une technologie datée au charme désuet vers laquelle on aime revenir comme une culture doudou.

Je vais reprendre un exemple très symptomatique pour bien comprendre ça dans Blade Runner on peut voir partout les logos Atari parce
qu'on est en 1982 et que le jeu vidéo c'est le truc du cyber futur et que le jeu vidéo, bah c'est Atari mais quand en 2017 Blade Runner 2049 force encore plus sur Atari ça représente plus du tout le futur c'est une référence nostalgique. Résultat ce qu'on reprend c'est une esthétique et des codes figés y compris dans des thématiques dont on sait plus forcément trop quoi faire.

La pertinence s'est émoussé la charge subversive s'est épuisée c'est marrant d'ailleurs vous noterez que les dérivés se sont construits avec le suffixe punk pour dire c'est comme le cyberpunk sauf qu'au lieu d'être cyber c'est inséré autre technologie alors que bah il y a absolument plus aucun rapport avec le punk parce qu'au final c'est pas le cyber qu'on a perdu c'est le punk

Punk is dead

Si on y réfléchit bien ce destin est tout à fait logique le punk justement bah ça a été une contre-culture pertinente à un moment et depuis bah c'est une esthétique et un état d'esprit un peu daté un peu folklo qui renvoie une époque. Dans la pop culture ça s'est dilué dans un imaginaire rétro des années 80 pour fournir des cyborgas crête de la chair à canon pour beat them all à l'ancienne et des A tagués dans des ronds

Alors le punk c'est pas les c'est pas que les Sex Pistols franchement c'est beaucoup plus c'est beaucoup de groupes c'est des groupes comme crasse qui existent encore aujourd'hui qui sont des anarchistes convaincus qui ont jamais signé sur une grosse boîte qui sort des des disques qui font quasiment au même point ils les prête pas mais ils en sont pas loin ça c'est un groupe c'est vraiment aussi un groupe très emblématique mais qui a jamais été très médiatisé parce que c'était pas ce qu'ils recherchaient. Il y a eu des gens qui ont surfé sur la vague punk, les Sex Pistols ce qui était vraiment un groupe punk mais qui a après été développé comme un comme un produit marketing comme Plastic Bertrand pour nous pour pour les Français les Belges on en rigolait pas mais c'est le plus grand groupe punk et à côté il y avait les Béru ou les bibliques qui étaient pas du tout des groupes qui sont rentrés dans ce système là donc ça c'est pour l'histoire du punk mais effectivement oui les sexpistols, il y a une récupération et puis il y avait aussi le fait que cette contre-culture et ben elle devient moins la contre-culture à partir du moment où elle s'intègre dans la culture générale

Punk : Tout est dans le suffixe ?

Avec Lizzie Crowdagger, Karim Berrouka, Léo Henry, et Alex Nikolavitch.

C'était la contre-culture d'une culture qui décrétait la fin de l'histoire, une contre-culture qui disait nos futurs et à partir du moment où il y a nos futurs et ben il lui reste quoi à la SF bah il lui reste la perspective de fin du monde avec la domination du post-apo qu'on a abordé sur l'humain vous pouvez enchaîner là-dessus à la fin de cette vidéo ou se tourner vers les futurs du passé quand on envisageait qu'il y en aurait un et donc le rétrofuturisme.

Le cyber lui il est bel et bien là dans nos vies mais où est le punk où est la contre-culture, finalement ça m'étonne pas qu'on se retrouve plus dans des imaginaires comme heure très loin du cyberpunk plus banal plus clinique qui ressemble plus à ce qu'on a ce qui m'avait fait dire un jour en live on vit vraiment dans la dystopie la plus nulle du monde quoi.

C'est vraiment la en fait c'est la COGIP cyberpunk c'est vraiment en fait on a on a la dystopie sans avoir les costumes cool et les néons partout quoi

Alors j'ai envie d'appeler ça du COGIP-punk parce que de fait ouais l'idéologie managériale de l'époque a bel et bien fini par infuser toutes les strates de la société de l'entreprise à l'économie en général et à la sphère politique jusque dans notre quotidien et nos modes de vie. A la place des bras bioniques dans des blousons noirs avec mot câblés on a des happiness manager radicalisés sur Linkedin...

Le bonheur au travail ce n'est pas qu'une question de cadre de travail, bien sûr nous avons une table de ping-pong, ou une salle de sieste, un espace jus de fruits, un espace smoothie, un espace smoothie à la banane, un vélo elliptique pour 400, des iPad pour faire du yoga tous les matins le break face meeting convivial de 8h30 et l'occasion d'appeler chaque collaborateur par son prénom pour vérifier qu'il est bien là ouvert aux autres et dans l'instant présent de 8h30 pétantes

Chief Happiness Dictator par Karim Duval (2020)

alors moi je trouve ça aussi abyssalement dystopique et ça me terrifie mais ça a même pas le mérite d'être stylé d'où la pétance nostalgique pour le cyberpunk à l'ancienne d'ailleurs le dessinateur boulet avait proposé dans une super BD le concept de Fornica-punk il y a même le Giscard-punk pour à peu près la même chose parce que non soyons honnêtes on vit pas dans Neuromance pas même dans Black Mirror on vit dans dava

défenseur acharné de l'éducation financière dès le plus jeune âge nous n'aurons de cesse de vous offrir tips après tips, quoi qu'il en coûte pour vous sortir en fin de cette pauvreté confort qui vous gangrène, car le tabou sur l'argent est un sacré fléau dans le monde actuel un génocide qui ne dit pas son nom

DAVA - Qui sommes-nous DAVA (2017)

le futur cyberpunk a fini par apparaître pour beaucoup consciemment ou non comme un avenir impossible on y croit plus pourquoi faire avec quelles ressource comment vous voulez que ça se casse pas la gueule avant

Bon il y en a qui croit encore c'est vrai et c'est intéressant à observer on l'a dit les Zinzins de la Silicon Valley sont aussi le produit de ces contre-culture et mater ce qui sont devenus à ça c'est clair le devenir cyberpunk il force à mort dessus pour reprendre la blague

j'ai écrit le cybercule de l'Apocalypse comme un avertissement envers une humanité qui court droit à la catastrophe [Musique]
je suis heureux de vous annoncer que nous avons créé le cybercule de l'Apocalypse issu du roman visionnaire ne créez pas le
cybercule de l'Apocalypse

Je déconne à peine le terme metaves vient lui-même du roman post cyberpunk snow crash de Neil Stephenson en même temps soyons tout à fait honnêtes l'imaginaire cyberpunk cristallise certes des craintes mais aussi une fascination ce que j'aime appeler le syndrome Jurassic Park. Le film montre qu'il faut surtout pas ressusciter des dinosaures mais on veut le voir parce que il y a des dinosaures de ans et il nous donne à rêver qu'on puisse en croiser un jour. Mais où est passé la veine punk du détournement du hacking de la débrouille
du Do It Yourself et des espaces alternatifs à faire vivre dans les interstices d'une société épouvantable. La façon pour les prolos et les marginaux de la propriété de conserver la maîtrise de ces outils si aliénant.

Et ben non du cyberpunk on a gardé des patrons savants fous qui torturent des singes pour leur coller des neuralink mais qui sont mais alors persuadés d'être les héros.

Si vous voulez savoir je suis un genre d'anarchiste utopique comme l'a si bien
décrit Iaine Banks (auteur de SF)

Elon Musk (Twitter, évidemment)

C'est logique en même temps pour les hyper riches le cyberpunk a toujours été en quelque sorte une utopie résultat et nous font des trucs du futur qui marchent pas en plus d'être dangereux et cerise sur le gâteau dans des versions nulles à chier, c'est peut-être ça le truc qui saute aux yeux quand on voit ce qui reste à quel point c'est parodies humaines ont un imaginaire pauvre.

Leur univers intérieur c'est le désert sans même parler des aspects plus concrets de tout ça, regardez la gueule de méta regardez la gueule des NFT, regardez la gueule de Dubaï de NEOM, de the line.

Mais ici je le répète ces gens sont des amputés de l'imaginaire c'est eux qui sont aux manettes et prétendent concevoir notre futur leur utopie c'est non seulement des dystopies pour la très grande majorité d'entre nous mais en plus elles sont éclatées.

Pour le coup pas étonnant qu'un film comme Matrix est fait autant de bruit avec son approche au final il reprenait les idées cyberpunk pour dire que la matrice ben c'était le monde dans lequel on vivait un monde déjà COGIP-punk

attendez les gars calmez-
vous c'est parce que vous croyez je vous jure je sais rien je suis sûr que cet
c'est quelque chose il bluff [Musique]

Avec ça matrix n'a pas tant relancé le Cyberpunk qui l'avait clos bon et au-delà de ce qu'on peut penser du dernier film la démarche de Lana dit à peu près tout

Dans la première trilogie notre regard était prospectif nous avions compris que les ordinateurs et le virtuel allaient devenir de plus en plus important je voyais donc pas l'intérêt de revenir agiter les mêmes idées 20 ans plus tard

Lana Wachowski, Premiere (2021)

Alors bon le cyberpunk a-t-il vraiment un avenir en dehors d'un revival année 80 qui lui-même j'espère va s'essouffler. Cyberpunk peut-être pas tout à fait dead mais cyberpunk finito

Plot twist : Fin ?

Ca c'est la conclusion que j'aurais faite à la base mais laissez-moi vous raconter une petite histoire je faisais un tour comme d'hab au festival de SF les intergalactiques où j'ai pu participer à un paquet de table rondes et sur une en particulier il y a eu un déclic, la table se déroule sous l'égide de l'essayiste Raphaël Colson spécialiste du genre qui m'a aidé à écrire cette vidéo en bonne partie basée sur ces travaux il faut être honnête.

Dans les intervenants on retrouve Yann Minh un artiste multicasquette, alors lui c'est totalement un Cyberpunk à l'ancienne qui fait vivre le truc à fond. A côté on a deux auteurs de SF Michael Roch et Boris Quercia. Dans la discussion forcément ça parle de tous ces trucs de Zuckerberg, de Musk, les cryptos, vous avez compris ce que j'en pense. Et puis il y a ces deux auteurs qui écrivent la à l'heure actuelle des œuvres cyberpunk ou inspiré du cyberpunk.

Je parlais de renouveau je pense qu'il y a effectivement une réappropriation qui se fait dans la marge évidemment sur les sur les bases de ce que fait l'auteur du Neuromancien ou le cyberpunk devient un outil pour lutter contre un pouvoir politique, parler des marges de l'Occident ou justement le né- néolibéralisme extrême est déjà en oeuvre c'est faire preuve que le que le cyberpunk n'est pas mort on le présente qu'on le présente dans un récit futuriste mais c'est la réalité présente de de ce qui se passe. Moi j'ai des collègues aux Antilles mes collègues ont bossé dans des choses sur les effets spéciaux de films comme Le Hobbit, comme John Carter de mars etc etc... Et en fait souvent on se fait des visios et ils me disent Mike je vais je vais être obligé de laisser le visio là parce que je dois aller m'occuper des beufs qui sont dans le champ une heure plus tard ils sont sur leur PC en train de faire de la FX pour des films quoi. Ce rapport un peu un peu dans la dualité c'est ce qui va provoquer peut-être ce nouvel imaginaire, c'est originalité de du cyberpunk cette renaissance. Mais encore une fois on est on est clairement dans un temps présent totalement tarabiscoté.

là-dessus Boris cuersia prend aussi la parole je vous invite à voir la table ronde en entier mais en gros lui aussi il nous raconte une histoire qui vient de son Chili natal celle d'un pauvre type qui mange de la viande bon marché dans la rue et qui se retrouve avec une puce greffée dans le bide parce que cette viande appartenait en fait à un chien quilui-même appartenait à des riches qu'il avait pucer dernier cris et voilà comme on était né le premier cyborg chilien.

aujourd'hui je peux pas séparer la technologie tout ce qui est social parce que finalement on sait pas tout le monde va avoir accès à cette technologie cela ça s'identifie, ça se voit très clairement, en Amérique latine il y a fait mais directement à la à l'ensemble de
la quotidienne d'une personne.

Ces bâtards ils m'ont montré ce que j'avais pas vu et en même temps est-ce que ça devrait me surprendre qu'un vrai renouveau pertinent
du genre viennent d'un auteur des Antilles et d'un autre d'Amérique latine.

Qu'est-ce qu'il y a de plus cyberpunk que le premier pays à avoir adopté des crypto comme monnaie officielles qui nous donne des titres comme au Salvador la méga prison des gangs polluent les rivières je critique cette esthétique nostalgique ce cyberpunk superficiel comme on le retrouve dans une pop culture mainstream qui recycle les mêmes poncifs mais j'en sortais pas tellement pour aller voir ailleurs non plus j'avais mon casque VR de geekos americanisé vissait sur la tronche je pensais voir le code mais je sortais pas de la matrice c'est pas parce que je constatais toujours justement je le pense que la culture populaire mondialisée très dominée par le nord n'avait plus grand chose à dire avec le cyberpunk que d'autres eux n'avaient plus rien à en dire

A LIRE

Cyberpunk's not dead - Yannick Rumpala (Éditions Le Bélial)
Tè Mawon - Michael Roch (Éditions La Volte)
Electrocante / Les rêves qui nous restent - Boris Quercia (Éditions Asphalte)
Neuromancien / Mona Lisa Disjoncte / Comte Zéro - William Gibson (Éditions Au Diable Vauvert)

Les tables rondes des Intergalactiques :

Cyberpunk : l'imaginaire d'un techno-futur ? • Cyberpunk : l'ima...
Punk : tout est dans le suffixe ? • Punk : tout est d...

Links per page