Réseaux neuronaux et créativité - Page 30

Carrément

Va falloir apprendre les bases : une phrase commence par une majuscule et finit par un point.

ouais. niveau CE1, je confirme.

https://edition.cnn.com/2026/09/18/politics/us-military-ai-false-intelligence-china-ship

Enfin des trucs rigolos !

Incroyable.
Beaucoup de gens ne comprennent pas l'évaluation du risque, à savoir que la probabilité d'erreur/hallucination de l'IA doit être liée aux conséquences de cette erreur pour voir si le niveau de risque est acceptable ou pas.
Et quand le niveau est trop haut, on met en place des mesures, par exemple de détection d'erreur. Typiquement là ils auraient pu vérifier manuellement avant de faire circuler le rapport.

"Monsieur le juge, c'est pas moi, c'est mon IA qui a fait ça à l'insu de mon plein gré."

Je plaisante, évidemment. En vrai, ça ne sera jamais jugé.

C'est fou quand on y pense, qu'on SAIT que ces choses vont arriver, qu'on sait que ces IA vont être enshittifiées au possible comme tout l'a toujours été dans la tech grand public, que ça sera peut-être « mieux que rien » et fun pendant un moment, pour ensuite tirer la prise quand le monopole est établi. Sauf que c'est pas un simple monopole comme Amazon ou Uber (qui ont des raisons d'inquiéter certes), ça a nettement plus d'impact. Et pourtant personne semble oser interférer, on laisse faire et on verra bien.

Ces « attaque par des ai rogues » ne sont pas aléatoire. Les LLM en quesitions on ete mis en place avec tous les outils pour faire ce genre de chose. (Plus très certainement des instructions ici ou la sur comment faire certaines de ces choses)


OpenAI et consort font ça pour plusieurs raisons:
- instiller la peur pour que les « LLM soit contrôlé »
- manupilation de marché
- et bien sûr les classique coup de pubs.

Vouloir le marché contrôlé est pour pouvoir s’approprier le marché et bloquer la concurrence à poids ouvert comme les modèles chinois, car le type de législation qu’ils cherchent à faire passer rendrais illégal ce type de LLM.

Hmm j'avoue que je ne comprends pas vraiment. Qu'est-ce qui ferait que les LLMs Chinois seraient illégaux ? Que font-ils de différent ?

Et la peur des LLMs ça n'agit pas plutôt contre eux ?

La différence c'est que les LLM chinois sont en grande majorité open source et/ou open-weight, ce qui fait que l'on peut en installer des instances privées qui pourraient échapper aux régulations. Coté américain, c'est l'inverse : les modèles les plus efficaces sont fermés et uniquement accessibles via les serveurs de leurs développeurs.
On peut imaginer que le but est que pousser l'idée que, comme les modèles américains sont fermés, ils pourraient être contraint par des régulations. Les modèle qui ne le peuvent techniquement pas devraient être complètement interdits.

Ah, merci. Si c'est ça c'est pire que ce que je pensais…

Et ça explique aussi que plus aucune compagnie tech ne semble proposer de machine learning local. C'est particulièrement ironique quand je vois Siri, alors qu'Apple ont été les premiers à pousser ça, notamment pour indexer les photos.

Dans l'absolu c'est clair que tant qu'ils arrivent à jouer sur l'illusion que ces machins sont vraiment si puissants que ça, le débat du danger de pouvoir en faire tourner un chez soi paraît s'imposer. Faudrait juste que ça tienne assez longtemps pour qu'assez de gens se rendent compte à quel point c'est peu fiable, et va s'empirer très rapidement à mesure que le web est « pollué ».

Brunni (./880) :

Et ça explique aussi que plus aucune compagnie tech ne semble proposer de machine learning local. C'est particulièrement ironique quand je vois Siri, alors qu'Apple ont été les premiers à pousser ça, notamment pour indexer les photos.

Dans l'absolu c'est clair que tant qu'ils arrivent à jouer sur l'illusion que ces machins sont vraiment si puissants que ça, le débat du danger de pouvoir en faire tourner un chez soi paraît s'imposer. Faudrait juste que ça tienne assez longtemps pour qu'assez de gens se rendent compte à quel point c'est peu fiable, et va s'empirer très rapidement à mesure que le web est « pollué ».

C'est quand même compliqué de faire tourner un modèle vraiment thaut de gamme chez soi : ça se compte en dizaines de milliers d'euros (limite basse)

Uther (./879) :
On peut imaginer que le but est que pousser l'idée que, comme les modèles américains sont fermés, ils pourraient être contraint par des régulations. Les modèle qui ne le peuvent techniquement pas devraient être complètement interdits.

Ce qui pourrait peut-être marcher pour les entreprises, mais les particuliers utiliseront simplement un VPN.

---

Dans la catégorie "celle-là, je l'avais pas vu venir" :

https://apnews.com/article/antitrust-lawsuit-ai-slowdown-anthropic-openai-spacexai-google-960af4308161eaf4ed13c383b0ce1c1b
A new lawsuit claims Anthropic, OpenAI, SpaceXAI and Google made an illegal deal to slow the pace of their respective AI development.

The lawsuit, which was filed Friday in the U.S. District Court for the Northern District of California, argues that the leading AI companies violated antitrust laws when they agreed to coordinate slowdown efforts, and that doing so would reduce the value consumers get for paid AI subscriptions.

The coordination largely took place on Sept. 12, the lawsuit argues, when Anthropic CEO Dario Amodei published an essay urging for industrywide cooperation on decelerating advancements in favor of enhanced safety measures. That same day, OpenAI CEO Sam Altman, SpaceXAI CEO Elon Musk and Google DeepMind’s co-founder and chair Demis Hassabis each publicly responded to Amodei’s proposals in agreement.

But the lawsuit also alleges that the coordination began to take shape months earlier. It points to a statement from July 2026 that high-ranking employees from several of the leading AI labs signed that acknowledged the “intense competitive pressure not to unilaterally slow” development. That statement called on the government to support a global effort to slow automated AI development.

It is clear that an agreement among the chief rivals in AI that their progress “should be slower than competition would otherwise produce has an anticompetitive effect on consumers,” the plaintiffs argue.

Lawyers representing four named plaintiffs, who pay for subscriptions to ChatGPT, Claude, Grok or Gemini, are bringing the lawsuit on behalf of a proposed nationwide class of other paid subscribers to those services.

The plaintiffs don’t object to the companies individually deciding to slow their own progress in favor of safety. They instead argue in the complaint that antitrust laws forbid them from taking the “shortcut” of agreeing to “substitute collective restraint for individual accountability.” A competitive market allows for responsibility and genuine progress, the lawsuit argues.

./882> Oui après de ralentir le développement c'est ce que pas mal de gens demandent. Et les investisseurs voir leur argent, donc ça paraît un bon entre-deux.

C'est juste fou qu'on parle de juste 4 acteurs, quand on y pense, pour quelque chose d'aussi « nouveau ».

Mais oui le raccourci c'est valable éthiquement :

They instead argue in the complaint that antitrust laws forbid them from taking the “shortcut” of agreeing to “substitute collective restraint for individual accountability.”

flanker (./881) :
C'est quand même compliqué de faire tourner un modèle vraiment thaut de gamme chez soi : ça se compte en dizaines de milliers d'euros (limite basse)

Justement le besoin d'un modèle haut de gamme n'est pas forcément garanti.

Siri par exemple est devenu totalement inutile sans le online, alors qu'en 2013 il faisait plus qu'assez, avec une reconnaissance vocale offline (si je me rappelle bien, du moins Google Assistant le fait toujours, même s'il est un peu abandonné et remplacé par Gemini, certes mieux mais lent à la mort parce que tout se fait online, et détestable parce que pour qu'il ait la moindre utilité, il faut en gros lui donner accès à tout ton compte Google et vice-versa).

Non, la vraie raison c'est que oui pour quelques possibles features meilleures, ils choppent des statistiques sur l'entier de ta bibliothèque de photos par exemple, alors qu'avant c'était juste stocké sur ton téléphone.