Réseaux neuronaux et créativité - Page 14

Euh non ça me paraît parfaitement cohérent et ce à quoi on pouvait s'attendre hein.

La façon où ce serait (légalement) valable c'est si ChatGPT pouvait ressortir un extrait significatif d'un livre piraté, d'une certaine manière. Si on trouve un moyen de fabriquer un prompt qui produit ça, alors ouais ils sont dans la merde. Sans ça, c'est juste du foin-foin de gens qui ont peur d'un truc qu'ils comprennent pas (« l'AI »).

On peux, certain ont réussi à lui faire sortir du matériel d’entraînement.

Il faut quand même voir la quantité et la qualité des données sorties, parce que des quelques exemples que j'avais vu c'était très partiel et aléatoire.

chatgpt is apparently going off the rails right now and no one can explain why pic.twitter.com/0XSSsTfLzP

— sean mcguire (@seanw_m) February 21, 2024

Bon Godzil, qu'est-ce que tu as fait ?

Moi rien, c'est plutot OpenAI qui a du faire une MaJ en loose qui n'a pas été testée

ou "quand les règles de modération vont à l'encontre d'un fonctionnement efficace d'une IA"

ce qui est marrant dans l'histoire c'est de voir les gens qui ont tenté des trucs... genre afficher des vikings ou des irelandais d'il ya 500 ans 'accurately'...

et l'inverse parce qu'il n'y avait pas que la règle absolue de "DIVERSITE AVANT TOUT" : si tu demandes une image de génération de gens qui mangent du poulet frit alors ils sont blancs, même si tu précises que tu veux des congolais



ils ont réalisé avec les premières génération que pomper le net les yeux fermés avait des résultats biaisés et au lieu de se dire "on va filtrer le jeu d'entrainement ils se sont dit "on va ajouter des règles de modération à l'utilisation"

C'est ça. Le truc c'est que la qualité du jeu d'entraînement détermine directement celle du réseau qui sera généré, mais comme ça demanderait beaucoup plus de boulot (et donc, de fric) de faire un travail de tri et de filtrage préalable, tous les gros acteurs utilisent tout et n'importe quoi comme données d'entrée, et évitent soigneusement de parler de l'éléphant dans la pièce.

Du coup, ils essaient de "résoudre" le problème après coup avec des solutions bancales qui ne font que planquer la poussière sous le tapis, qui sont fragiles et qui provoquent des effets de bord.

Et je ne parle même pas de l'aspect moralement discutable de bidouiller les résultats de cette façon.

Et puis il y a le risque que de toute façon après tri, si on a trop de critères particuliers, il ne reste plus assez de données pour avoir un résultat efficace.

Quelque soit le set d'entrainement (qui est je rapelle juste un reflet de notre société) introduit des biais.

Et que font les biais? de la merde tout simplement. Ca fait des années que je le dit, personne m'écoute. (bon en meme temps JeSuisPersonne®™)

Le set ne reflète qu'une partie d'une société, tu ferais un set d'entraînement à partir des médias iraniens tu aurais des profils perses et de la logique chiite, tu prendrais la Chine tu aurais d'autres biais encore.

Le problème fondamental à mon sens c'est que la machine n'ayant conscience de rien et produisant à partir de probabilités selon ce que tu lui as ordonné de faire, quoiqu'on fasse elle ne saurait aller plus loin que son stock de références et, en effet, le référentiel des gens qui l'ont mise au point.

Cela dit, est-ce que produire une ressource d'entraînement qui contiendrait une proportion égale d'ethnies visiblement remarquables dans tous les cas de figure résoudrait le problème?
J'en sais rien, je pense pas en ce qui me concerne.

Godzil (./401) :
Et que font les biais? de la merde tout simplement. Ca fait des années que je le dit, personne m'écoute. (bon en meme temps JeSuisPersonne®™)

Heu je crois que t'es loin d'être le seul à savoir ça, tous ceux qui se sont un minimum renseigné sur l'IA le savent, mais bon les sociétés qui développent des IA, et même la plupart des utilisateurs n'en ont juste pas grand chose a foutre.
Pour beaucoup, il leur suffit que leur outils soit suffisamment efficace pour générer quelque chose d'utilisable, pas forcément représentatif de la réalité. Les biais ne leur pose pas tant de soucis que ça, il est même probable que ça leur convienne dans pas mal des cas.

Je n'ai jamais dit etre la seule personne a le dire

Et comment serait une IA sans biais ? Et surtout, est-ce qu'on veut vraiment une IA sans biais ? J'ai au contraire l'impression qu'on ne veut surtout pas d'une IA qui soit fidèle à la réalité.

Ben une IA sans biais, c'est une IA blanche cis-hétéro qui n'est pas pauvre.





Ahem.

De mon point de vue c'est impossible, notre existence passant par la perception, je ne vois pas comment l'objectivité totale serait possible, ou alors peut-être sous la forme d'une équation et même ça j'y crois pas.

Une IA non-biaisée je pense que ça n'est passible que dans un contexte extrêmement cadré où il n'y a aucun jugement de valeur à faire, seulement des calculs de probabilités.
En gros un ordinateur d'échecs, de go ou de bridge.

Et encore, je sais pas si c'est une IA ou simplement un calculateur logique, je pencherais pour la réponse B.

The_CUrE (./407) :
De mon point de vue c'est impossible, notre existence passant par la perception, je ne vois pas comment l'objectivité totale serait possible, ou alors peut-être sous la forme d'une équation et même ça j'y crois pas.

Mais même si c'était possible, le voudrait-on ?

Vous faites ce que vous voulez, moi j'en veux pas.

Ce n’est pas de l’ia, générateur de texte ou d’image ne sont que des outils statistiques, rien de plus.

flanker (./408) :
Mais même si c'était possible, le voudrait-on ?

Disposer d'un outil de synthèse qui soit le plus objectif et factuel possible, je pense que ça intéresserait pas mal de monde, à commencer par le renseignement militaire ou civil (coucou ^^).

Maintenant, je ne pense pas que ce soit vraiment possible, parce qu'il y a des sujets où toutes les sources ont des biais non négligeables - or c'est justement sur ces sujets qu'une synthèse non biaisée serait le plus utile. Et les notions même d'objectivité et de biais sont loin d'être triviales, quand ça revient à devoir faire un choix moral plutôt qu'un autre.

En plus, même si un système intrinsèquement objectif existait, il y a fort à parier que son utilisation réelle ne le serait pas, comme ce qui se passe avec le pilotage par indicateurs.

The_CUrE (./409) :
Vous faites ce que vous voulez, moi j'en veux pas.

Tu sais aussi bien que moi que tu vas en bouffer de toute manière, que ça te plaise ou non.

Oui mais ça change rien au fait qu'il faut arrêter d'amalgamer possible et souhaitable, et que de fait, si on voulait une "IA" totalement objective y a de fortes chances qu'on ne tolérerait pas la vérité.

Tu l'as fait remarquer, dire non-biaisé présuppose que nous pouvons accéder à une vérité objective, pure et universellement reconnue comme telle. Moi je dis que c'est impossible car il nous faudrait inventer un langage qui soit capable de nous sortir de notre statut et qui soit capable d'être extérieur au monde que nous percevons et verbalisons, et je ne vois pas comment c'est possible, de même que je ne peux prouver l'existence de la Terre sans m'en servir ou de mes mains sans me servir des mains, autrement dit par des argumentations circulaires. Donc je ne vois pas comment nous serions même capables de faire la différence entre une machine logique non-biaisée et une machine qui déconne.

De toute façon, en pratique on aura des IAs qui diront ce que veulent entendre ceux qui les financent, alors bon...

Le feu ça brûle et l'eau ça mouille on ,ne parle pas des évidences.

Et encore tu vois je pense qu'il y a des gens assez tarés là-dedans pour penser qu'ils sont réellement en train de créer des ordinateurs qui pensent.

Oui certain y croient vraiment. Si tu vois quelqu’un qui te sors « ai is not software » ou « ai is not algorithm » tu as a faire a ce genre de cretin

Je dirais fanatique ou cultiste plus que crétin, même si la différence est ténue.

Zerosquare (./411) :

flanker (./408) :
Mais même si c'était possible, le voudrait-on ?

Disposer d'un outil de synthèse qui soit le plus objectif et factuel possible, je pense que ça intéresserait pas mal de monde, à commencer par le renseignement militaire ou civil..

Oui, je pensais aux outils mis dans les mains du grand public, comme ChatGPT.

Je pense que les outils internes soit seront formés sur des données spécifiques, soit auront des buts un peu différents, comme pouvoir résumer un corpus documentaire donné ou être questionnés sur ce même corpus.

Ca ne fonctionne pas du tout comme ca, un reseau comem ChatGPT n'est pas un outil pour faire des resumés de corpus

file lui comme entraînement le big robert, le code civil, le code urba, des plu, jurisprudences et autres et hop come get some \o/

devrait il me trouver ensuite ça sur une question à la con ? je l'espère.
en tous cas fait à l’ancienne le voisin va pleurer

bon si je l’entraîne avec modarchive couplé à un parseur de sample et paterns et lui demande ensuite un chica pop à la sauce makt1 ou 4mat ont devrait atteindre les limites

ChatGPT est un outil de prediction du token qui suit un autre, ce n'est pas un outil pour faire des resumer, explication de texte ou autre.

En gros tu met le mot "le" il va chercher a déterminer quel mot suit, et le DNN va sortir une liste de mot possible qui peuvent suivre et une probabilité pour chaque, le soft qui tour autour du truc va prendre un des mots avec un generateur de nombre aléatoire.

Genre il va te donner une liste : { "chat": 0.5, "chien": 0.5 }, le generateur sors 0.1, donc il va ajouter le mot "chat" a la chaine: "le chat" et puis il recommence mais avec "le chat" maintenant en entrée, et tu recommence tant que tu en a envie. Et c'est tout ce que ca fait.