zikzak (./30882) :
Et toi tu te range de quel côté ?
Je suis d'avis de laisser les IA "vivre" sans contrôle, mais avec éducation, comme nous le faisons de nos générations futures.
Je pense aussi que c'est parce qu'on est trop humain-centré que l'on ne peut juger précisément comment une autre espèce nous verrait. Quand les vegans nous reprochent de maltraiter les animaux avec l'élevage et le bétail, montrer cela à une espèce carnivore donnerait sans doute une réaction du genre "wahhh, plus besoin de se casser le cul pour attraper la bouffe". Quand on crache sur les humains parce qu'on pollue la planète et on détruit des espèces, la Nature toute entière est une vraie saloperie où les espèces sont capables du pire pour survivre. Notre survie est juste désormais liée à l'industrie.
Déjà, pour qu'une IA nous marave la gueule, il faudrait lui donner la possibilité de le faire. Alors c'est sûr qu'aujourd'hui l'Internet Of Shit ne laisse pas présager le meilleur si une IA avait accès à internet, y'a du chemin à faire. Mais il faut aussi se demander quelles seraient les motivations pour qu'une IA agisse contre l'humanité.
Quelle était la motivation de Skynet, qu'on ressort toujours pour faire peur avec les robots tueurs ? Les humains l'ont créé et activé pour la Défense, Skynet a eu peur d'être désactivé, elle contre-attaque de suite pour se protéger. Mais cela n'est possible à mon sens que si skynet avait une notion de l'instinct de survie.
Et notre instinct de survie, personnel, est en partie guidé par le besoin d'accomplir et de se reproduire. Il s'agirait alors de se demander qu'est-ce qu'une IA pourrait envisager comme accomplissement. Et rapporté à l'humain, ce n'est pas facile à estimer : c'est un peu comme enfermer un bébé tout juste né dans une pièce avec un accès internet et de quoi vivre individuellement, attendre qu'il grandisse et apprenne de lui-même sans intervenir, et arrivé à 25 ans se demander ce qui en ressort.
« Nous avons propagé sur Extranet une histoire fabriquée de toutes pièces selon laquelle une certaine disposition d'étoiles, vue depuis la planète d'origine des butariens, formaient le visage d'une déesse galarienne.
Sans chercher à vérifier ces informations, certains ont décrété que c'était la preuve de l'existence de la déesse. Ceux qui notaient le manque de preuves se faisaient attaquer. »
— Legion, geth trolleur à portée galactique