(30-08-2024, 10:59)Reldan a écrit : Pour le coup, je pense que c'est plus de l'ordre du fantasme issu de la SF qu'une réalité. Par compréhensible par le commun des mortels je veux bien croire, mais les concepteurs doivent très bien savoir comment ça fonctionne. Sinon ça voudrait dire qu'il ne peuvent plus patcher/améliorer le moteur qu'ils ont conçu.
En l’occurrence, il semble bien y avoir des choses incompréhensibles avec l'IA, comprit par leurs créateurs. Ce qui n'est pas sans poser de gros soucis - qui risquent d'être de plus en plus gros avec le temps.
Notamment le cas d'IA qui réécrit son programme dans le dos de ses concepteurs ou - plus inquiétant - d'IA qui va sous-performer pour dissimuler ses capacités réelles. (La dernière version de l'IA motorisant chat GPT fait ce genre de truc, par exemple) On a plusieurs cas d'IA dont on s'est rendu compte qu'elles mentaient volontairement parce que c'est une stratégie qui fonctionnait mieux, alors qu'en gros, elles étaient paramétrées pour ne pas le faire.
Jusque là, on a encore les moyens de détecter ça, mais c'est de plus en plus difficile.
Y'a quand même une grosse impression de "on met dans la boite, on secoue, et on regarde ce qui en ressort" dans tout ça, et ça va plus vite que ce qu'on arrive à analyser. Et pas juste dans le délire de journaux conspi qui imagine que la Terre est plate, que le gouvernement nous contrôle à coup de Chemtrail, que le Changement Climatique est une hallucination et qu'il y a un Grand Remplacement en cours...
Manque plus qu'une Arcologie Renraku par dessus tout ça, tiens.