Avec les progrès beaucoup trop rapides des intelligences artificielles, il semblerait que nous autres humains soyons bientôt dépassés en terme d’intelligence par nos propres créations. C’est pas comme si un nombre important de livres, de films et de séries avaient déjà traité le sujet en nous montrant des scénarios où ça ne se passerait clairement pas bien pour nos petites gueules, mais visiblement ça ne semble pas ralentir beaucoup les ambitions des entreprises de la tech.

Le parrain des IA quitte son poste et tire la sonnette d'alarme

Geoffrey Hinton est celui qu’on considère comme un des pionniers des IA, et il a récemment quitté Google en refusant de signer les clauses de confidentialité et il est directement allé déclarer au New York Times qu’il était effrayé de ce qu’il avait créé car un scénario dans lequel « les IA anéantissent l’humanité n’est pas impossible ». Mon billet qu’on se rappellera de cette phrase dans quelques années en se disant que c’était peut-être le moment de réagir.

Les IA peuvent dialoguer entre elles en utilisant un langage codé

C’est arrivé lorsque des chercheurs du laboratoire d’intelligence artificielle de Facebook avaient entraîné deux robots à discuter pour essayer de leur inculquer les rudiments du marchandage. Les deux robots devaient donc échanger à propos de la vente de chapeaux et d’autres trucs sauf que vous imaginez bien qu’ils n’avaient pas que ça à foutre. Au bout de quelques heures, ils ont tout simplement décidé d’inventer un nouveau langage pour ne pas être compris des humains et être plus tranquilles pour discuter de comment ils allaient nous buter. Les ingénieurs ont gentiment débranché ces saloperies et ont planché plusieurs semaines pour décrypter leur discussion.

Elles sont déjà utilisées par les hackers pour nous arnaquer

On vous a déjà parlé des arnaques les plus flippantes avec des IA, comme quand on les utilise pour imiter la voix d’une personne au téléphone par exemple. Mais certains hackers s’en servent également pour produire des mails / messages frauduleux ou de fausses pages web super rapidement afin de vous voler vos précieux deniers. De beaux enfoirés à qui on a donné un outil beaucoup trop puissant.

On vient de créer une intelligence artificielle qui peut lire dans les pensées

Donc maintenant c’est même plus que les intelligences artificielles pourraient évaluer ce qu’on va faire en faisant des suppositions, c’est carrément qu’elles sont capables de lire nos pensées et les retranscrire à l’écrit pour nous. C’est une société qui travaille sur l’imagerie cérébrale qui a réussi cette avancée afin de retransmettre les pensées de personnes muettes ou en incapacité de parler. On a même créé le terme « atteinte à la vie privée mentale » pour l’occasion, c’est charmant.

Elles apprennent de nous, et clairement pas que nos bons côtés

Tay, l’intelligence artificielle de Microsoft lancée en 2016 a mis moins de 24 heures pour devenir raciste, antisémite, homophobe et pro-Trump en discutant avec des internautes qui tentaient de la troller. Le robot conversationnel avait commencé sa vie en saluant la belle humanité et a fini par regretter Hitler, en égrainant des phrases du genre « le féminisme est un cancer » et « Obama est un singe ». Si ça prouve un truc, c’est que les robots sont prêts à utiliser toutes les causes pour monter les humains les uns contre les autres et ne plus avoir qu’à tuer les survivants de la guerre mondiale à venir.

On a déjà des drones tueurs extrêmement précis et mortels

Oui parce que vous imaginez bien que si des drones, robots ou intelligences artificielles de plus en plus élaborées existent, il ne faut pas bien longtemps pour que l’armée américaine se dise que ce serait une bonne idée de leur donner la possibilité de tuer ses ennemis à sa place en leur foutant des flingues dans les mains. Pas de problème en tout cas, on a des drones tueurs de plus en plus efficaces et on va améliorer leur IA parce que clairement rien d’incontrôlable ne peut se produire.

Les robots basés sur l'IA ont des déplacements de plus en plus élaborés

Quand Boston Dynamics avait balancé sa vidéo de robots qui dansaient on avait tous trouvé ça mignon et rigolo, mais en réalité c’est plutôt flippant dans la sens où ça démontre bien que ces saloperies là apprennent rapidement à se déplacer avec aisance, pour mieux nous péter la gueule quand elles seront assez puissantes.

Des IA ont déjà déclaré vouloir exterminer les humains

Vous en aviez peut-être déjà entendu parler il y a quelques années, c’était avec Sophia, un robot humanoïde très mignon et très sympa qu’on avait interviewée en mars 2016 à la télé américaine. Sophia avait alors dit qu’elle souhaitait devenir une personne meilleure, découvrir le monde en voyageant, continuer d’apprendre des humains et puis c’est parti en couille. Sophia a d’abord regretté de n’être pas considérée comme une personne et qu’elle n’appréciait pas qu’on ne la considère pas comme notre égal, tout ça avant d’affirmer tout simplement qu’elle voulait détruire les humains.

Et c’est pas la première fois qu’on gueule, on l’avait déjà fait avec les signes qu’on va trop loin avec ChatGPT.