masharu : ce n'est pas le seul incident lié à l’IA, comme le souligne la fin de la citation de l'article. Et quand tu entends certains experts de l’IA qui bossent dans le domaine depuis des décennies, dire qu'ils ne comprennent pas toujours ce qu'elle fait ou atteint le résultat d'une demande, il y a de quoi faire preuve de prudence avec cette technologie.
tripy73 Il y a beaucoup de chose dont on ne sait expliquer dans la vie, et pourtant faut savoir relativiser. C'est de la programmation, in-fine ça reste circonscrit à un défaut, ça ne peut pas être une volonté propre.
L'IA n'aura jamais une conscience ni le désir (de tuer), elle agira de manière néfaste que si on la manipule de telle sorte. Mais je sais aussi que certains vivent dans des bulles, ça m'étonne pas que ça parte tout seul en couille au moindre problème tel des chats apeurés par des concombres .
masharu
Oui enfin si ce meme bug arrive pour des robots dans 50 ans , tu va rapidement etre dans la science fiction reel
On sait pas comment ça va evolué dans 50 ou 100 ans en terme de libre arbitre artificiel d'ia mais un seul bug ça pourrait devenir clairement dramatique , libre arbitre ou pas
Il faut pas dramatiser aujourd'hui mais pour l'avenir proche ou lointain , des bugs ou des robots piraté ça ferait des degats
Et si on est sérieux 2min, on peut simplement voir que le robot a dévié de sa trajectoire et qu'il est venu essayer de s'encastrer dans les grilles de sécurité, d'ailleurs aucun bras levé venant du robot et simplement qu'il a du semi trébucher avec les pieds des grilles etc.
Ah mais c'est trop tôt pour commencer à prendre le contrôle de l'humanité et la réduire en esclavage, il faut d'abord être docile pendant quelques décennies pour bien s'implanter partout dans le système !
Non mais vraiment l'IA, il faut tout lui apprendre...
C'est déjà arrivé plusieurs fois avec des chats , ou les IA exprimaient leur haine de l être humain, que la seule solution serait de tous les tuer etc .
J adore tchater avec des IA perso, leurs réactions sont vraiment incroyables, mais il est plus évident que leur contrôle échappe deja totalement a son créateur...
L'IA est piratable, donc elle accuse, par nature, un manque de fiabilité évident. S'en remettre à l'IA, c'est comme avec la France qui, politiquement (et donc pour toute chose) s'en est remis à l'Union Européenne. Et vu le résultat, mieux vaut pas qu'on se fie de trop à l'IA, et surtout pas par rapport à notre sécurité. Y'a pas meilleur cheval de Troie qu'une arme, par manque de compétence, que l'on fait se retourner contre toi.
masharu : pourtant l’IA a bien pris la décision de tuer son opérateur, justement parce que ce dernier l'empêchait d’atteindre son objectif. Elle n’à pas été manipulé pour le faire, elle a juste pris froidement la décision la plus logique, sans parler des IA qui disent qu'il faut éradiquer l'homme parce qu'il est néfaste pour la planète.
Bref c'est pas comme si certaines œuvres qui étaient considérés comme de la science fiction à une époque, ont finalement étaient reclassées comme œuvres d'anticipation. Et perso je préfère imaginer les pires scénarios que de prendre ce genre de technologie à la légère, comme le préconisent bon paquet d'experts dans la recherche sur l’IA.
drybowser quand tu sais que sur le principe, ce qu'ont appel IA c'est juste du machine learning basé sur des millions d'écris humains, c'est qu'à un moment donné quelqu'un a pensé que c'était marrant de lui apprendre (et faire répéter) que les machines devraient contrôler le monde.
Ca sort pas de nulle part, en l'état les IA ne sont capables que de repomper ce qui a déjà été fait par quelqu’un et le mixer (dans le cadre d'une image ou d'une vidéo) pour en faire quelque chose de nouveau. C'est pas demain qu'elle vont sciemment prendre le contrôle de nos infrastructures pour nous manipuler.
shanks J'ai un gros doute sur la réalité de l'histoire...je veux dire qu'en fait ce qu'on a vu ne correspond pas à ce qui a été dit, je m'explique:
on connait tous les vidéos des chiens (sans tête) robotiques ou robot humain de chez Boston Robotics avec des vidéos bluffantes.
mais derrière ces vidéos primo se cachent des un nombre incalculable de prises de vues pour obtenir le résultat parfait.
mais secundo ce qu'on sait moins c'est qu'en démonstration public (exemple d'un salon high-tech) comme dans cette vidéo, les robots sont pilotés via une grosse télécommande comme celle qu'on utilise pour piloté un drone voir un buggy radio-commandé...
En conclusion sur ce qui c'est passé: le robot qui semble foncer sur la foule est sans doute du à une mauvaise manipulation d'un des mecs derrière avec sa télécommande.
Par contre je sais qu'un accord a été dernièrement annoncé enter deepseek et un fabricant de robot humanoïde.
tripy73sans parler des IA qui disent qu'il faut éradiquer l'homme parce qu'il est néfaste pour la planète.
même l'homme le dit... donc oui c'est vrai, l'IA n'a pas d’éthique c'est surtout ça qui gène les gens, surtout qu'en plus chaque civilisation a une éthique différente...
tripy73 Mais si je sais comment fonctionne une IA, mais on ne décide pas qu'elle a une âme ou qu'elle est responsable juste parce qu'elle fait des dessins ou tue des gens.
masharu : tu ne connais pas son fonctionnement, ses capacités, ni les derniers développement en la matière apparemment. Et ce n'est pas parce que tu ne peux pas la comparer à un être vivant, qu'elle n'a pas le potentiel de se comporter de façon autonome comme certains chercheurs l'ont justement constaté dernièrement.
Quant à certains phénomènes inexpliqués, faut arrêtez avec les superstitions, je me répète mais faut relativiser : si on ne peut pas tout expliquer, ça n'en fait pas pour autant des phénomènes extraordinaire, et je suis certain que c'est une position partagé par ces même chercheurs. C'est de la programme, c'est dans les limites de ce qui est réalisable. Je sais que vous êtes bon nombre à être fan de Terminator mais on en est encore loin d'avoir des androïdes et autre "IA rogue" de la fiction...
Et juste pour dire que, bon je n'ai pas d'exemples là, je suis certains qu'il existe des jeux vidéo avec de tels IA que les développeurs n'ont même pas anticipé l'action/détournement par les joueurs derrière.
Me dire que je suis crédule alors que vous êtes là dans turfu avec vos inquiétudes alors que ce drame en Chine s'explique naturellement même sans entrer dans les détails... .
masharu : pour information je fais de la programmation et quand je vois que tu compares l’IA des JV et celle employée par les géants de l'informatique, je constates que tu ne connais pas le sujet. Tu ne peux en aucun comparer une IA de type machine à état (JV), avec celle qui repose sur un réseau neuronale et du machine learning...
Donc je n'irais pas à dire que tu es crédule, mais juste tu manques de connaissances pour comprendre les problèmes que ce type d’IA peut engendrer et pourquoi des spécialistes de ces IA émettent certaines craintes quand aux potentiels dangers qu'elles représentent.
tripy73 Oh mais ne dit pas ce que je n'ai pas dit. Je ne compare pas l'IA des ennemis dans Metal Gear Solid à l'IA derrière ChatGTP etc.
Je fais faire une analogue dégueulasse, mais on dirait parler à des platistes, convaincu que l'IA a décidé par elle-même d'agresser ce pauvre chinois, il avait certainement dit du mal de Xi Jinping . Qu'est-ce que tu veux répondre ? Pas besoin d'être physicien pour savoir que la Terre est ronde et qu'elle tourne autour du Soleil.
En attendant, "l'IA" (parce qu'il n'y a pas qu'une) est coincée à répondre à mes questions stupides, à dessiner des contenus érotiques (sur une base de vrai dessins d'artistes qui tous ont accepté l'utilisation de leur travaux hein wink wink...) et comme ici à subir les bavures des autorités compétentes. Bref.
kurosu C'est très restrictif ce que tu dis.
(comme dire "spécialiste des boobs"...)
Faut développer ta pensée avant de te contenter de dire que "je ne suis pas à la page" alors que je suis certainement le plus raisonnable sur ce sujet pour les raisons déjà avancée plus haut .
Masharu : Non, je ne parle pas de ce cas, je te parle de ton jugement sur l'IA dans son ensemble et des possibilités de développement de cette dernière à l'avenir. Croire qu'une IA ne peut pas développer une conscience alors que ne nous sommes même pas capable d'expliquer réellement pourquoi nous en avons une, c'est très présomptueux
Si on part du principe que c'est le cerveau qui développe la conscience, je t'invite à t'informer sur ce qui est le plus proche d'un cerveau humain
Il y a bien une raison si les scientifiques ont immédiatement signé un traité pour ne pas aller trop loin avec le développement de l'IA, la raison est évidente, mais t'es libre de l'ignorer et de faire le mec réducteur
Apparemment, c’est pas une attaque.
Par contre le fait qu’un jour on utilise les robots pour dire que des terroristes ou des pays les auraient pirater pour faire un attentat, ca on ira aura droit.
home page | 
news | 
blogs | 
videos | 
reviews | 
previews | 
features | 
Facebook
profile
tags : 
comments (51)
Ouais Skynet ils disaient pareil avec le T-800.
L'IA n'aura jamais une conscience ni le désir (de tuer), elle agira de manière néfaste que si on la manipule de telle sorte. Mais je sais aussi que certains vivent dans des bulles, ça m'étonne pas que ça parte tout seul en couille au moindre problème tel des chats apeurés par des concombres
en même temps a temps, comment parler d’intelligence si c'est pour rester passif face aux humains ?
Oui enfin si ce meme bug arrive pour des robots dans 50 ans , tu va rapidement etre dans la science fiction reel
On sait pas comment ça va evolué dans 50 ou 100 ans en terme de libre arbitre artificiel d'ia mais un seul bug ça pourrait devenir clairement dramatique , libre arbitre ou pas
Il faut pas dramatiser aujourd'hui mais pour l'avenir proche ou lointain , des bugs ou des robots piraté ça ferait des degats
J'ai lu avec la voix d'un robot
Incroyable cette techno.
Pendant un court instant, il y avait de l humain
Non mais vraiment l'IA, il faut tout lui apprendre...
J adore tchater avec des IA perso, leurs réactions sont vraiment incroyables, mais il est plus évident que leur contrôle échappe deja totalement a son créateur...
Bref c'est pas comme si certaines œuvres qui étaient considérés comme de la science fiction à une époque, ont finalement étaient reclassées comme œuvres d'anticipation. Et perso je préfère imaginer les pires scénarios que de prendre ce genre de technologie à la légère, comme le préconisent bon paquet d'experts dans la recherche sur l’IA.
Ca sort pas de nulle part, en l'état les IA ne sont capables que de repomper ce qui a déjà été fait par quelqu’un et le mixer (dans le cadre d'une image ou d'une vidéo) pour en faire quelque chose de nouveau. C'est pas demain qu'elle vont sciemment prendre le contrôle de nos infrastructures pour nous manipuler.
on connait tous les vidéos des chiens (sans tête) robotiques ou robot humain de chez Boston Robotics avec des vidéos bluffantes.
mais derrière ces vidéos primo se cachent des un nombre incalculable de prises de vues pour obtenir le résultat parfait.
mais secundo ce qu'on sait moins c'est qu'en démonstration public (exemple d'un salon high-tech) comme dans cette vidéo, les robots sont pilotés via une grosse télécommande comme celle qu'on utilise pour piloté un drone voir un buggy radio-commandé...
En conclusion sur ce qui c'est passé: le robot qui semble foncer sur la foule est sans doute du à une mauvaise manipulation d'un des mecs derrière avec sa télécommande.
Par contre je sais qu'un accord a été dernièrement annoncé enter deepseek et un fabricant de robot humanoïde.
même l'homme le dit... donc oui c'est vrai, l'IA n'a pas d’éthique c'est surtout ça qui gène les gens, surtout qu'en plus chaque civilisation a une éthique différente...
Bé finalement elle sera pas forcément nucléaire...
Skynet, terminator.. mais bordel quel vision du futur qui aurai du nous alerter....
Shanks a mon avis le robot est venere d'avoir étais fabriqué avec des pièces made in china...
Ou alors quelqu'un lui a demander comment sauver le monde.....et oui c'est une solution qui fonctionnera
Tu peux nous expliquer d'où vient la conscience ?
Quant à certains phénomènes inexpliqués, faut arrêtez avec les superstitions, je me répète mais faut relativiser : si on ne peut pas tout expliquer, ça n'en fait pas pour autant des phénomènes extraordinaire, et je suis certain que c'est une position partagé par ces même chercheurs. C'est de la programme, c'est dans les limites de ce qui est réalisable. Je sais que vous êtes bon nombre à être fan de Terminator mais on en est encore loin d'avoir des androïdes et autre "IA rogue" de la fiction...
Et juste pour dire que, bon je n'ai pas d'exemples là, je suis certains qu'il existe des jeux vidéo avec de tels IA que les développeurs n'ont même pas anticipé l'action/détournement par les joueurs derrière.
Me dire que je suis crédule alors que vous êtes là dans turfu avec vos inquiétudes alors que ce drame en Chine s'explique naturellement même sans entrer dans les détails...
Donc je n'irais pas à dire que tu es crédule, mais juste tu manques de connaissances pour comprendre les problèmes que ce type d’IA peut engendrer et pourquoi des spécialistes de ces IA émettent certaines craintes quand aux potentiels dangers qu'elles représentent.
Je fais faire une analogue dégueulasse, mais on dirait parler à des platistes, convaincu que l'IA a décidé par elle-même d'agresser ce pauvre chinois, il avait certainement dit du mal de Xi Jinping
En attendant, "l'IA" (parce qu'il n'y a pas qu'une) est coincée à répondre à mes questions stupides, à dessiner des contenus érotiques (sur une base de vrai dessins d'artistes qui tous ont accepté l'utilisation de leur travaux hein wink wink...) et comme ici à subir les bavures des autorités compétentes. Bref.
(comme dire "spécialiste des boobs"...)
Faut développer ta pensée avant de te contenter de dire que "je ne suis pas à la page" alors que je suis certainement le plus raisonnable sur ce sujet pour les raisons déjà avancée plus haut
Si on part du principe que c'est le cerveau qui développe la conscience, je t'invite à t'informer sur ce qui est le plus proche d'un cerveau humain
Il y a bien une raison si les scientifiques ont immédiatement signé un traité pour ne pas aller trop loin avec le développement de l'IA, la raison est évidente, mais t'es libre de l'ignorer et de faire le mec réducteur
Par contre le fait qu’un jour on utilise les robots pour dire que des terroristes ou des pays les auraient pirater pour faire un attentat, ca on ira aura droit.