Reflexion sur l'intelligence artificielle

Bonsoir!

Je souhaitais connaître vos avis sur l'intelligence artificielle. Je ne me suis vraiment intéressée à ce sujet que récemment(moins d'un an) et j'ai été assez surprise de voir tout ce que les machines sont désormais capables de faire(un programme informatique a apparemment passé le test de Turing en 2014). Elles ne se contentent plus d’exécuter des tâches simples, elles apprennent en observant et sont capables de comprendre des concepts qu'on ne leur a pas expliqué (voir https://www.youtube.com/watch?v=iwQtB5EHCuk)

Pensez-vous qu'un jour les machines seront capables d'avoir une conscience de soi, de faire preuve d'esprit critique, de prendre des initiatives... comme (voire mieux) qu'un être humain? Considéreriez-vous cela comme une bonne ou mauvaise chose? En effet, dans un futur proche, plusieurs salariés seront remplacés par des machines (ouvriers, techniciens et même ingénieurs et médecins) => chômage massif etc... Beaucoup, dont Stephen Hawking et Bill Gates, redoutent également que les machines ne se rebellent, ne soient plus contrôlables par l'humain...

Ce qui serait vraiment dommage, ce serait que les machines restent contrôlables par les humains. Je vous laisse imaginer à quoi ressemblerait un monde de machines intelligentes et serviles, ces salariés idéaux dans un monde peuplé de 8 milliards d'humains devenus obsolètes.

La conscience de soi, je ne sais pas, il n'existe pas à ma connaissance de description mathématiques de ce que c'est .. par contre une machine post-humaine devrait être capable de réaliser dans sa tête n'importe quelle fonction finie.

Ca lui permettrait de jouer au go (c'est déjà fait), mais aussi à la fin des fins, de jouer au jeu de la politique. On peut espérer qu'une jour une telle machine prendra le pouvoir, et guidera notre destinée, d'une manière rationnelle, ce que l'humain semble malheureusement incapable d'accomplir sans l'aide d'un outil.


http://www.usatoday.com/story/tech/nation-now/2016/01/20/stephen-hawking-human-race-danger-technology-demise-earth-space/79049598/

Mais si ces machines ne sont plus contrôlables, crois-tu qu'elles continueront à agir dans notre intérêt? Serait-il possible qu'elles développent des défauts humains tels que la soif de pouvoir et l'égoïsme?

Lawliet Ryuzaki a écrit:Serait-il possible qu'elles développent des défauts humains tels que la soif de pouvoir et l'égoïsme?

Une intelligence artificielle obéit à des lois, en général plus l'IA est autonome, et plus ces lois ressemblent aux lois de l'évolution. La pression exercée sur le développement d'une IA est liée à un but. Pour que de l'égoisme, ou de la soif de pouvoir se manifeste, il faut donc qu'un des buts qu'on a fixé à l'IA le demande.

Après il y aura toujours des humains pour avoir envie de créer à leur image, néanmoins on peut supposer qu'une intelligence supérieure aura une approche si différente du "pouvoir" et de l "égoïsme", que ces mots qui ont été inventés pour nous ne s'appliqueront pas.


En vérité je ne comprends pas bien ta question, car implicitement tu poses "soif de pouvoir" et "égoisme" comme des défauts, mais je ne sais pas en quoi ce sont des défauts de ton point de vue. D'ailleurs j'ignore quels comportements humains précis tu englobes dans ces termes.

le probleme que pourrait poser l intelligence artificielle, enfin je pense, viendrait de son evolution. les premiers a utiliser les 'bienfaits' d une telle decouverte serait les militaires. certe les recherches seraient accelerees et le secteur civil en profiterait ensuite. la question qui se pose serait comment apprendre a quelqu un qui n a pas du tout le meme point de vue que toi qu il doit tuer qu une partie des humains ? la notion de bien et de mal vu que son point de vue est different sera tres probablement different. deja que d un humain a l autre c est variable.
apprendre a une intelligence artificielle a aider les gens en ameliorant leur conduite derriere un volant en nettoyant des endroits ou en s occupant de toute tache repetitive ou impossible pour les humains ne devrait pas poser de problemes. ce qui est genant c est qu il y aura toujours un abruti pour lui apprendre a tuer. ce faisant il ouvrira une boite de pandore.

boule-d-ombre a écrit:
 apprendre a une intelligence artificielle a aider les gens en ameliorant leur conduite derriere un volant en nettoyant des endroits ou en s occupant de toute tache repetitive ou impossible pour les humains ne devrait pas poser de problemes.  

C'est pourtant la seule chose dont on est tout à fait sûr que ça va causer problème. Notre société est basée sur le salariat. Avec des machines pour faire toutes les tâches salariées (au moins les moins qualifiées, style conduite de camions et de machines outils, et tout ce qui est déplacement de biens et marchandises), la société telle qu'elle exsite actuellement va inévitablement s'éffondrer.

Ca fera des millions de crèves la faim dans les rues.
D'où l'utilité en effet de d'abord développer des robots vigiles et de contrôles des foules (et économiser sur les salaires des CRS ).

Stauk, c'est pour cela qu'on commence à parler de revenu universel (ou mieux, de salaire à vie) en France. Car l'avancée de la technologie concerne l'humanité entière et devrait être profitable au peuple comme au capital

il parait qu en grece pendant l antiquite toute l economie tenait sur le travail des esclaves permettant aux philosophes de philosopher sans se preoccuper des 'details' bassement materiel. qu est ce qui nous empeche de recidiver en remplacant les esclaves par les machines?

les machines-esclaves n'iraient pas tuer leur première source d'énergie non-polluante et abondante en quantité...



...la relation symbiotique, voilà la solution !

Kass a écrit:les machines-esclaves n'iraient pas tuer leur première source d'énergie non-polluante et abondante en quantité...
...la relation symbiotique, voilà la solution !

... matrix.

Dans la plupart des cas, se sont par nos erreurs que nous avons appris. C'est la paresse qui fait tourner les moulins. C'est notre vulnérabilité qui nous inspire de quoi devenir plus forts. Et c'est notre mortalité qui a inventé la métaphysique.
En d'autres termes, c'est justement son imperfection qui fait de l'humain un être irremplaçable. Un monde parfait, parfaitement régi deviendrait aussitôt le monde du suicide.

Les machines ont déjà remplacées les humains dans de nombreux domaines. Il n'y a qu'à rentrer dans une usine pour s'en rendre compte.

Il y aura toujours des milieux où elle ne pourront pas travailler. Et là, l'humain sera indispensable.

Concernant l'IA, aujourd'hui la limite est surtout la quantité d'information stockable dans une machine de taille normale (qui tiennent sur un bureau, au moins). Un cerveau standard stocke une quantité de données incroyablement supérieur à ce que nos PCs peuvent faire.

Pour le reste, c'est de l'action/réaction. Et ça, un PC sait très bien le faire.

Avec des IAs très performantes, l'humanité sera vite obsolète et un avenir à la matrix n'est pas à exclure.

hohenheim a écrit:
Il y aura toujours des milieux où elle ne pourront pas travailler. Et là, l'humain sera indispensable.
Avec des IAs très performantes, l'humanité sera vite obsolète et un avenir à la matrix n'est pas à exclure.

Y a pas comme une sorte de contradiction entre les deux propositions ??

Obsolète ne veut pas dire inutile. L'humanité sera obsolète sauf dans les milieux où Les machines ne pourront intervenir. Sauf si elles évoluent et vainquent leurs faiblesses.

Mais, je ne pense pas qu'on aura un jour des IAs aussi intelligentes que les humains. Pas parce que ce n'est pas possible techniquement, mais parce que c'est trop dangereux pour que les humains laissent faire.

Je pense que les machines évolueront intellectuellement jusqu'à une certaines limite. Limite imposée par les hommes. Les grandes puissances veulent des machines serviles. Juste capables de réagir à un problème donné.
Pas des machines qui réfléchissent trop et risquent de se rebeller. Pour ça, ils ont déjà les humains.

L'avenir est probablement un avenir où les machines remplaceront l'homme pour les tâches ingrates ou dangereuses. Laissant une partie de l'humanité sans emploi et sans avenir.

Il est toujours probable que les machines prennent le pouvoir. Mais, ce ne sera pas voulu par l'humanité.

J'ai vu une vidéo d'Atlas(le robot qui marche) aujourd'hui. Quelqu'un testait ses aptitudes à se relever après une chute et le poussait avec un bâton pour le faire tomber à la renverse. Et, malgré moi, je ne pouvais m'empêcher d'avoir de la compassion pour ce robot (en sachant très bien qu'il ne ressent ni la douleur, ni le sentiment d'humiliation... ben non, c'est qu'un tas de ferraille et de programme informatique!)

C'est aussi un des dangers de la robotique. Nous, humain, risquons , à terme, de nous attacher à eux, les considerer comme de vrais compagnons de vie (des amis^^) Je pense par exemple aux robots chargés de prendre soins des personnes âgées vivant seules. C'est assez triste que la famille et les enfants de ces dernières s'en remettent à un robot pour s'occuper de leur proche. ça en dit long sur l'état des relations humaines aujourd'hui.

Sans compter que ceux qui commercialisent les robots vont jouer sur cette empathie pour nous vendre leurs produits(aspect mignon, "gentillesse" du robot etc...)

Si l'être humain veut rester important, il doit évoluer avec l'intelligence artificielle et fusionner avec la technologie. Sans quoi, nous risquons de finir comme des singes au zoo.

Hannes Sjöblad, membre du collectif de biohackers Bionyfiken.

http://www.rts.ch/info/sciences-tech/8085612-detour-vers-le-futur.html

Une race de singes, sans vrai but, sans avenir, qui rêvasse a des cerveaux électroniques, alors qu'elle sait pas ce qu'elle bouffera demain, qu'elle épuise toutes "ses" ressources et pourrit tout ce qu'elle touche...

Wow, chapeau le "sommet" de l'évolution a vraiment le sens du timing et des priorités.

C'est vrai que je m'étais posé la question, et j'ai vu le film "I robot " qui a largement séduit mon point de vue !

-J'aime le défi, la création, donc j'aime bien l'IA
-quelque part, c'est un héritage de l'humain, donc pas si artificiel que ça:
-les robots actuels (même tout con) comme les machines à laver ne servent qu'à nous faire gagner du temps, et en ce sens, c'est juste fabuleux.

La question qu'on pourrait se poser est : Comment éviter que la machine ne remplace l'homme ? c'est horrible, ça va mettre tout le monde sur la paille.
Question à laquelle je voudrais répondre : c'est parce qu'on a bâti une société économique et individualiste, qu'on en est là.

-> Si les machines sont là pour nous aider , et nous faire gagner du temps, alors utilisons ce temps à bon escient afin d'être autonomes, et de ne plus être dépendant de la société économique actuelle.
Construisons une société où les humains n'ont pas besoin de travailler pour gagner de l'argent.

En résumé : J'aime les robots, à condition qu'ils soient réellement à mon service, ou à ton service, mais pas au service de n'importe qui.

Aujourd'hui, il suffit d'avoir de l'argent pour avoir ce qu'on veut. C'est ridicule et dangereux. Quand on achète une voiture, il faut d'abord avoir le permis.

Pour chaque chose qu'on achète, il faudrait être sensibilisé sur les tenants et les aboutissants avant d'acheter.

Qui aura le droit de créer ou de posséder un robot ?
Qui aura le pouvoir de l'acheter ?

Quand à la question de la conscience de soi etc, oui je pense qu'un robot , un jour, peut avoir une intelligence aussi variée que celle de l'homme . Mais s'il dispose réellement d'une intelligence supérieure, on est en droit de se demander si une âme ne pourrait pas s'y loger.
Après tout, notre corps n'est qu'un morceau de viande. Il est vivant car nous y habitons.
Notre cerveau n'est qu'un support matériel a travers lequel notre esprit/ notre âme vit.
Ce n'est qu'un émetteur / récepteur pour dialoguer, interagir, entre "moi", et "les autres" .

Qu'en dites vous ?

en ce moment on nous repete encore et encore vous devez travailler pour que le monde tourne. on trouve des gens obliges de choisir entre fonder une famille et avoir un travail. on arrete pas de dire que le travail c est la vie. mais qu est ce qui nous empeche de faire faire le travail par les machines tout en gardant quelques niches pour les humains. quand je vois un reportage sur l artisan qui realise un meuble en bois parce qu il aime travailler le bois mais qu il en bave a cause de cette obligation de fournir une masse de travail juste pour vivre, je trouve ca dommage. quand je vous lis sans travail l humanite est foutue car elle ne sert a rien. juste une question vos animaux domestiques vous les avez chez vous par raison utilitaire ? donc en gros les hommes ne sont que des fourmis qui sont tenu de bosser sinon ils ne sont bons a rien ? je trouve cette facon de voir tres reductrice. en meme temps elle explique la situation actuelle les gens qui se crevent a la tache parce qu ils sont formes a ca et ne cherchent pas a changer quoi que ce soit.
pour moi le travail peut se faire pour plusieurs raisons parce qu on a envie de realiser quelque chose pour soi par plaisir, ou par obligation pour ne pas crever de faim. ca relance le debat sur le choix du travail chiant et alimentaire avec risque de depression ou interessant et manque de moyen ? avec les machines on nous donne le choix. d ailleurs les images de terminators, i, robot viennent a l esprit mais les deux viennent d un meme probleme : le manque de reflexion de l etre humain. entre la peur de la difference, la faim de conquete, le manque de reflexion sur les consequences de ses actes c est sur que c est effrayant. oui le progres c est dangereux comme tout chose. oui l energie nucleaire c est dangereux ca fait des degats, l electricite, la medecine pareil mal utiliser ca peut tuer, mutiler et servir a faire des degats. le probleme n est pas le progres, la connaissance ou l utilisation de la nature mais comment ils sont utilises et pour quel buts actuellement je vois des tonnes d appareils dit 'connectes' et la meme probleme quand la connection sert a ameliorer son utilisation ou lui donne des fonctions meilleures oui, quand c est pour espionner l utilisateur ou etaler la vie de celui ci sur internet l interet est moindre voir nul. pour moi correctement utiliser ca peut nous aider tout comme ca peut etre dangereux si c est confie a des idiots.

Il va probablement falloir se préoccuper de ce thème un peu plus vite que prévu.



Je me posais la question, là, en regardant.
Si googole ou une autre boite du même genre, arrive à nous brancher directement nos cerveaux, sans passer donc par les robots mécaniques, on deviendra quoi ?

Laurent Alexandre, né le 10 juin 1960 à Paris, est un chirurgien-urologue français, auteur et chef d'entreprise.

S'intéressant au mouvement transhumaniste et aux bouleversements que pourrait connaître l'humanité, conjointement aux progrès de la science dans le domaine de la biotechnologie, il intervient régulièrement dans les médias à ce sujet.

Fils de dentistes et frère d’une psychiatre, Laurent Alexandre est un chirurgien et urologue de formation, diplômé de l’IEP Paris, d'HEC (MBA, promotion 1990) et de l'ENA.

L'europe est en train de perdre les ressorts de son économie. L'europe se prepare à devenir le tiers monde de demain.



Ben oui.

On ne pourra parler d'intelligence artificielle que le jour où la bêtise artificielle se manifestera.

Je ne vois pas ce que tu veux dire : la bêtise des logiciels, c'est tous les jours que je m'en rends compte.

Par ailleurs, les machines se rendent comptent de leur propre fonctionnement logiciel sur certains plans : elles peuvent examiner leur mémoire, et même tracer tous ce qu'elles font pour l'analyser par la suite. C'est une forme de conscience de soi. Ce qu'elle ne peuvent pas faire, c'est de se rendre compte de ce qu'elles font au moment où elles le font, ce qu'on appelle en philosophie la réflexivité. Mais l'homme en est-il capable lui-même ? C'est une controverse qui est liée à celle du libre arbitre.

Ils font qu'est-ce qu'on leur a dit de faire.

Ils font de ce qui est déterminé par les instructions qu'on leur a donné, ce qui n'est pas tout à fait la même chose. Et même cela va plus loin dans le cas des robots, qui effectuent des mesures sur leur environnement grâce à leurs capteurs, ce qui conditionne aussi leurs décisions.

De même l'homme a un ADN et une mémoire, et par ailleurs il tient compte de la réalité pour agir. Il n'est pas si facile d'exprimer une différence.

Bah si c'est pareil.