"L'intelligence artificielle pourrait mettre fin à la race humaine" d'après S. Hawking

jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).

http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php

https://deepmind.com/blog/alphago-zero-learning-scratch/

PauvreYorick a écrit:

jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).

http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php

https://deepmind.com/blog/alphago-zero-learning-scratch/

Ça, ça fait extrêmement peur.

Celadon a écrit:"Les géants du numérique font émerger des cerveaux industriels moins chers que ceux développés de façon "artisanale" par l'EN. En outre, ces cerveaux biologiques évoluent peu alors que l'IA voit sa puissance sans cesse augmenter.
Nous avons oublié de nous poser une question fondamentale : pouvons-nous maîtriser l'IA ? L'école est l'institution spécialement dédiée au développement et à la diffusion de l'intelligence. Saura-t-elle apporter une réponse positive à la question précédente ?
Cet enjeu essentiel pour l'humanité n'a jamais été évoqué au cours de la campagne présidentielle de 2017.
Nous devons pourtant parvenir à établir une complémentarité Homme-LA aussi équilibrée que possible. Il faut maîtriser l'IA , et trouver une sorte de modus vivendi avec un voisin envahissant dont on ne sait presque rien puisqu'il devient une boîte noire.
Pour cela, il nous faut dès maintenant profondément revoir l'éducation et la formation. Si l'IA est le problème, elle serait aussi en grande partie la solution. L'eugénisme cérébral ou l'interfaçage de notre intelligence avec l'IA s'imposeront comme une réponse incontournable au gigantesque défi posé par la concurrence des machines.
A très court terme, c'est notre façon d'acquérir des connaissances, inchangée depuis des siècles, qui va devoir embrasser les nouvelles technologies pour gagner en efficacité et en rapidité."
Laurent Alexandre in La guerre des intelligences. J.C.Lattès p. 72/73

PauvreYorick a écrit:

jaybe a écrit:Tiens, alphago vient de se faire battre sèchement (mais il semble difficile d'en savoir plus avec des articles en français...).

http://www.lepoint.fr/high-tech-internet/alphago-zero-l-ia-autodidacte-qui-a-terrasse-alphago-19-10-2017-2165696_47.php

https://deepmind.com/blog/alphago-zero-learning-scratch/

Ça, ça fait extrêmement peur.

Carnyx a écrit:Et si les robots devenaient religieux ?
Asimov n'a pas prévu le cas.

Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).

JPhMM a écrit:

Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).

Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.

Zagara a écrit:

JPhMM a écrit:

Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).

Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.

Ce sont les seuls à en avoir les moyens, parce que ça demande une budgétisation à fonds perdus tout à fait dantesque.
Il faut avoir la culture du gâchis qu'ont les USA et un complexe militaro-industriel sur-développé pour faire ce genre de recherche.
D'autres aimeraient le faire, certainement (il y a des militaires irresponsables dans chaque pays), mais leur pays et leurs politiques n'ont pas le budget ni l'envie de les soutenir. Pas oublier que les USA sont à un PIB 2 fois plus élevé que le second pays le plus riche du monde (Chine) : ils sont les seuls à avoir autant de fric à dépenser. Par exemple en France on n'a même pas de drones militaires. On préfère faire de la recherche interdite sur les armes chimiques ; mais chut, c'est secret défense spécial France cour martiale. :lol:

L'IA va créer des robots tueurs

La peur. Les terrains de guerre vont-ils bientôt être peuplés de robots équipés d'une caméra, capables d'identifier automatiquement une cible et d'ouvrir le feu sans ordre humain ? Il n'est pas interdit de l'envisager : l'analyse d'images en temps réel par des programmes permet aujourd'hui à Facebook de retrouver l'identité de vos amis sur une photo de vacances, ou à une voiture autonome d'identifier une ligne continue sur la chaussée et ainsi de ne pas doubler un véhicule.

De là à s'inquiéter de l'arrivée d'un Terminator ? Certains, comme Bruno Stagno, directeur exécutif adjoint de Human Rights Watch, estiment auprès de franceinfo que "ce n’est pas de la science-fiction". Pour lui, "cela pose une grande question de moralité pour l’humanité car [ces robots tueurs] décideraient de manière autonome et indépendante qui tuer pendant un conflit".

La réalité. Début juillet, l'entreprise Kalachnikov, qui produit le célèbre fusil d'assaut AK-47, a annoncé à l'agence russe Tass avoir développé un module de combat automatisé capable de repérer seul des cibles. Signe que le sujet préoccupe, plus d'un millier d'acteurs de la science et du secteur des nouvelles technologies ont rédigé, fin juillet, une lettre ouverte appelant à un traité international interdisant les "armes autonomes offensives".

Parmi les signataires se trouvent des personnalités éminemment respectées, comme le fondateur de SpaceX Elon Musk, le cofondateur d'Apple Steve Wozniak, ou encore le directeur du département de Facebook dédié à l'intelligence artificielle, Yann LeCun.

L'intelligence artificielle a atteint un point où le déploiement de telles machines est réalisable d'ici quelques années, non quelques décennies. Les enjeux sont immenses : les armes autonomes sont décrites comme la troisième révolution dans le domaine militaire.
Les signataires d'un appel à l'interdiction des armes autonomes

Une analyse que ne partage pas Jean-Gabriel Ganascia. "Il faut spécifier à la machine ce qu'est une cible pour que celle-ci puisse la reconnaître : cela peut par exemple être un individu qui porte du métal sur lui dans un terrain de guerre, détaille le chercheur. Mais craindre que cette décision échappe aux humains relève de la mauvaise foi comme la définissait Sartre [c'est-à-dire un moyen de se défausser de notre liberté et de notre responsabilité]." Le spécialiste préfère mettre en avant des technologies défensives, comme des robots capables de détecter la présence de mines terrestres.

Zagara a écrit:

JPhMM a écrit:

Zagara a écrit:Évidemment le problème est que les ricains sont déjà en train de réfléchir à fabriquer des IA apprenantes qui ont pour ordre "apprends à tuer mon ennemi" (embarquées dans des drones autonomes).

Gardons-nous d'être naïfs. Ils sont très loin d'être les seuls.

Ce sont les seuls à en avoir les moyens, parce que ça demande une budgétisation à fonds perdus tout à fait dantesque.
Il faut avoir la culture du gâchis qu'ont les USA et un complexe militaro-industriel sur-développé pour faire ce genre de recherche.
D'autres aimeraient le faire, certainement (il y a des militaires irresponsables dans chaque pays), mais leur pays et leurs politiques n'ont pas le budget ni l'envie de les soutenir. Pas oublier que les USA sont à un PIB 2 fois plus élevé que le second pays le plus riche du monde (Chine) : ils sont les seuls à avoir autant de fric à dépenser. Par exemple en France on n'a même pas de drones militaires. On préfère faire de la recherche interdite sur les armes chimiques ; mais chut, c'est secret défense spécial France cour martiale. :lol:

e géant du commerce en ligne a présenté une serrure connectée, permettant aux livreurs d’accéder au domicile du client en son absence.

L’avenir du commerce en ligne a de quoi inquiéter. Amazon a présenté des dispositifs de serrure et de caméra connectées. L’idée, c’est de pouvoir livrer un client, à son domicile, même lorsqu’il est absent.

Concrètement, les livreurs, grâce à une serrure connectée commandée à distance, peuvent entrer au domicile du client pour livrer le produit commandé lorsqu’il n’est pas là. Un dispositif présenté mercredi 25 octobre par Amazon, quelques temps après son principal concurrent, Walmart.

JPhMM a écrit:En même temps, le cyberpunk date de la fin des années 70 (sans compter les quelques précurseurs, Dick en tête).

Celadon a écrit:Sauf que ce n'est plus de la fiction...

Celadon a écrit:Sauf que ce n'est plus de la fiction...

JPhMM a écrit:Oui, bien d'autres auteurs, mais je parlais de Dick comme précurseur.

JPhMM a écrit:Vieille idée, laMiss.
Depuis au moins...