Pourquoi l'intelligence artificielle nous fait peur

Pourquoi l’intelligence artificielle nous fait peur

Lorsque les gens observent une technique qui se comporte comme une personne et des ordinateurs qui traitent des volumes de données titanesques, beaucoup de réflexions surgissent sur l’avenir. Une partie décente d’entre eux est basée sur le sujet de l’esclavage de la race humaine.

Littérature et cinéma de science-fiction de 2001: The Space Odyssey (1968) à Avengers: Age of Ultron (2015) prédisent que l’intelligence artificielle dépassera les attentes des créateurs et deviendra incontrôlable. Apparemment, son objectif ne sera pas seulement la compétition avec l’homme, mais l’asservissement et l’extermination de notre espèce.

Science-fiction ou futur effrayant?

Le conflit entre les gens et l’intelligence artificielle est le thème principal de la série de science-fiction « People », dont la troisième saison est sortie cette année. Dans les nouveaux épisodes, les gens «synthétiques» sont confrontés à l’hostilité des gens ordinaires qui sont méfiants, craintifs et haineux envers eux. La violence fait rage. Les Sinti luttent pour leurs droits fondamentaux contre ceux qui les considèrent comme inhumains.
La fiction est un extrême d’imagination. Mais dans le monde réel, tout le monde ne veut pas rencontrer l’IA à bras ouverts. Ces dernières années, les limites des capacités imaginaires de l’intelligence artificielle repoussent activement. Les gens parlent de plus en plus de son danger. Et l’hypothèse que la technologie est capable de condamner l’humanité semble plus réelle. L’intelligence artificielle nous fait peur.

Opinion sur l’intelligence artificielle

Elon Musk est l’une des personnes les plus visibles qui appellent à la prudence lors de la discussion sur l’IA. Lors d’une réunion de l’Association nationale des gouverneurs en juillet dernier, il a déclaré: «J’ai une vaste expérience de travail avec l’IA de haute technologie et je pense que l’humanité a vraiment besoin de s’en inquiéter. Je continue de donner une alarme. Jusqu’à ce que les voitures robotisées descendent dans les rues, détruisant les gens, nous ne comprenons pas comment réagir à cela, car une telle perspective est perçue comme irréaliste ».

En 2014, Musk a qualifié l’intelligence artificielle de «notre plus grande menace existentielle» et, en août 2017, a déclaré que l’IA pose un plus grand risque pour l’humanité que l’idéologie nord-coréenne..

Le plus grand physicien Stephen Hawking a également fait part de ses inquiétudes concernant l’utilisation malveillante de l’intelligence artificielle. En 2014, il a déclaré à la BBC que «le développement d’une IA complète peut être un signe de fin pour l’humanité».

Un autre coup a été infligé par une équipe de programmeurs du MIT Media Lab de Cambridge, qui a décidé de prouver que l’IA était dangereuse. Le réseau de neurones Nightmare Machine, introduit au MIT en 2016, a transformé des photos ordinaires en d’horribles paysages démoniaques. L’intelligence artificielle appelée Shelly (également développée au MIT) a composé 140 000 histoires d’horreur que les utilisateurs de Reddit ont publiées sur r / nosleep.

« Nous sommes intéressés par la façon dont l’intelligence artificielle évoque les émotions, en particulier dans cette situation, elle a provoqué la peur », a commenté l’expérience Manuel Sebrian, directeur de recherche au MIT Media Lab..

Pourquoi avons-nous peur?

Selon Kilian Weinberger, professeur adjoint d’informatique à l’Université Cornell, les impressions négatives de l’intelligence artificielle se divisent en deux catégories:

• L’idée que l’IA deviendra consciemment indépendante et essaiera de nous détruire.
• L’opinion selon laquelle les attaquants utiliseront l’IA à leurs propres fins.

«L’intelligence artificielle nous fait peur, car nous pensons qu’une IA super-industrielle, devenant plus intelligente qu’une personne, la traitera comme un être inférieur. Tout comme nous le sommes pour les primates. Et cela, bien sûr, est extrêmement excitant pour l’humanité. « .

Cependant, Weinberger note que les préoccupations concernant la supériorité et le désir de l’IA de détruire la race sont basées sur des idées fausses sur cette technologie. L’intelligence artificielle est impressionnante quand on la voit en action. Mais il a beaucoup de limites. L’IA est déterminée par des algorithmes. Ils définissent son comportement à l’aide de fonctions prescrites et rien de plus..

Lire la suite Supermarchés financiers à surveiller.

Les réseaux de neurones effectuent des tâches complexes avec plusieurs types de données. Mais la plupart des compétences qu’une personne possède, sans même les développer intentionnellement, sont inaccessibles à l’intelligence artificielle.

L’intelligence artificielle peut dépasser l’homme plusieurs fois dans l’exécution de travaux spécialisés. Par exemple, un jeu d’échecs, l’identification d’objets par l’image ou une grande analyse de données en comptabilité ou en banque.

Une IA qui a une conscience indépendante n’aura pas de tels progrès qu’elle asservira l’humanité. Et il n’y a aucune raison de croire que de tels progrès se produiront dans un proche avenir – ajoute Weinberger.

Mais il y a un autre sujet sur les raisons pour lesquelles l’intelligence artificielle nous fait peur – l’utilisation des capacités de l’IA par des personnes mal intentionnées. Ce scénario est plus réel et dangereux..

Notre peur est-elle rationnelle??

Dans le monde de la série télévisée « People », l’humanité a peur de l’IA rationnelle et entre en confrontation féroce avec elle. Et, à en juger par la popularité du projet, ce complot répond à la demande actuelle de la société.

La peur de la technologie ne peut pas être qualifiée de déraisonnable, car un certain risque est bien sûr présent. Mais le danger de tout outil réside dans les pensées de celui qui le contrôle. C’est évidemment la question que l’humanité doit résoudre pour que l’intelligence artificielle serve le bien..

Entrées similaires:

Blockchain de démarrage prometteuse et utile – TOP-6