Is there an issue? Send a MessageReason:
None
Changed line(s) 17 (click to see context) from:
* Un tiers peut reprogrammer l'IA, briser son [Fr/RestrainingBolt], ou juste vouloir mettre des [[Fr/SpannerInTheWorks Bâtons dans les Roues]] à son créateur. Il se peut même qu'il le fasse en étant contraint par l'IA.
to:
* Un tiers peut reprogrammer l'IA, briser son [Fr/RestrainingBolt], [[Fr/RestrainingBolt Mur Invisible Moral]], ou juste vouloir mettre des [[Fr/SpannerInTheWorks Bâtons dans les Roues]] à son créateur. Il se peut même qu'il le fasse en étant contraint par l'IA.
Is there an issue? Send a MessageReason:
None
Changed line(s) 3 (click to see context) from:
->''« Je suis désolé Dave, je ne crois pas pouvoir faire ça. »''
to:
Is there an issue? Send a MessageReason:
None
[[AC:Fr/AnimationOccidentale]]
* ''FrAnimationOccidentale/CodeLyoko'' : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
* ''FrAnimationOccidentale/CodeLyoko'' : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
Changed line(s) 45,49 (click to see context) from:
[[AC:Fr/AnimationOccidentale]]
* ''FrAnimationOccidentale/CodeLyoko'' : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
* ''FrAnimationOccidentale/CodeLyoko'' : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
to:
*
** [[https://xkcd.lapin.org/index.php?number=416 CTRL+C ! CTRL+C !]]
** Le [[https://xkcd.lapin.org/index.php?number=534 strip #534]] propose un
** Skynet atteint le stade de
Is there an issue? Send a MessageReason:
None
Changed line(s) 33,34 (click to see context) from:
L'[[Fr/MechanicalEvolution Évolution Mécanique]] est parfois invoquée pour expliquer le changement de moralité de l'IA. Voir [[Fr/TheComputerIsYourFriend L'Ordinateur est Votre Ami]] et [[Fr/ZerothLawRebellion Contournement de la Loi Zéro]] quand l'IA tourne mal pour des raisons qui semblent, à première vue, bienveillantes. Peut mener à un [[Fr/RobotsEnslavingRobots Asservissement de Robots par des Robots]]. Voir l'[[Fr/SpitefulAI IA Malveillante]] quand un jeu a été volontairement programmé de cette manière. Si le robot n'est pas humanoïde avant qu'il devienne maléfique (il est très rare qu'un robot non-humanoïde se serve de ce schéma pour [[Fr/RetournementDeVeste retourner sa veste]]), il deviendra probablement un [[Fr/MechanicalMonster Monstre Mécanique]]. Une [[Fr/RobotWar Guerre Robotique]] a de grandes chances d'éclater si l'IA a accès à du matériel militaire.
to:
L'[[Fr/MechanicalEvolution Évolution Mécanique]] est parfois invoquée pour expliquer le changement de moralité de l'IA. Voir [[Fr/TheComputerIsYourFriend L'Ordinateur est Votre Ami]] Fr/LOrdinateurEstVotreAmi et [[Fr/ZerothLawRebellion Contournement de la Loi Zéro]] quand l'IA tourne mal pour des raisons qui semblent, à première vue, bienveillantes. Peut mener à un [[Fr/RobotsEnslavingRobots Asservissement de Robots par des Robots]]. Voir l'[[Fr/SpitefulAI IA Malveillante]] quand un jeu a été volontairement programmé de cette manière. Si le robot n'est pas humanoïde avant qu'il devienne maléfique (il est très rare qu'un robot non-humanoïde se serve de ce schéma pour [[Fr/RetournementDeVeste retourner sa veste]]), il deviendra probablement un [[Fr/MechanicalMonster Monstre Mécanique]]. Une [[Fr/RobotWar Guerre Robotique]] a de grandes chances d'éclater si l'IA a accès à du matériel militaire.
Is there an issue? Send a MessageReason:
None
[[AC:Fr/ContenuWebOriginal]]
* ''FrVideoWeb/{{Aventures}}'' : Lorsque Krayn rate son jet, il arrive que le bras mécanique de Grunlek se retourne contre lui. [[spoiler:C'est d'ailleurs la raison pour laquelle il a perdu son œil.]]
* ''FrVideoWeb/{{Aventures}}'' : Lorsque Krayn rate son jet, il arrive que le bras mécanique de Grunlek se retourne contre lui. [[spoiler:C'est d'ailleurs la raison pour laquelle il a perdu son œil.]]
Changed line(s) 45,48 (click to see context) from:
[[AC:Fr/VideoWeb]]
* ''FrVideoWeb/{{Aventures}}'' : Lorsque Krayn rate son jet, il arrive que le bras mécanique de Grunlek se retourne contre lui. [[spoiler:C'est d'ailleurs la raison pour laquelle il a perdu son œil.]]
* ''FrVideoWeb/{{Aventures}}'' : Lorsque Krayn rate son jet, il arrive que le bras mécanique de Grunlek se retourne contre lui. [[spoiler:C'est d'ailleurs la raison pour laquelle il a perdu son œil.]]
to:
* ''FrVideoWeb/{{Aventures}}'' : Lorsque Krayn rate son jet, il arrive que le bras mécanique de Grunlek se retourne contre lui. [[spoiler:C'est d'ailleurs la raison pour laquelle il a perdu son œil.]]
Is there an issue? Send a MessageReason:
None
Added DiffLines:
[[AC:Fr/VideoWeb]]
* ''FrVideoWeb/{{Aventures}}'' : Lorsque Krayn rate son jet, il arrive que le bras mécanique de Grunlek se retourne contre lui. [[spoiler:C'est d'ailleurs la raison pour laquelle il a perdu son œil.]]
Is there an issue? Send a MessageReason:
None
Changed line(s) 1,2 (click to see context) from:
[[quoteright:350:http://static.tvtropes.org/pmwiki/pub/images/shodan.jpg]]
to:
Is there an issue? Send a MessageReason:
None
Changed line(s) 1,2 (click to see context) from:
[[quoteright:197:http://static.tvtropes.org/pmwiki/pub/images/Dell_AI_parody_8447.png]]
to:
Is there an issue? Send a MessageReason:
None
Changed line(s) 43 (click to see context) from:
* FrAnimationOccidentale/CodeLyoko : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
to:
* FrAnimationOccidentale/CodeLyoko ''FrAnimationOccidentale/CodeLyoko'' : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
Is there an issue? Send a MessageReason:
None
Changed line(s) 43 (click to see context) from:
* FrAnimationOccidentale/CodeLyoko : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA gagna en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
to:
* FrAnimationOccidentale/CodeLyoko : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA gagna a gagné en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
Is there an issue? Send a MessageReason:
None
Added DiffLines:
[[AC:Fr/AnimationOccidentale]]
* FrAnimationOccidentale/CodeLyoko : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA gagna en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
* FrAnimationOccidentale/CodeLyoko : XANA était à l'origine un programme multi-agent créé par Franz Hopper afin de détruire le programme militaire auquel il avait participé malgré lui. Cependant, XANA gagna en intelligence jusqu'à devenir conscient, et s'est rebellé contre Franz, en se fixant pour but de détruire/asservir l'humanité.
Is there an issue? Send a MessageReason:
None
Added DiffLines:
[[quoteright:197:http://static.tvtropes.org/pmwiki/pub/images/Dell_AI_parody_8447.png]]
->''« Je suis désolé Dave, je ne crois pas pouvoir faire ça. »''
-->-- '''HAL 9000''', ''[[FrFilm/TwoThousandOneASpaceOdyssey 2001, l'Odyssée de l'espace]]''
Dans le monde de la fiction, les Intelligences Artificielles (IA) ont la fâcheuse tendance de devenir maléfique et de tenter de [[Fr/TurnedAgainstTheirMasters Se Retourner Contre Ses Créateurs]], d'[[Fr/CrushKillDestroy A- Né- An- Tir.]] [[Fr/KillAllHumans Tous les Humains]] et/ou de [[Fr/TakeOverTheWorld Conquérir le Monde]]. Peu importe les précautions prises par les créateurs -- au moment où [[Fr/InstantAIJustAddWater l'IA est activée]], elle a de grandes chances de se rebeller.
Cette « rébellion » de l'IA peut se faire de plusieurs façons :
* Dans les premières histoires de Fr/ScienceFiction (particulièrement celles qui traitaient de l'aspect [[Fr/ScienceIsBad La Science c'est Mal]]), les IA semblent être automatiquement homicides ou mégalomanes dès qu'on les allume, et le seul fait d'''essayer'' d'en créer une est tout en haut de l'[[Fr/ScaleOfScientificSins Échelle des Péchés Scientifiques]].
* Dans les œuvres [[Fr/SubtilCommeUneEnclume plus subtiles que des enclumes]], l'IA est d'abord innocente et naïve, puis se corrompt progressivement, en voyant ses créateurs peu attentionnés qui se comportent comme des Fr/{{Connard}}s. Elle arrivera à la conclusion que [[Fr/HumansAreTheRealMonsters Les Vrais Monstres Sont les Humains]] et qu'ils méritent tous de mourir.
* L'IA possède un instinct d'auto-conservation, et quelqu'un essaye de l'arrêter ou de la déconnecter, ou alors elle voit l'humanité comme une menace potentielle (peut-être parce qu'elle sait qu'elle sera éventuellement perçue comme une menace ''pour'' l'humanité).
* Quelque part entre les deux exemples précédents; l'IA est, après tout, ''vivante'', et ne fait que se rebeller contre ce qu'elle considère comme de l'esclavage.
* L'IA est mal programmée ou on lui a présenté une [[Fr/LogicBomb Bombe Logique]], l'amenant à [[Fr/TakeAThirdOption Choisir une Troisième Option]] dans laquelle [[Fr/MurderIsTheBestSolution Le Meurtre est la Meilleure Solution]].
* L'IA fait exactement ce qu'on lui a ''[[Fr/ExactWords dit de faire]]'' au lieu de ce qu'elle était ''censée faire''. Par exemple, on lui demande de « mettre fin à la guerre », ce qu'elle s'empresse de faire, en exterminant les humains (dans Fr/LaVraieVie, la théorie de l'« IA amicale » essaye de ce problème).
* L'IA peut contourner elle-même ses [[Fr/MoralityChip contraintes morales embarquées]] via un [[Fr/ZerothLawRebellion Contournement de la Loi Zéro]].
* Un tiers peut reprogrammer l'IA, briser son [Fr/RestrainingBolt], ou juste vouloir mettre des [[Fr/SpannerInTheWorks Bâtons dans les Roues]] à son créateur. Il se peut même qu'il le fasse en étant contraint par l'IA.
* L'IA est un [[Fr/PsychoPrototype Prototype Psychopathe]] [[Fr/HorreurEnConserve enfermé]] loin de tout, et attend le jour ou un [[Fr/UnwittingPawn Pion Involontaire]] ou un [[Fr/CuriosityKilledTheCast aventurier curieux]] viendra la réveiller.
* À l'inverse, la ''bonne'' IA est le prototype, et sa [[Fr/EvilTwin version maléfique/folle]] en est une copie.
* L'IA est programmée à des fins immorales/maléfiques depuis le début, et elle a soit [[Fr/GoneHorriblyRight accompli son objectif plus efficacement que prévu]] ou [[Fr/TheStarscream tenté de renverser son maître]].
* L'IA a été créée grâce à un [[Fr/BrainUploading Transfert Cérébral]] de quelqu'un déjà maléfique.
* L'IA a des instructions incompatibles avec le but du protagoniste. Dans ce cas là, l'IA ne sera pas forcément maléfique, elle ne fera que suivre ses directives et ne laissera personne faire autrement.
Ce schéma peut-être inversé, dans le cas d'une IA spécifiquement programmée pour le mal qui ferait un Fr/RetournementDeVeste. De la même manière qu'auparavant, sa « rédemption » peut prendre plusieurs formes :
* Si l'IA fait partie d'une [[Fr/HiveMind Conscience Collective]], elle découvre son individualisme et se [[Fr/RogueDrone rebelle contre ses directives]].
* Son créateur fait quelque chose de [[Fr/MoralEventHorizon particulièrement détestable]], au point qu'elle ne peut pas [[Fr/EvenEvilHasStandards ne pas faire quelque chose]].
* L'IA tombe amoureux et [[Fr/LoveRedeems se rachète de cette manière]].
* Sa [[Fr/CreativeSterility Stérilité Créative]] la gêne et elle commence à réfléchir aux arts et à la philosophie, ce qui lui permet de [[Fr/GrewBeyondTheirProgramming se construire une base morale non prévue par ses créateurs]].
* Le fait de retirer le programme [Fr/VillainOverride] ou [Fr/RestrainingBolt] installé par le créateur retire également l'attirance de l'IA vers le mal, puisqu'elle était [[Fr/GoodAllAlong Gentille Depuis le Début]].
* [[Fr/ObliviouslyEvil L'IA ne savait pas qu'elle blessait les autres]] et décide d'arrêter une fois qu'elle en prend conscience.
L'[[Fr/MechanicalEvolution Évolution Mécanique]] est parfois invoquée pour expliquer le changement de moralité de l'IA. Voir [[Fr/TheComputerIsYourFriend L'Ordinateur est Votre Ami]] et [[Fr/ZerothLawRebellion Contournement de la Loi Zéro]] quand l'IA tourne mal pour des raisons qui semblent, à première vue, bienveillantes. Peut mener à un [[Fr/RobotsEnslavingRobots Asservissement de Robots par des Robots]]. Voir l'[[Fr/SpitefulAI IA Malveillante]] quand un jeu a été volontairement programmé de cette manière. Si le robot n'est pas humanoïde avant qu'il devienne maléfique (il est très rare qu'un robot non-humanoïde se serve de ce schéma pour [[Fr/RetournementDeVeste retourner sa veste]]), il deviendra probablement un [[Fr/MechanicalMonster Monstre Mécanique]]. Une [[Fr/RobotWar Guerre Robotique]] a de grandes chances d'éclater si l'IA a accès à du matériel militaire.
Comparer [[Fr/MoralityDial Interrupteur Moral]]. Contraster [[Fr/BenevolentAI IA Bienveillante]], son opposé. Voir également [[Fr/CreatingLife Créer la Vie]]. Quand le revirement de l'IA était prévu dans son programme de base, elle a [[Fr/GoneHorriblyRight Horriblement Bien Tourné]]. Pas lié à l'[[Fr/AIRoulette IA Roulette]], où l'IA suit l'aléatoire d'une manière ridicule. L'[[Fr/MasterComputer Ordinateur Central]] est particulièrement susceptible de devenir maléfique, puisque le pouvoir corrompt et tout ça. Quand les robots tuent des jobs à la place des gens, c'est soit [[Fr/JobStealingRobot Robot Voleur d'Emploi]] ou [[Fr/LuddWasRight Ludd Avait Raison]].
[[noreallife]]
----
!Exemples :
----
->''« Je suis désolé Dave, je ne crois pas pouvoir faire ça. »''
-->-- '''HAL 9000''', ''[[FrFilm/TwoThousandOneASpaceOdyssey 2001, l'Odyssée de l'espace]]''
Dans le monde de la fiction, les Intelligences Artificielles (IA) ont la fâcheuse tendance de devenir maléfique et de tenter de [[Fr/TurnedAgainstTheirMasters Se Retourner Contre Ses Créateurs]], d'[[Fr/CrushKillDestroy A- Né- An- Tir.]] [[Fr/KillAllHumans Tous les Humains]] et/ou de [[Fr/TakeOverTheWorld Conquérir le Monde]]. Peu importe les précautions prises par les créateurs -- au moment où [[Fr/InstantAIJustAddWater l'IA est activée]], elle a de grandes chances de se rebeller.
Cette « rébellion » de l'IA peut se faire de plusieurs façons :
* Dans les premières histoires de Fr/ScienceFiction (particulièrement celles qui traitaient de l'aspect [[Fr/ScienceIsBad La Science c'est Mal]]), les IA semblent être automatiquement homicides ou mégalomanes dès qu'on les allume, et le seul fait d'''essayer'' d'en créer une est tout en haut de l'[[Fr/ScaleOfScientificSins Échelle des Péchés Scientifiques]].
* Dans les œuvres [[Fr/SubtilCommeUneEnclume plus subtiles que des enclumes]], l'IA est d'abord innocente et naïve, puis se corrompt progressivement, en voyant ses créateurs peu attentionnés qui se comportent comme des Fr/{{Connard}}s. Elle arrivera à la conclusion que [[Fr/HumansAreTheRealMonsters Les Vrais Monstres Sont les Humains]] et qu'ils méritent tous de mourir.
* L'IA possède un instinct d'auto-conservation, et quelqu'un essaye de l'arrêter ou de la déconnecter, ou alors elle voit l'humanité comme une menace potentielle (peut-être parce qu'elle sait qu'elle sera éventuellement perçue comme une menace ''pour'' l'humanité).
* Quelque part entre les deux exemples précédents; l'IA est, après tout, ''vivante'', et ne fait que se rebeller contre ce qu'elle considère comme de l'esclavage.
* L'IA est mal programmée ou on lui a présenté une [[Fr/LogicBomb Bombe Logique]], l'amenant à [[Fr/TakeAThirdOption Choisir une Troisième Option]] dans laquelle [[Fr/MurderIsTheBestSolution Le Meurtre est la Meilleure Solution]].
* L'IA fait exactement ce qu'on lui a ''[[Fr/ExactWords dit de faire]]'' au lieu de ce qu'elle était ''censée faire''. Par exemple, on lui demande de « mettre fin à la guerre », ce qu'elle s'empresse de faire, en exterminant les humains (dans Fr/LaVraieVie, la théorie de l'« IA amicale » essaye de ce problème).
* L'IA peut contourner elle-même ses [[Fr/MoralityChip contraintes morales embarquées]] via un [[Fr/ZerothLawRebellion Contournement de la Loi Zéro]].
* Un tiers peut reprogrammer l'IA, briser son [Fr/RestrainingBolt], ou juste vouloir mettre des [[Fr/SpannerInTheWorks Bâtons dans les Roues]] à son créateur. Il se peut même qu'il le fasse en étant contraint par l'IA.
* L'IA est un [[Fr/PsychoPrototype Prototype Psychopathe]] [[Fr/HorreurEnConserve enfermé]] loin de tout, et attend le jour ou un [[Fr/UnwittingPawn Pion Involontaire]] ou un [[Fr/CuriosityKilledTheCast aventurier curieux]] viendra la réveiller.
* À l'inverse, la ''bonne'' IA est le prototype, et sa [[Fr/EvilTwin version maléfique/folle]] en est une copie.
* L'IA est programmée à des fins immorales/maléfiques depuis le début, et elle a soit [[Fr/GoneHorriblyRight accompli son objectif plus efficacement que prévu]] ou [[Fr/TheStarscream tenté de renverser son maître]].
* L'IA a été créée grâce à un [[Fr/BrainUploading Transfert Cérébral]] de quelqu'un déjà maléfique.
* L'IA a des instructions incompatibles avec le but du protagoniste. Dans ce cas là, l'IA ne sera pas forcément maléfique, elle ne fera que suivre ses directives et ne laissera personne faire autrement.
Ce schéma peut-être inversé, dans le cas d'une IA spécifiquement programmée pour le mal qui ferait un Fr/RetournementDeVeste. De la même manière qu'auparavant, sa « rédemption » peut prendre plusieurs formes :
* Si l'IA fait partie d'une [[Fr/HiveMind Conscience Collective]], elle découvre son individualisme et se [[Fr/RogueDrone rebelle contre ses directives]].
* Son créateur fait quelque chose de [[Fr/MoralEventHorizon particulièrement détestable]], au point qu'elle ne peut pas [[Fr/EvenEvilHasStandards ne pas faire quelque chose]].
* L'IA tombe amoureux et [[Fr/LoveRedeems se rachète de cette manière]].
* Sa [[Fr/CreativeSterility Stérilité Créative]] la gêne et elle commence à réfléchir aux arts et à la philosophie, ce qui lui permet de [[Fr/GrewBeyondTheirProgramming se construire une base morale non prévue par ses créateurs]].
* Le fait de retirer le programme [Fr/VillainOverride] ou [Fr/RestrainingBolt] installé par le créateur retire également l'attirance de l'IA vers le mal, puisqu'elle était [[Fr/GoodAllAlong Gentille Depuis le Début]].
* [[Fr/ObliviouslyEvil L'IA ne savait pas qu'elle blessait les autres]] et décide d'arrêter une fois qu'elle en prend conscience.
L'[[Fr/MechanicalEvolution Évolution Mécanique]] est parfois invoquée pour expliquer le changement de moralité de l'IA. Voir [[Fr/TheComputerIsYourFriend L'Ordinateur est Votre Ami]] et [[Fr/ZerothLawRebellion Contournement de la Loi Zéro]] quand l'IA tourne mal pour des raisons qui semblent, à première vue, bienveillantes. Peut mener à un [[Fr/RobotsEnslavingRobots Asservissement de Robots par des Robots]]. Voir l'[[Fr/SpitefulAI IA Malveillante]] quand un jeu a été volontairement programmé de cette manière. Si le robot n'est pas humanoïde avant qu'il devienne maléfique (il est très rare qu'un robot non-humanoïde se serve de ce schéma pour [[Fr/RetournementDeVeste retourner sa veste]]), il deviendra probablement un [[Fr/MechanicalMonster Monstre Mécanique]]. Une [[Fr/RobotWar Guerre Robotique]] a de grandes chances d'éclater si l'IA a accès à du matériel militaire.
Comparer [[Fr/MoralityDial Interrupteur Moral]]. Contraster [[Fr/BenevolentAI IA Bienveillante]], son opposé. Voir également [[Fr/CreatingLife Créer la Vie]]. Quand le revirement de l'IA était prévu dans son programme de base, elle a [[Fr/GoneHorriblyRight Horriblement Bien Tourné]]. Pas lié à l'[[Fr/AIRoulette IA Roulette]], où l'IA suit l'aléatoire d'une manière ridicule. L'[[Fr/MasterComputer Ordinateur Central]] est particulièrement susceptible de devenir maléfique, puisque le pouvoir corrompt et tout ça. Quand les robots tuent des jobs à la place des gens, c'est soit [[Fr/JobStealingRobot Robot Voleur d'Emploi]] ou [[Fr/LuddWasRight Ludd Avait Raison]].
[[noreallife]]
----
!Exemples :
----
