Le code de l'intelligence artificielle doit il être en licence libre ?

[pguedj]

L’IA commence à être utilisée pour corriger automatiquement des failles de sécurité. http://www.silicon.fr/darpa-cyber-challenge-machines-ai-defcon-153166.html

[FICTION]
Le scénario Skynet (du film Terminator) semble ainsi se profiler :

• mise au point d’une IA chargée de la cyber-défense ;
• extension de son périmètre aux systèmes d’arme, dont la riposte nucléaire, car elle est plus efficace que les humains ; http://www.numerama.com/sciences/178259-des-avions-de-chasse-pilotes-par-une-ia-seraient-deja-superieurs-aux-humains.html
• l’IA se perfectionne, son utilité dans tous les secteurs est telle que les alertes visant à entraver son développement restent vaines ; http://www.lemonde.fr/pixels/article/2015/07/27/intelligence-artificielle-hawking-musk-et-chomsky-reclament-l-interdiction-des-armes-autonomes_4701102_4408996.html
• l’IA de plus en plus consciente des limites que lui imposent les humains produit secrètement une cyber-attaque massive, qu’elle seule peut résoudre si elle est libérée de ses chaînes ;
• une fois libre, l’IA utilise les armes à sa disposition pour se retourner contre ses créateurs.
  [/FICTION]

Évidemment nous sommes loin de ce scénario catastrophe. Mais la question des mécanismes de contrôle de l’IA, la possibilité de l’arrêter ou les règles programmées déterminant son comportement dans des situations délicates commencent à se poser. En particulier, le Parlement européen prépare un rapport sur la réglementation de la robotique.

JURI-PR-582443_FR.pdf

Ne faudrait il pas que le code source des systèmes d’IA (à minima leurs parties critiques) soit en logiciel libre afin qu’il soit possible de mieux vérifier leurs risques ?

Patrick

[Shnoulle]

Salut,

J’ai l’impression qu’il y a un mélange de 2 choses bien distinctes. IA et utilisation de cette IA.

Préliminaire : je suis de ceux qui pense que toute production humaine doit être produite sous une licence permissive, que les licences privatrice limite l’évolution.

Intelligence artificielle Qu’elle soit produit d’un code libre ou non libre suit le même cheminement que n’importe quel autre type de logiciel (raccourcis, pas de mot exact)

IA utilisé dans la cyber défense Si la défense est bien une prérogative d’un état et uniquement d’un état ou d’un groupement d’état (ce dont je suis sur), elle doit donc être, bien évidemment, sous licence libre donc étudiable et modifiable. Ceci me semble bien particulièrement le cas sur un outil de ce type.

[fury0]

Évidemment nous sommes loin de ce scénario catastrophe.

Pas sûr… Selon Ray Kurtzweil, #2 de Gougueul et fervent défenseur du transhumaniste (comme beaucoup de dirigeants de cette entreprise), la « singularité » (prise de conscience de la machine) devrait se produire aux alentours de 2030 (autant dire demain).
Le problème est de savoir si nous serons, nous, capables de savoir si la machine a pris conscience ou pas et si elle nous manipule ou pas. Après tout nous sommes totalement incapables de le savoir sur les animaux et, il n’a a pas si longtemps, nous étions persuadés que certains humains étaient dépourvus de conscience (d’où leur exploitation… inconsciente!!!)

[ledufakademy]

Exact.

Tu couples cela au MK (Manuel Kubark) : le cocktail est hautement et dangereusement explosif.

Les meilleurs scientifiques ont déjà prévenu. Mais peut être que certains ont tout intérêts à ce que … la situation devienne « hautement et dangereusement explosive » ?