Le code de l'intelligence artificielle doit il être en licence libre ?

L’IA commence à être utilisée pour corriger automatiquement des failles de sécurité. http://www.silicon.fr/darpa-cyber-challenge-machines-ai-defcon-153166.html

[FICTION]
Le scénario Skynet (du film Terminator) semble ainsi se profiler :

Évidemment nous sommes loin de ce scénario catastrophe. Mais la question des mécanismes de contrôle de l’IA, la possibilité de l’arrêter ou les règles programmées déterminant son comportement dans des situations délicates commencent à se poser. En particulier, le Parlement européen prépare un rapport sur la réglementation de la robotique.

Ne faudrait il pas que le code source des systèmes d’IA (à minima leurs parties critiques) soit en logiciel libre afin qu’il soit possible de mieux vérifier leurs risques ?

Patrick

1 Like

Salut,

J’ai l’impression qu’il y a un mélange de 2 choses bien distinctes. IA et utilisation de cette IA.

Préliminaire : je suis de ceux qui pense que toute production humaine doit être produite sous une licence permissive, que les licences privatrice limite l’évolution.

Intelligence artificielle Qu’elle soit produit d’un code libre ou non libre suit le même cheminement que n’importe quel autre type de logiciel (raccourcis, pas de mot exact)

IA utilisé dans la cyber défense Si la défense est bien une prérogative d’un état et uniquement d’un état ou d’un groupement d’état (ce dont je suis sur), elle doit donc être, bien évidemment, sous licence libre donc étudiable et modifiable. Ceci me semble bien particulièrement le cas sur un outil de ce type.

1 Like

Pas sûr… Selon Ray Kurtzweil, #2 de Gougueul et fervent défenseur du transhumaniste (comme beaucoup de dirigeants de cette entreprise), la « singularité » (prise de conscience de la machine) devrait se produire aux alentours de 2030 (autant dire demain).
Le problème est de savoir si nous serons, nous, capables de savoir si la machine a pris conscience ou pas et si elle nous manipule ou pas. Après tout nous sommes totalement incapables de le savoir sur les animaux et, il n’a a pas si longtemps, nous étions persuadés que certains humains étaient dépourvus de conscience (d’où leur exploitation… inconsciente!!!)

Exact.

Tu couples cela au MK (Manuel Kubark) : le cocktail est hautement et dangereusement explosif.

Les meilleurs scientifiques ont déjà prévenu. Mais peut être que certains ont tout intérêts à ce que … la situation devienne « hautement et dangereusement explosive » ?