Soirée Machine Learning et sécurité

Voici quelques notes …
Les intervenants :

Martin Gubri :
master spécialisé en data science (machine learning et déveleoppement)
membre de framasoft (ex vice-président)
membre derechos digitales (chili)

Pierre Grangé-Praderas aka pgp:
BDFL école des Beaux-Hacks,
BDFL openbeelab, https://openbeelab.org
Tuteur raccrochage, fablab IUT de Bordeaux, http://coh@bit.fr
1C82 5449 6B10 0D60 AD69 952C 111A D422 2FD7 CF02

Lieu : datacenter Aquilenet, rue tourat, Bordeaux
Merci à eux pour l’accueil 🙂

Le html de la présentation :
https://framadrop.org/r/KYqMm37_Jr#28RzFFBD4BNlaoFj+BBJgXCU/RThabSIBg9h/nDYg/0=

1 – L’IA et le machine learning c’est quoi?

algorythme mauvais au départ et qui va s’améliorer en apprenant
exemple des filtres de spam
exemple de la reconnaissance des abeilles https://github.com/matpalm/bnn
Regression logistique : le modèle fait le lien entre des variables d’entrée et des variables de sortie
on essaye de probabiliser le lien entre les deux

différence machine learning – deep learning : le deep learning est une sous catégorie du machine learning
nombre de couche d’abstraction
deep learning, on ne donne pas d’outils de catégorisation de l’info pour commencer à apprendre mais directement des données commentées (exemple des abeilles)

commentaire d’Arnaud : beaucoup plus d’empirisme en deep learning qu’en machine learning classique

2 – tromper les IA

l’IA de Microsoft sur twitter devient néo-nazie en moins de 16h…
https://www.nextinpact.com/news/99211-tay-ia-lancee-par-microsoft-sur-twitter-puis-retiree-pour-alienation-mentale.htm
https://sec-ml.pluribus-one.it/demo/
Attaque contre audio : https://nicholas.carlini.com/code/audio_adversarial_examples/
Lunettes contre reconnaissance faciale :
https://qz.com/823820/carnegie-mellon-made-a-special-pair-of-glasses-that-lets-you-steal-a-digital-identity/
https://www.cs.cmu.edu/~sbhagava/papers/face-rec-ccs16.pdf
En plus : exemples adverses utilisant que de l’infra-rouge
https://arxiv.org/pdf/1803.04683.pdf

introduction de biais dans les apprentissages

ou les faire tourner en bourrique :

3 – dimension politique

https://beauxhacks.org/index.php/2018/04/18/we-make-paperclips/
https://wiki.lesswrong.com/wiki/Paperclip_maximizer
https://medium.com/@alfredlupasco/le-capitalisme-est-un-maximisateur-de-trombones-5e200af2ee46
http://www.decisionproblem.com/paperclips/index2.html
https://giant.gfycat.com/ReliableForkedItalianbrownbear.gif

http://partage-le.com/2017/12/8532/

l’évaluation du machine learning parle surtout de nous, humains : https://en.m.wikipedia.org/wiki/Moravec%27s_paradox

Nouvelle IA https://en.m.wikipedia.org/wiki/Nouvelle_AI

4 – se lancer dans le machine learning

Tutoriel exemple advserve :
https://www.anishathalye.com/2017/07/25/synthesizing-adversarial-examples/

Challenge :
https://www.crowdai.org/challenges/nips-2018-adversarial-vision-challenge

Leave a Reply

Your email address will not be published. Required fields are marked *