1233 views
# Cours Éthique numérique 2023 ## Introduction et choix des sujets par groupes ## TP1 - 2/2 ### École Centrale de Marseille 2023 Page du cours : https://eda.mutu.net/cours.html.fr [Edlira Nano / eda](https://eda.mutu.net) : [CC BY 4.0](https://creativecommons.org/licenses/by/4.0) --- ## Introduction - ici ### C'est quoi l'éthique Source : [Wikipedia](https://fr.wikipedia.org/wiki/%C3%89thique) - Du grec ηθική [επιστήμη], « la science morale », de ήθος « ethos », « lieu de vie ; habitude, mœurs ; caractère, état de l'âme, disposition psychique » via le mot latin ethicus, la morale. - L'éthique est une discipline philosophique portant sur les jugements moraux. C'est une réflexion fondamentale sur laquelle, en principe, la morale (en grec ethos) de tout peuple pourrait établir ses normes, ses limites et ses devoirs. ---- ### C'est quoi un algorithme [Une bd de Gee](https://grisebouille.net/panique-algorithmique/) : ![](https://s3.hedgedoc.org/demo/uploads/upload_d057a9dfb48901d5c3f12fe664d15a8c.png) --- ### SNER : Société numérique : enjeux et régulation L'UE SNER du semestre 8 se divise en trois parties de cours séparées, mais complémentaires (la note sera commune) - Numérique et Sociologie avec N. Chapuis - Numérique et Droit avec D. Roysnard - Numérique et Ethique avec E.Nano (ensemble) Le but de cette UE est d'étudier et d'analyser des enjeux éthiques, sociologiques et juridiques du numérique, à travers des exemples que nous détaillerons et analyserons ensemble en cours, mais aussi à travers un projet sur lequel vous travaillerez vous-mêmes, en groupes, tout au long de l'UE, sur un thème différent par groupe, choisi lors du premier TP d'éthique. --- ### But du module d'Éthique Nous allons réfléchir ensemble aux aspects éthiques du numérique, aux impacts sociétaux de l'informatique, à ses exploits, à ses dérives, à son passé, à son histoire, et à ouvrir notre questionnement sur le futur. Pour cela nous créerons des groupes de 4 personnes, qui choisissent un thème large à étudier, techniquement (de quoi s'agît-il au juste, en détails), historiquement (comment cela est né, quel était le besoin initial, comment cela a évolué), comment cela est déployé aujourd'hui, à quels besoins cela répond, quelles problématiques sociales, juridiques, morales, cela soulève? Quels sont les acteurs qui mettent en place? Quels sont les acteurs qui veillent à une mise en place conforme à la loi? Conforme aux libertés individuelles? Quelles dérives sont pointées? Quels dangers? Quelles alternatives sont proposées? Quel modèle économique derrière ceci? Quel modèle de société cela promeut? À travers ces questionnements, nous irons de plus en plus profondément dans les sujets, en essayant de comprendre et de creuser les problématiques du sujet. Le résultat final sera un rapport écrit à rendre que vous aller également soutenir oralement. ## Choix des sujets 2023 par groupes Après avoir discuté ensemble en détail chacun des grands thèmes ci-dessous, vous pourrez poser des questions, changer et affiner les thèmes, afin de choisir le thème ou le sous-thème que vous aller traiter dans ce module. 3 ou 4 personnes par sujet. ### Outils de travail 2023 * Les liens vers les pads individuels des groupes se trouvent auprès de chacun de thèmes (ci-dessus). ### Les sujets 2023 Références communes : - Methodologie de travail : cartographie des controverses - livre en ligne Controverses mode d'emploi : https://controverses.org/mode-demploi/ - Droit d'auteur et propriété intellectuelle: - Définition selon Wikipédia https://fr.wikipedia.org/wiki/Droit_d%27auteur - Vidéo (merci Léa pour la référence): https://tube.aquilenet.fr/w/a658a53d-8959-43e5-b252-bd36515cd6f2 - RGPD - https://www.cnil.fr/fr/rgpd-de-quoi-parle-t-on - https://wiki.laquadrature.net/Synth%C3%A8se_du_r%C3%A8glement_sur_la_protection_des_donn%C3%A9es - Sur Peertube et le libre en général + le concept de dé décentralisation : podcast d'underscore avec Pouhiou: titre: "S02E10-Peertube, un pari raté?-avec Pouhiou, Cécile & Hardisk" (merci Léa pour la référence) - Livre *L'utopie déchue: : une contre-histoire d'Internet, XVe-XXIe siècle* de F. Tréguer, disponible dans le [centre de documentation de l'Ecole Centrale](https://catalogue.univ-amu.fr/cgi-bin/koha/opac-detail.pl?biblionumber=1080756). Voir les références plus spécifiques sous chaque thème choisi #### 1. IA et algorithmes biométriques Groupe B : Mercredi Lien du Pad : https://md.lqdn.fr/XzXOUkbaRkmcUBpRdI0Svw?both - l'exemple des Jeux Olympiques - VSA : vidéo surveillance algorithmique - IA act (règlement en discussion au niveau de l'UE - surveillance de nos villes et vies : Technopolice (https://technopolice.fr) Références: - Article de journal : https://www.lemonde.fr/pixels/article/2023/03/20/jo-de-paris-2024-pourquoi-la-videosurveillance-automatisee-fait-debat_6166273_4408996.html - Documentaire Arte : Tous surveillés, 7 milliards de suspects https://sepiasearch.org/search?search=tous+surveilles+7+milliards+de+suspects - Qu'est que la VSA techniquement et précisémment dans le cadre du projet de loi JO : https://www.laquadrature.net/wp-content/uploads/sites/8/2023/02/Dossier-VSA-2-LQDN.pdf - Ban Biometric surveillance : https://edri.org/our-work/edri-joins-178-organisations-in-global-call-to-ban-biometric-surveillance/ - Reclaim your face : https://peertube.ch/videos/watch/59da3078-a750-44c0-9d88-0cd505b72897 #### 2. Open data, droit de savoir et transparence publique : Groupe A - Vendredi [Pad](https://annuel2.framapad.org/p/cours-ethique-2022-groupe2-a0ee?lang=fr) - open data, action publique, droit des citoyens, - histoire de l'évolution, - lien avec la république numérique - loi CRPA, loi pour une République Numérique - ecosystèmes en open data : wikipedia, openstreetmap ... --- Références: - [Ma Dada](https://madada.fr/) - [HATVP](https://www.hatvp.fr/) - [Access Now](https://www.accessnow.org/) - [Loi CRPA](https://www.legifrance.gouv.fr/codes/texte_lc/LEGITEXT000031366350/) - Article sur l'état de la transparence en France https://www.lemonde.fr/les-decodeurs/article/2019/01/18/la-cada-la-transparence-au-rabais_5411293_4355770.html - Activisme : - Freedom of Press Foundation - Open Knowledge - EFF (FOIA) : Electronic Frontier Foundation - Aron Swartz (sa page Wikipedia, un film documentaire sur sa vie "Internet's own boy" #### 3. Surveillance de nos villes et vies : Groupe B - mercredi https://mypads2.framapad.org/p/groupe3-surveillance-de-nos-vv-8325qs9uy - surveillance Smart-city - videosurveillance - surveillence vie privée (sur Internet notamment) - capitalisme de surveillance - Technopolice (https://technopolice.fr) Références: * Le capitalisme de surveillance : https://www.monde-diplomatique.fr/2019/01/ZUBOFF/59443 * Documentaire 7 milliards de suspects Documentaire Arte : Tous surveillés, 7 milliards de suspects https://sepiasearch.org/search?search=tous+surveilles+7+milliards+de+suspects * Technopolice.fr : manifeste : https://technopolice.fr/presentation/ * Efficacité des caméras de surveillance : * https://www.lemonde.fr/societe/article/2021/12/22/une-etude-commandee-par-les-gendarmes-montre-la-relative-inefficacite-de-la-videosurveillance_6106952_3224.html * Rapport cour des comptes 2020 : https://site.ldh-france.org/nice/2020/10/28/la-videosurveillance-sous-loeil-de-la-cour-des-comptes/ * Biais de la vidéosurveillance : * Effet dissuasif qui serait temporaire (articles de recherche de basant sur l'Angleterre) * Effet déplacement du crime : regarder ce que vous trouvez dessus -> effet de ghétoisation des quartiers * Smart-city #### 4.Lanceurs d’alerte Groupe B - mercredi [Pad markdown de travail ](https://md.lqdn.fr/XHES4K_-TEuo7oJSi9dZeA) - importance numérique, - législation - exemples : Snowden, Assange, facebook files, - - secret des affaires, lien avec propriété intellectuelle) Références: - Film documentaire Citizen 4 - MLA : maison des lanceurs d'alertes https://mlalerte.org/ - Lois sur les lanceurs d'alerte en France - https://www.vie-publique.fr/loi/282491-loi-organique-21-mars-2022-defenseur-des-droits-lanceurs-dalerte - https://www.lemonde.fr/societe/article/2022/02/02/les-lanceurs-d-alerte-seront-bientot-mieux-proteges_6111984_3224.html - Loi en Europe : https://www.touteleurope.eu/fonctionnement-de-l-ue/comment-l-union-europeenne-protege-t-elle-les-lanceurs-d-alerte/ - Wikileaks : https://www.monde-diplomatique.fr/2021/11/HALIMI/63986 #### 5. Cybersécurité et cybersurveillance : **_Groupe B -- Mercredi_** [Pad de travail](https://annuel2.framapad.org/p/groupe5_cybersecurite-et-cybersurveillance-a0cw?lang=fr) - données sensibles, fuites cybersécurité, renseignement d'Etat, répression de mouvements - lien avec Snowden, lois terroristes, surveillance et répression de mouvements sociaux (ecologiques, gilets jaunes, etc) Références : - RGPD : https://www.cnil.fr/fr/reglement-europeen-protection-donnees - Article qui explique le RGPD et ses principes de base : - Données sensibles : définition selon la CNIL https://www.cnil.fr/fr/definition/donnee-sensible - Documentaire «Une contre-histoire de l’Internet» par Sylvain Bergère disponible sur https://peertube.fr/w/6678e96e-11a0-4376-a758-3bd758debb01 - Film Citizen 4 (acheté par le centre de documentation de l'école) - CNCTR : https://fr.wikipedia.org/wiki/Commission_nationale_de_contr%C3%B4le_des_techniques_de_renseignement - L'affaire d'Encrochat : - l'affaire Pegasus : - Article Monde diplomatique (manière de voir) - Have i been pwned : https://haveibeenpwned.com/ - Même chose en images IA : https://haveibeentrained.com/ - #### 6. Culture libre et communs numériques : Lien du pad de travail : https://annuel2.framapad.org/p/ethique-numerique-culturelibre-a0ho?lang=fr - Logiciels libres, science ouverte, ecosytèmes participatifs (Wikipedia, OpenStreetMap) - logiciels propriétaires, droit d'auteur et propriété intellectuelle, - licences libres, brevets, dynamiques de diffusion (publicité marketing, modèles economiques) --- Références: - droit d'auteur : https://fr.wikipedia.org/wiki/Droit_d%27auteur - logiciel libre définition - Film : La Bataille du libre - https://peertube.fr/w/47e8c64d-234f-4b73-a3db-25eec1a88f43 (version courte) - https://videos.miolo.org/videos/watch/12a6323c-df34-45b7-8edb-1bfebbc23dfa #### 7. IA générative Groupe A (Vendredi) Lien du Pad: https://mypads2.framapad.org/p/cours-ethique-2022-ia-generative-k949gs9g8 Groupe B (Mercredi) Lien du Pad: https://annuel2.framapad.org/p/cv5i70kzdi-a0hl - changements sociétaux - biais algorithmiques de l’Intelligence Artificielle - propriété intellectuelle - (droit d'auteur) : chatGPT, droit d'auteur, fake, - attribution des brevets, - adaptation juridique à ces nouvelles techno, reglement eu IA ---- Références: - Droit d'auteur - Définition Wikipédia : https://fr.wikipedia.org/wiki/Droit_d%27auteur - Vidéo sur le droit d'auteur et la propriété intellectuelle: https://tube.aquilenet.fr/w/a658a53d-8959-43e5-b252-bd36515cd6f2 - Biais IA (cf références groupe 8) - IA Act et biais : étude de l'EDRI https://edri.org/our-work/if-ai-is-the-problem-is-debiasing-the-solution/ #### 8. Ethique de IA Groupe B - mercredi https://annuel2.framapad.org/p/ethique-de-l39ia-a0cu Groupe A - vendredi https://annuel2.framapad.org/p/ethique-de-l39ia-a0ee - algorithmes prédictifs ou d'aide à la décision - biais algorithmiques de l’Intelligence Artificielle - scoring social : - IA Act : réglement européen sur l'IA - RGPD -- Références - Documentaire Tous surveilles 7 milliards de suspects : algorithmes de reco faciale utilisés par la Police aux Etats Unis et passage au sénat (minutes) - Scoring social - en France exemple de la CAF : https://www.laquadrature.net/2022/10/19/caf-le-numerique-au-service-de-lexclusion-et-du-harcelement-des-plus-precaires/ - https://www.laquadrature.net/2022/12/23/notation-des-allocataires-febrile-la-caf-senferme-dans-lopacite/ - https://www.laquadrature.net/2023/01/05/negligences-a-la-caf-10000-dossiers-dallocataires-en-acces-libre/ - Aux Pays-Bas : https://www.loc.gov/item/global-legal-monitor/2020-03-13/netherlands-court-prohibits-governments-use-of-ai-software-to-detect-welfare-fraud/ - Predpol : logiciel connu de police prédictive, équivalent français Paved -> https://www.institutparisregion.fr/nos-travaux/publications/la-police-predictive/ - Article biais de l'IA - https://edri.org/our-work/if-ai-is-the-problem-is-debiasing-the-solution/ RGPD : - https://www.cnil.fr/fr/rgpd-de-quoi-parle-t-on - Synthèse : https://wiki.laquadrature.net/Synth%C3%A8se_du_r%C3%A8glement_sur_la_protection_des_donn%C3%A9es #### 9. Ecologie numérique : - impact environnemental du numérique, - sobriété, - techno-solutionnisme, - infrastructures numériques (datacenters, les plateformes logicielles, ....) #### 10. Ethique des réseaux sociaux et de la circulation de l'information numérique **_Groupe A -- Vendredi_** : Yasmine Bouattour, Justine Micol, Bettina Cristoforetti, Hamish Grant, EthicMan [Pad de travail](https://annuel2.framapad.org/p/cours-ethique-2022-groupe10-a0ee?lang=en) - monopoles et décentralisation : - censure et liberté d'expression - polémiques actuelles Références: - Travaux sur Tinder de Judith Duportail - Podcast https://www.radiofrance.fr/franceinter/podcasts/l-instant-m/judith-duportail-l-enquete-qui-secoue-tinder-5558316 - https://www.radiofrance.fr/mouv/podcasts/mouv-13-actu/tinder-les-secrets-de-l-algorithme-4075060 - Podcast https://www.radiofrance.fr/franceculture/podcasts/le-meilleur-des-mondes/tinder-a-10-ans-entre-fantasmes-et-dating-fatigue-que-reste-t-il-de-nos-rencontres-1311187 - Facebook files - https://dayssincelastfacebookscandal.com/ - https://gafam.laquadrature.net/ lire l'analyse Facebook et regarder une vidéo sur le site concernant Facebook - se familiariser avec la notion de RGPD (voir références génériques plus haut) #### 11. République numérique, illectronisme et droits fondamentaux Group A - Vendredi (surnumérisation, numérisation des services publics, privatisation des services publics (données de santé, Doctolib), souveraineté numérique de l'Etat, ...) #### 12. Exclusion, oppression et violences numériques **groupe A du vendredi** [NOTRE PAD DE TRAVAIL](https://annuel2.framapad.org/p/cours-ethique-2022-groupe12-a0ed?lang=fr&fbclid=IwAR1Rwm3wWyhKq-yhYnfym9ycrhpll8kBta6tcsovhWvhMykAgf6-OwL7Acg) - cyberharcèlement (IA, réseaux sociaux, ..) - scoring social - Cas de la CAF en France (cf liens plus haut) - Cas des Pays-Bas : https://www.loc.gov/item/global-legal-monitor/2020-03-13/netherlands-court-prohibits-governments-use-of-ai-software-to-detect-welfare-fraud/ - haine sur les réseaux sociaux, oppressions de genre etc --- Références: - - Documentaire Arte : Tous surveillés, 7 milliards de suspects https://sepiasearch.org/search?search=tous+surveilles+7+milliards+de+suspects -> crédit social et - Scoring social - en France exemple de la CAF : https://www.laquadrature.net/2022/10/19/caf-le-numerique-au-service-de-lexclusion-et-du-harcelement-des-plus-precaires/ - https://www.laquadrature.net/2022/12/23/notation-des-allocataires-febrile-la-caf-senferme-dans-lopacite/ - https://www.laquadrature.net/2023/01/05/negligences-a-la-caf-10000-dossiers-dallocataires-en-acces-libre/ - Aux Pays-Bas : https://www.loc.gov/item/global-legal-monitor/2020-03-13/netherlands-court-prohibits-governments-use-of-ai-software-to-detect-welfare-fraud/ - les travailleurs du click (et de la modération) : travaux de A. Casilli https://www.cairn.info/revue-reseaux-2020-6-page-263.htm ### 13. Ouvert aux etudiant.e.s, à vos propositions Merci aux personnes absentes lors du TP 2 de choisir ci-dessus un groupe non complet(moins de 4 personnes)à intégrer avant le TP3. Si vous êtes plusieurs (3 personnes au moins) vous pouvez aussi vous mettre sur un thème non attribué. --- ### A faire pendant le TP2 ___________________________________ 1. Créer un pad sur https://framapad.org ou https://md.lqdn.fr ou https://demo.hedgedoc.org/ avec : Nom du pad = cours-ethique-2022-groupeX (ou X est le nom de votre groupe). Durée du pad : un an. Ce pad sera votre brouillon de travail collaboratif pour la suite du cours. Merci de noter l'url de votre pad ici dans ce pad qui les regroupera tous sous votre thème choisi. 2. Dans le pad, noter le titre exact de sujet de votre projet ainsi que déterminé après discussion dans votre groupe. Noter aussi vos noms, prénoms ou pseudonymes si vous ne voulez pas que vos noms et prénoms soient visibles publiquement (ces pads seront publics). Veuillez également noter le jour de votre présence par groupe en TP (mercredi (groupe B) ou vendredi (groupe A)). 3. Sous le titre du sujet, faire un résumé du sujet : de la problématique et des points que vous souhaiteriez y aborder en un paragraphe d'environ 4 à 10 lignes selon ce que vous aurez discuté au sein de votre groupe. 4. Merci aux personnes absentes lors du TP 1 ou 2 de choisir ci-dessus un groupe non complet à intégrer avant le TP3. Si vous êtes plusieurs (3 personnes au moins) il est possible de se mettre sur un thème non encore attribué. Faire le travail ci-dessus (points 1 à 3 est également valable pour vous). ------ ------ ### Thèmes des années précédentes (à titre indicatif) #### 1. Numérique et propriété intellectuelle / normes et alternatives - Le modèle du libre et des communs numériques vs le modèle propriétaire : enjeux et conséquences - Monopoles, centralisation / décentralisation numériques des pouvoirs - GAFAM : le prix du gratuit / - Alternatives aux GAFAM : CHATONS, FFDN, licornes, entreprises du libre, etc - Modèles collaboratif libres, open data, l'importance des communs : exemples de Wikipedia et OpenStreetMap - Science ouverte, culture libre et logiciels libres. #### 2. Numérique et écologie La [fresque du numérique](https://www.fresquedunumerique.org/) vous sera présentée lors du TP4. - Impact écologique de l'informatique (matériel / immatériel) Impact de l'informatique en ligne (stockage / datacenters, contenus en ligne) - Fabrication et traitement des déchets informatiques (impact du matériel informatique, obsolescence, solutions) - État actuel et devenir de l'informatique avec la crise écologique #### 3. Surveillance numérique / Appropriation du numérique par les citoyens - Surveillance globale, surveillance privée, et surveillance d'État. - Lanceurs d'alerte - Le capitalisme de surveillance - Peut-il y avoir une sécurité informatique sans logiciels libres? Histoire du chiffrement - Surveillance globale / surveillance d'état / le numérique - moyen de la contestation populaire (printemps arabes et censures)/ Influences politiques - Villes intelligentes: l'exemple de Marseille, utilité et dystopies - Smart-citys, safe-citys, green-citys : promesses et véritables enjeux, risques et pratiques illicites. #### 4. Numérique, société et culture - Exclusion numérique - Fossé des genres - Autres biais sociaux - Jeux vidéos, enjeux économiques, informatiques et impact sociétal - République numérique et droits fondamentaux - Biais algorithmique : de l'intelligence artificielle (IA), de la vidéo-surveillance automatisée (VSA), algorithmes comportementaux, ou autres paradigmes de programmation algorithmique. ### Groupes constitués et pads de travail - 2022 Pour chaque groupe, un pad de travail ([un pad est un document collaboratif en ligne](https://fr.wikipedia.org/wiki/Pad)) sera mis en place et permettra le travail collaboratif ainsi que les devoirs à faire et à rendre pour chaque séance de TP. - groupe 1 : Biais algorithmiques de l'Intelligence Artificielle (vendredi) complet, 4 personnes - groupe 2 : Open data, droit de savoir et transparence publique (mardi), 3 personnes - groupe 3 : Smart-city, safe-city, green-city (vendredi), 3 personnes - groupe 4 : Lanceurs d'alerte (sujet non attribué) - groupe 5 : Données sensibles et cybersécurité (mardi), complet 4 personnes - groupe 6 : Risques éthiques liés au deep learning : (mardi), complet 4 personnes - groupe : Logiciels libres, culture libre et science ouverte (vendredi), complet 4 personnes - groupe 8 : NFT (vendredi) complet 4 personnes - groupe 9 : Nudges et algorithmes comportementaux (mardi), surcomplet, 5 personnes - groupe 10 : Web décentralisé (vendredi), 3 personnes - groupe 11 : Économie numérique des GAFAM et alternatives (mardi), 3 personnes - groupe 12 : République numérique, illectronisme et droits fondamentaux (sujet non attribué) ---