Le ministère de l'Intérieur assurait jusqu'ici que l'expérimentation n'irait pas au-delà de la période des Jeux olympiques, même si le texte de la loi prévoyait déjà une prolongation jusqu'au 31 mars 2025. Matignon précise attendre le rapport d'un comité d'évaluation promis d'ici fin décembre.
Je te rejoins tout à fait. Mais critiquez pas la matraque, critiquez celui qui l’utilise, et adaptons la lutte. C’est bien plus facile de corriger le racisme dans un algo que dans une institution de 100 000 personnes. Exigeons que ces algos soient ouverts et examinables, ainsi que les façons de leurs configurations.
Mettez vous un moment dans la peau d’un dirigeant raciste qui décide de faire taper sur les Arabes. Vous faites une réunion avec quelques préfets, vous leur dites des trucs plein de dogwhistles “Bon, maintenant je veux qu’on embarque plus facilement les gens louches et que la peur change de camp. Faut pas se mentir, les suspect on les reconnaît vite. Vous m’avez compris.”
L’algo, lui, il a pas compris. Il regarde pas CNews et si on veut l’inspecter, on peut facilement le “mettre sur le grill” pour tester ses biais. Vous devez à ce moment là, si vous voulez les rendre racistes, donner des ordres et instructions, écrites, prouvable et aisément annulables ou vous taper tout l’entraînement sur des données racistes.
Il faut, c’est clair et certain, des organismes de contrôle (on peut pas filer plus de pouvoir à la CNIL par exemple?) mais l’organisation technique du contrôle est bien plus facile et bien plus objective. Son absence en est d’autant moins excusable et c’est là qu’il faut appuyer.
vous taper tout l’entraînement sur des données racistes.
Effectivement, et ça ne semble pas un scénario impossible non plus.
En fait de mon côté j’ai l’impression que aglos ou pas, les politiques trouveront toujours le moyen d’appliquer leurs politiques, ça ne changera pas grand chose de ce côté là. Les polítiques vont surveiller de très près les résultats fournis par les algos, et les modifier tant qu’ils ne correspondront pas à leurs attentes
Ce qui nous sauve, c’est que ces gens pensent que leurs biais racistes sont la réalité. Que si tu enlèves tout biais “woke” tu te retrouves avec un système qui justifie leur modèle du monde. La plupart accueillent comme des évolutions favorables les systèmes “neutres” sans se rendre compte qu’ils sont “biaisés” contre leur point de vue du monde.
Effectivement, et ça ne semble pas un scénario impossible non plus.
C’est en effet pas impossible d’entraîner un système raciste, mais c’est pas facile à cacher. Il suffirait d’une loi disant que la CNIL ou une résurrection de la HALDE doit avoir accès aux modèles des caméras auto à des fins de tests de discrimination pour corriger tout ce système. Bien sur que les racistes vont y résister mais ce combat là est bien plus facile à gagner pour nous. Ça demande juste une loi, très peu de budget et de personnel pour un gain immense.
Vu les propos du ministre de l’Intérieur actuel, ce n’est pas forcément hyper rassurant
Je te rejoins tout à fait. Mais critiquez pas la matraque, critiquez celui qui l’utilise, et adaptons la lutte. C’est bien plus facile de corriger le racisme dans un algo que dans une institution de 100 000 personnes. Exigeons que ces algos soient ouverts et examinables, ainsi que les façons de leurs configurations.
Mettez vous un moment dans la peau d’un dirigeant raciste qui décide de faire taper sur les Arabes. Vous faites une réunion avec quelques préfets, vous leur dites des trucs plein de dogwhistles “Bon, maintenant je veux qu’on embarque plus facilement les gens louches et que la peur change de camp. Faut pas se mentir, les suspect on les reconnaît vite. Vous m’avez compris.”
L’algo, lui, il a pas compris. Il regarde pas CNews et si on veut l’inspecter, on peut facilement le “mettre sur le grill” pour tester ses biais. Vous devez à ce moment là, si vous voulez les rendre racistes, donner des ordres et instructions, écrites, prouvable et aisément annulables ou vous taper tout l’entraînement sur des données racistes.
Il faut, c’est clair et certain, des organismes de contrôle (on peut pas filer plus de pouvoir à la CNIL par exemple?) mais l’organisation technique du contrôle est bien plus facile et bien plus objective. Son absence en est d’autant moins excusable et c’est là qu’il faut appuyer.
Effectivement, et ça ne semble pas un scénario impossible non plus.
En fait de mon côté j’ai l’impression que aglos ou pas, les politiques trouveront toujours le moyen d’appliquer leurs politiques, ça ne changera pas grand chose de ce côté là. Les polítiques vont surveiller de très près les résultats fournis par les algos, et les modifier tant qu’ils ne correspondront pas à leurs attentes
Ce qui nous sauve, c’est que ces gens pensent que leurs biais racistes sont la réalité. Que si tu enlèves tout biais “woke” tu te retrouves avec un système qui justifie leur modèle du monde. La plupart accueillent comme des évolutions favorables les systèmes “neutres” sans se rendre compte qu’ils sont “biaisés” contre leur point de vue du monde.
C’est en effet pas impossible d’entraîner un système raciste, mais c’est pas facile à cacher. Il suffirait d’une loi disant que la CNIL ou une résurrection de la HALDE doit avoir accès aux modèles des caméras auto à des fins de tests de discrimination pour corriger tout ce système. Bien sur que les racistes vont y résister mais ce combat là est bien plus facile à gagner pour nous. Ça demande juste une loi, très peu de budget et de personnel pour un gain immense.
Quand on voit que CNEws est toujours sur la TNT malgré tous les rappels à l’ordre, j’ai l’impression que les lois ne suffisent pas malheureusement
En effet: Les lois sont appliquées par l’exécutif, on a un exécutif collaborationniste. Le problème actuel vient pas des lois en l’occurrence.