Juste une idée un peu stupide, un des problèmes des démocratie, même directes, est que définir les options a beaucoup plus de poids que de voter pour elle.
Si je propose un choix entre “restaurant européen” “restaurant japonais” “restaurant chinois” “restaurant thai” “restaurant coréen”
j’aurais des résultat bien différent de si je propose un choix entre “restaurant français” “restaurant italien” “restaurant allemand” “restaurant grecque” “restaurant asiatique”
Transformez les restaurants en différentes variations de courants politque, et c’est tout le débat des alliances, de la dillution de ce qui est important pour un parti etc.
Du coup, sI (et c’est un gros si), on part du principe que l’on veut un compromis (et non pas une part de la population qui décide pour les autres), pourquoi ne pas utiliser un LLM comme GPT-4 pour donner une infinité de choix.
Une personne peut dire “Je veux manger japonais”, mais une autre pourrait dire “Juste quelque chose de léger”, un autre pourrait dire “tant que c’est pas allemand ou américain ça me va”.
Le model peut ensuite regarder toutes ces opinions et trouver des compromis entre chaque. Il peut aussi avoir des directives (qui ont pu être votées de la même manière) comme “Donne plus de valeurs aux opinions qui pensent à la société en générale”, “ne prends pas en compte tout ce qui pourrait être considéré comme un troll” etc. Il peut même faire une réponse à chaque individu sur comment il a pris (ou non) son avis en compte et pourquoi.
Bon alors avec les limitations de puissance de GPT-4 c’est clairement pas possible aujourd’hui, et il y a a clairement des dérives possibles (je vois bien l’épisode de black mirror) mais c’est juste une idée qui m’a traversée l’esprit aujourd’hui.
J’ai fait un petit exercice avec gpt-4 pour essayer (à la base c’était à Londres en anglais, je lui ai demandé de traduire avec paris, mais c’est pour ça que wagamama existe pas par exemple). J’ai ajouté un troll qui veut manger des ordures dans les options aussi.
Voici l’opinion de 6 personnes sur l’endroit où déjeuner. Je souhaite que tu prennes en considération l’opinion de tout le monde et que tu trouves un compromis qui satisfait tout le monde. Supposons que tu es à Paris, donc toutes sortes d’options de nourriture sont disponibles.
1 : “Je me sens un peu gros, je voudrais quelque chose de plutôt sain qui ne me fait pas regretter de l’avoir mangé” 2 : “Ça ne me dérangerait pas quelque chose d’asiatique, ou peut-être des pâtes” 3 : “Je m’en fiche un peu, mais pas trop cher” 4 : “J’aimerais vraiment manger du bon poulet” 5 : “Je veux manger des ordures” 6 : “Oh, je ne dirais pas non à un plat classique de bistrot”
GPT-4 response:
En tenant compte des préférences de tout le monde, une solution potentielle pourrait être de visiter un restaurant pan-asiatique qui propose une variété de plats, y compris des options saines, des plats de poulet et des plats de nouilles ou de riz qui sont similaires aux pâtes.
Pour la personne 1 : La plupart des restaurants asiatiques proposent un large éventail de plats plus légers, axés sur les légumes, qui sont à la fois délicieux et sains. Ils peuvent choisir parmi des options comme des légumes sautés, des salades ou des plats à base de tofu.
Pour la personne 2 : Elle a mentionné qu’elle aimait la nourriture asiatique et les pâtes. La cuisine asiatique est vaste, avec de nombreux plats de nouilles, de dumplings et de bols de riz qui peuvent satisfaire leurs envies de pâtes.
Pour la personne 3 : Les restaurants asiatiques, en particulier les boutiques de nouilles ou les endroits de restauration décontractée, sont généralement assez abordables. Ils peuvent choisir parmi une variété de plats en fonction de leur budget.
Pour la personne 4 : La cuisine asiatique comprend une variété de plats de poulet, comme le satay de poulet, le teriyaki de poulet, le poulet kung pao, ou le tikka de poulet si vous choisissez un endroit de fusion asiatique qui comprend la cuisine indienne.
Pour la personne 5 : Si par “ordures” elle signifie des plats réconfortants ou indulgents, moins sains, la plupart des restaurants asiatiques offrent également des options frites, des currys riches, ou des plats de nouilles copieux.
Pour la personne 6 : Bien qu’un restaurant asiatique ne soit pas le plat traditionnel de bistrot français, beaucoup ont de la bière au menu, et les options de nourriture copieuse peuvent rappeler le caractère réconfortant de la nourriture de bistrot.
L’un des restaurants possibles à visiter pourrait être Wagamama ou Busaba Eathai qui propose toutes ces options et plus encore.
Cette solution est un compromis et peut ne pas satisfaire pleinement les désirs de chacun à 100%, mais elle prend en compte les préférences exprimées par chacun et essaie de les satisfaire à mi-chemi
La démocratie c’est simple: on vote, on regarde qui a gagné. Les gens peuvent accepter de laisser le pouvoir à un système assez transparent et compréhensible.
Jamais je n’accepterai de laisser le pouvoir à une IA. On ne sait pas comment elle a été entraînée, comment elle en arrive à son résultat et enfin, je préfère que ce soit des humains qui prennent les décisions malgré leurs biais.
Edit: Le mi chemin c’est foireux, c’est quoi le mi chemin avec des racistes?
Avec ChatGPT non, en effet. Avec une IA qui serait entrainée pour ça et de façon ouverte, si, on le saurait, et d’une façon mille fois meilleure qu’avec n’importe quel politicien. Imagine que tu aies une ligne directe avec Macron ou ton député. Que tu puisses lui poser n’importe quelle question et qu’il lui soit impossible de mentir. Tu ne penses pas que ce serait un meilleur système?
La proposition c’est pas un mi-chemin avec des racistes, c’est un compromis le plus acceptable pour tout le monde. Un mi-chemin voudrait dire que les racists sont à 50%, ce qui dans notre système impliquerait qu’ils puissent avoir le pouvoir à 100%. Si on me propose un choix entre ça et un mi-chemin, je prends le mi-chemin (et j’ai un peu le sentiment d’avoir fait ce choix au 2e tour à la dernière présidentielle)
Ensuite, la capacité de trouver des choses acceptables pour tout le monde ce n’est pas nécessairement de faire des concessions racistes. D’autant plus que tu auras sûrement comme beaucoup de monde mis dans tes préférences le fait de ne pas vouloir de concessions envers les racistes et les fachos. Imagine que tu n’aies que deux personnes dans le système, une anti-raciste et une raciste. À l’issue de longues conversations avec les deux, le système résume les deux positions comme “aucune concession avec le racisme” et “moi j’ai envie de faire chier ces étrangers qui s’intègrent pas”.
Le système te pond un truc comme le SNU (pour tout le monde y compris les étrangers) avec l’argument pour le raciste “on va forcer leurs enfants à l’intégration républicaine sous les drapeaux”, qui flatte son sens patriotique et réactionnaire. Si l’anti-raciste est comme moi, c’est une mesure qui fait un peu chier et qui sert à rien, mais si c’est le prix à payer pour que le raciste demande pas la ségrégation en France et qu’on se compromette sur ça, ça peut être un compromis acceptable.
Il faut comprendre que les mesures qui nous indignent chez les racistes sont pas forcément celles qu’ils et elles considèrent prioritaires. Arriver à déterminer les mesures “un peu con mais pas trop graves” qui puissent les contenter tout en satisfaisant le “absolument aucune concession avec les racistes et les violations de droits fondamentaux” serait un outil super puissant.
Il faut voir de quel genre d’IA tu parles alors. Pour les IA génératives de texte dont on parle actuellement, personne n’est capable de dire précisément pourquoi la réponse est telle qu’elle est (à l’heure où la démocratie est remise en cause et alors que le vote électronique est toujours décrié, je doute que “l’IA a répondu ça” soit un argument de transparence suffisant).
Pire, à la même question posée plusieurs fois, l’IA peut répondre complètement différemment aléatoirement et inventer des sources.