Politische Einlassungen von Elon Musk und das Ende der Faktenchecks von Meta in den USA sorgen in Deutschland für Kritik. Juso-Chef Türmer fordert nun einen radikalen Schritt: die Verstaatlichung von Plattformen wie X, Facebook und Instagram.
Wenn du in den Medien das Wort “Algorithmus” liest, musst du (denke ich) ausblenden, was der Begriff eigentlich (in der Informatik) bedeutet. Damit sind fast immer KI-getriebene “Algorithmen” gemeint, die dem Benutzer auf intransparente Weise manches anzeigen und manches nicht.
Klar ist auch umgekehrt chronologische Sortierung wie bei Mastodon ein Algorithmus, oder Thread-Bumping wie in klassischen Webforen, oder die verschiedenen Sortiermöglichkeiten hier auf Lemmy, aber das meinen die Medien damit nicht.
Doch, ich glaube, das sollten wir einblenden und den Leuten klarmachen, dass nicht “der große böse Algorithmus” das Problem ist, sondern die Unternehmen, die sie betreiben.
Technik ist kein Mysterium und viele Leute scheinen sich selbst eine Hilfslosigkeit antrainiert zu haben, die nur schwer abzulegen ist. Konkretes Fallbeispiel:
Meine Mutter möchte ihrer Mutter (also meiner Oma) ein sog. Feature Phone geben. D.h. das Ding soll nicht viel mehr können als Telefonieren und SMS verschicken. Wer soll es raussuchen? Ich, der Programmierer. Ich beschäftige mich auch nur alle paar Schaltjahre mal mit Handies, habe also auch nur die Webseiten mir bekannter Hersteller durchsucht und verglichen, bis ich auf etwas Vielversprechendes gestoßen bin.
Nur weil für eine Aufgabe ein Browser aufgemacht werden muss, bedeutet das nicht, dass man dafür einen Informatikabschluss braucht.
Genauso ist es doch wenn man Mutter oder Oma bei einem Programm helfen soll von dem man keine Ahnung hat. In 90% der Fälle schauen wir auch nur “welcher Knopf sieht danach aus als könnte ich damit das gewünschte Ziel erreichen”.
Am Schluss wird dann irgendein Gesetz gemacht, welches von Gerichten ausgelegt wird. Was würde in dem Gesetz stehen, sodass Richter das dann richtig verstehen?
Ja, ist tatsächlich eine Herausforderung für die zuständigen Juristen in den Ministerien. Spontaner Entwurf: “Ein Empfehlungsalgorithmus ist ein System, das dem Endbenutzer Inhalte anzeigt, die er weder abonniert noch ausdrücklich angefordert hat und deren Auswahl nicht auf objektiven, transparenten Kriterien (wie etwa Erstellungsdatum oder Bewertungen durch andere Endbenutzer) basiert. Ein Algorithmus zur Sortierung von Suchergebnissen zählt nicht als Empfehlungsalgorithmus.”
Damit sollten Mastodon, Lemmy, klassische Webforen, Wikis, etc., nicht abgedeckt sein, YouTube, Facebook, Instagram, etc. hingegen müssten sich so umstellen, dass dem Benutzer ausschließlich das angezeigt wird, was er ausdrücklich abonniert hat, und kein “das könnte Sie auch interessieren”.
Ein blinder Fleck bei diesen Ansätzen ist, dass viel Manipulation von außen kommt. ZB SEO, aber auch Astroturf-Kampagnen auf Reddit oder Lemmy.
Was hier auch nicht betrachtet wird, ist die händische Auswahl durch Moderatoren. So eine Auswahl ist natürlich nicht prinzipiell anders als die redaktionellen Entscheidungen bei Zeitungen.
Suchergebnisse sind explizit angefordert, würden also nicht unter so einen Paragrafen fallen. Nur Empfehlungen, aber die könnten auch abonniert oder angefordert werden.
Ich frage mich, was genau verboten wäre. Ein Algorithmus ist per Definition objektiv. Eine redaktionelle Auswahl ist ja nicht mitgemeint. Für die Transparenz müsste man Informationen über den Algorithmus preisgeben. Fragt sich, was das bringt.
Nach ein bisschen Nachdenken, glaube ich, hier gilt: Man schlägt den Sack und meint den Esel. Was wäre denn, zB, wenn Musk statt Twitter ein paar Fernsehsender oder Zeitungen gekauft hätte?
“Du hast dir in der letzten Zeit mehrmals GTA-5-Videos angesehen, also hier sind 3 weitere GTA-5-Videos” ist nicht transparent: welche Periode wird für “in der letzten Zeit” berücksichtigt und warum werden mir ausgerechnet diese 3 angezeigt und nicht irgendwelche anderen?
“Du hast am 13. Dezember bei diesem Kanal auf Abonnieren geklickt, der hat gerade ein neues Video hochgeladen, also hier ist es” ist transparent: mir ist 100% klar, warum mir es angezeigt wird und wie ich es so ändern kann, dass es mir nicht mehr angezeigt wird (indem ich das Abonnement beende).
Ich denke, diese Unterscheidung ließe sich schon in Gesetzesform packen.
Wenn du zu großen neuen Ereignissen (z.b. “california fire”) suchst bzw auf die community clickst, und die ergebnisse nach upvotes sortiert sind, dann sind sicherlich clickbaity falschinformationen ganz oben. also das passiert ja eigentlich schon auf facebook und co.
ein lösungsansatz ist es sicherlich, nur “vertrauenswürdige” informationsquellen ganz oben anzuzeigen. Dann hast du aber automatisch schon wieder eine “bevorzugung” - die dann von den clickbaity seiten als “ungerecht” angeprangert wird - wohlgemerkt weil sie mit ihrer scheiße mehr geld verdienen wollen.
Mein ideales soziales Medium ist und bleibt ein klassisches Webforum, wo gar nicht nach Upvotes sortiert wird (weil es solche meistens auch nicht gibt), sondern nach Zeitpunkt, wann Dinge gepostet wurden. Ich gestehe aber auch ein, dass das möglicherweise nicht gut skaliert.
Ich denke in der Tat nicht, dass Betreiber sozialer Medien entscheiden sollten, was “vertrauenswürdige Informationsquellen” sind. Ein Grund, warum wir das Internet haben und haben wollen, ist ja, dass wir Benutzern auch ermöglichen wollen, ihre eigenen Erfahrungen und Beobachtungen zu posten, zu denen es vielleicht noch keine “vertrauenswürdige Informationsquellen” gibt.
Ja, aber das ist keine Ausrede, den Diskurs auf so unpräzisem Niveau zu führen – zumal es genug technologisch illiterate Politiker gibt, die dann tatsächlich ein allgemeines Verbot von Algorithmen fordern würden.
Nicht vergessen, in der Politik gilt “alle Verschlüsselungsalgorithmen müssen einen Zweitschlüssel für die Polizei bereit stellen, ohne an Sicherheit einzubüßen” als vollkommen einleuchtend und praktikabel.
Dem widerspreche ich nicht. Was ist dein Vorschlag, wie wir das, was YouTube macht, terminologisch von dem unterscheiden können, was Mastodon macht? Du hast Recht, dass es unpräzise ist, zu sagen, YouTube habe einen “Algorithmus” und Mastodon nicht - aber wie wollen wir den Unterschied dann nennen?
Naja. Die sache ist halt dass rechte hetze mehr emotionen hervorruft und darum mehr reaktionen bekommt. wenn man jetzt nach reaktionen sortiert, bekommt man eben genau das.
Ich würde einfach sagen, “die Irreführung durch Plattformen wie Xitter, Facebook und Youtube” muss aufhören. Weil nichts anderes ist es. Die Sachen, die einem als “Trending” untergeschoben werden, sind zu einem großen Teil künstlich aufgebauscht.
Das Problem sind letztlich die KPIs der betreibenden Unternehmens: Es geht darum, möglichst viel/oft/lange Aufmerksamkeit zu generieren (weil sich damit Werbung verkaufen lässt), egal, ob das negative Auswirkungen hat.
Sobald die Zielstellung ist, einen Debattenraum zu schaffen, wird das anders.
spannenderweise hab ich auf kaum etwas so gerne längere Zeit verbracht wie in klassischen Webforen (kann mich erinnern, als Kind und Jugendlicher hab ich da manchmal alle paar Minuten aktualisiert), hingegen wird mir heutzutage von Facebook normalerweise innerhalb weniger Minuten langweilig; wenn also das das Ziel ist, versagt es vollkommen
Wenn du in den Medien das Wort “Algorithmus” liest, musst du (denke ich) ausblenden, was der Begriff eigentlich (in der Informatik) bedeutet. Damit sind fast immer KI-getriebene “Algorithmen” gemeint, die dem Benutzer auf intransparente Weise manches anzeigen und manches nicht.
Klar ist auch umgekehrt chronologische Sortierung wie bei Mastodon ein Algorithmus, oder Thread-Bumping wie in klassischen Webforen, oder die verschiedenen Sortiermöglichkeiten hier auf Lemmy, aber das meinen die Medien damit nicht.
Doch, ich glaube, das sollten wir einblenden und den Leuten klarmachen, dass nicht “der große böse Algorithmus” das Problem ist, sondern die Unternehmen, die sie betreiben.
Technik ist kein Mysterium und viele Leute scheinen sich selbst eine Hilfslosigkeit antrainiert zu haben, die nur schwer abzulegen ist. Konkretes Fallbeispiel:
Meine Mutter möchte ihrer Mutter (also meiner Oma) ein sog. Feature Phone geben. D.h. das Ding soll nicht viel mehr können als Telefonieren und SMS verschicken. Wer soll es raussuchen? Ich, der Programmierer. Ich beschäftige mich auch nur alle paar Schaltjahre mal mit Handies, habe also auch nur die Webseiten mir bekannter Hersteller durchsucht und verglichen, bis ich auf etwas Vielversprechendes gestoßen bin.
Nur weil für eine Aufgabe ein Browser aufgemacht werden muss, bedeutet das nicht, dass man dafür einen Informatikabschluss braucht.
Genauso ist es doch wenn man Mutter oder Oma bei einem Programm helfen soll von dem man keine Ahnung hat. In 90% der Fälle schauen wir auch nur “welcher Knopf sieht danach aus als könnte ich damit das gewünschte Ziel erreichen”.
Am Schluss wird dann irgendein Gesetz gemacht, welches von Gerichten ausgelegt wird. Was würde in dem Gesetz stehen, sodass Richter das dann richtig verstehen?
Ja, ist tatsächlich eine Herausforderung für die zuständigen Juristen in den Ministerien. Spontaner Entwurf: “Ein Empfehlungsalgorithmus ist ein System, das dem Endbenutzer Inhalte anzeigt, die er weder abonniert noch ausdrücklich angefordert hat und deren Auswahl nicht auf objektiven, transparenten Kriterien (wie etwa Erstellungsdatum oder Bewertungen durch andere Endbenutzer) basiert. Ein Algorithmus zur Sortierung von Suchergebnissen zählt nicht als Empfehlungsalgorithmus.”
Damit sollten Mastodon, Lemmy, klassische Webforen, Wikis, etc., nicht abgedeckt sein, YouTube, Facebook, Instagram, etc. hingegen müssten sich so umstellen, dass dem Benutzer ausschließlich das angezeigt wird, was er ausdrücklich abonniert hat, und kein “das könnte Sie auch interessieren”.
Ein blinder Fleck bei diesen Ansätzen ist, dass viel Manipulation von außen kommt. ZB SEO, aber auch Astroturf-Kampagnen auf Reddit oder Lemmy.
Was hier auch nicht betrachtet wird, ist die händische Auswahl durch Moderatoren. So eine Auswahl ist natürlich nicht prinzipiell anders als die redaktionellen Entscheidungen bei Zeitungen.
Suchergebnisse sind explizit angefordert, würden also nicht unter so einen Paragrafen fallen. Nur Empfehlungen, aber die könnten auch abonniert oder angefordert werden.
Ich frage mich, was genau verboten wäre. Ein Algorithmus ist per Definition objektiv. Eine redaktionelle Auswahl ist ja nicht mitgemeint. Für die Transparenz müsste man Informationen über den Algorithmus preisgeben. Fragt sich, was das bringt.
Nach ein bisschen Nachdenken, glaube ich, hier gilt: Man schlägt den Sack und meint den Esel. Was wäre denn, zB, wenn Musk statt Twitter ein paar Fernsehsender oder Zeitungen gekauft hätte?
Deshalb schrieb ich “objektiv und transparent”.
“Du hast dir in der letzten Zeit mehrmals GTA-5-Videos angesehen, also hier sind 3 weitere GTA-5-Videos” ist nicht transparent: welche Periode wird für “in der letzten Zeit” berücksichtigt und warum werden mir ausgerechnet diese 3 angezeigt und nicht irgendwelche anderen?
“Du hast am 13. Dezember bei diesem Kanal auf Abonnieren geklickt, der hat gerade ein neues Video hochgeladen, also hier ist es” ist transparent: mir ist 100% klar, warum mir es angezeigt wird und wie ich es so ändern kann, dass es mir nicht mehr angezeigt wird (indem ich das Abonnement beende).
Ich denke, diese Unterscheidung ließe sich schon in Gesetzesform packen.
Ich denke, Gerichte legen Transparenz deutlich lockerer aus. Es gibt ja Gesetze, die eine gewisse Transparenz vorschreiben.
Aber auch wenn man explizit Details verlangt, wäre das ja kein Problem die zu liefern. Was würde das bringen?
Naja, da hättest du Probleme.
Wenn du zu großen neuen Ereignissen (z.b. “california fire”) suchst bzw auf die community clickst, und die ergebnisse nach upvotes sortiert sind, dann sind sicherlich clickbaity falschinformationen ganz oben. also das passiert ja eigentlich schon auf facebook und co.
ein lösungsansatz ist es sicherlich, nur “vertrauenswürdige” informationsquellen ganz oben anzuzeigen. Dann hast du aber automatisch schon wieder eine “bevorzugung” - die dann von den clickbaity seiten als “ungerecht” angeprangert wird - wohlgemerkt weil sie mit ihrer scheiße mehr geld verdienen wollen.
Mein ideales soziales Medium ist und bleibt ein klassisches Webforum, wo gar nicht nach Upvotes sortiert wird (weil es solche meistens auch nicht gibt), sondern nach Zeitpunkt, wann Dinge gepostet wurden. Ich gestehe aber auch ein, dass das möglicherweise nicht gut skaliert.
Ich denke in der Tat nicht, dass Betreiber sozialer Medien entscheiden sollten, was “vertrauenswürdige Informationsquellen” sind. Ein Grund, warum wir das Internet haben und haben wollen, ist ja, dass wir Benutzern auch ermöglichen wollen, ihre eigenen Erfahrungen und Beobachtungen zu posten, zu denen es vielleicht noch keine “vertrauenswürdige Informationsquellen” gibt.
Ja, aber das ist keine Ausrede, den Diskurs auf so unpräzisem Niveau zu führen – zumal es genug technologisch illiterate Politiker gibt, die dann tatsächlich ein allgemeines Verbot von Algorithmen fordern würden.
Nicht vergessen, in der Politik gilt “alle Verschlüsselungsalgorithmen müssen einen Zweitschlüssel für die Polizei bereit stellen, ohne an Sicherheit einzubüßen” als vollkommen einleuchtend und praktikabel.
Dem widerspreche ich nicht. Was ist dein Vorschlag, wie wir das, was YouTube macht, terminologisch von dem unterscheiden können, was Mastodon macht? Du hast Recht, dass es unpräzise ist, zu sagen, YouTube habe einen “Algorithmus” und Mastodon nicht - aber wie wollen wir den Unterschied dann nennen?
Intransparente personalisierte Empfehlungsalgorithmen
Und unfaire. Wenn rechte Hetze gegenüber Fakten mehr gepusht wird ist das unfair und das ist scheiße.
Naja. Die sache ist halt dass rechte hetze mehr emotionen hervorruft und darum mehr reaktionen bekommt. wenn man jetzt nach reaktionen sortiert, bekommt man eben genau das.
Ich würde einfach sagen, “die Irreführung durch Plattformen wie Xitter, Facebook und Youtube” muss aufhören. Weil nichts anderes ist es. Die Sachen, die einem als “Trending” untergeschoben werden, sind zu einem großen Teil künstlich aufgebauscht.
Das Problem sind letztlich die KPIs der betreibenden Unternehmens: Es geht darum, möglichst viel/oft/lange Aufmerksamkeit zu generieren (weil sich damit Werbung verkaufen lässt), egal, ob das negative Auswirkungen hat.
Sobald die Zielstellung ist, einen Debattenraum zu schaffen, wird das anders.
spannenderweise hab ich auf kaum etwas so gerne längere Zeit verbracht wie in klassischen Webforen (kann mich erinnern, als Kind und Jugendlicher hab ich da manchmal alle paar Minuten aktualisiert), hingegen wird mir heutzutage von Facebook normalerweise innerhalb weniger Minuten langweilig; wenn also das das Ziel ist, versagt es vollkommen