Es gibt zwei Möglichkeiten das Problen der Authentizität anzugehen: (1) AI Material zu kennzeichnen oder (2) die Vertrauenswürdigkeit von “echtem” Material sicherzustellen.
Ersteres ist ein Rennen, was man nicht gewinnen kann (und darüber hinaus ein ressourcenintensives und langwieriges Unterfangen).*
Letzteres ist seit der Steinzeit etablierte Software, die die Authentizitätsfrage in einer Vertrauensfrage umwandelt, also zu anderer / gewohnter Stelle verschiebt: Ein Video ist bspw. von Lauterbach signiert, d.h. ich kann sicher sein, dass es von ihm stammt. Ich habe die Frage der Authentizität umgewandelt in die Frage, ob ich Lauterbach traue.
Beides zusammen wäre natürlich noch besser. Der Punkt von @dwt ist m. E. jedoch, dass Signaturen lange lange schon existent und ressourcentechnisch quasi kostenlos sind und man sich einem Haufen der aktuellen Probleme (wie diesem) ganz einfach entledigen könnte. Alles dafür ist schon lange da, wird jedoch medientechnisch nicht genutzt.
* Das ist keinesfalls nutzlos, da ich ja immer noch mit der Vertrauensfrage dastehe.
Ich habe es so verstanden, dass es in erster Linie um wild zirkulierende Bilder / Videoschnippsel geht, nicht um Streams.
Sobald Streams abgeschlossen sind, werden sie ja auf vielen Plattformen auch zu fixen Videos.
Bei Streams bzw. Medien auf Plattformen hat man ja bereits die Sicherheit durch die Authentizität eines Accounts.
Ich leite da spontan zwei Probleme ab: (1) Was ist, wenn der Account gekapert wird? (2) Was ist, wenn es einen gleich-klingenden Account (Fake-Account) gibt.
Ersteres würde ich spontan eher zu den etablierten Methoden delegieren - bspw. 2-FA (1).
Zu 2: Aktuell werden Accounts bereits geprüft, wenn es um bekannte Personen, wie MdBs oder BMs, geht.
Da könnte man jedoch tatsächlich auch mit Signaturen ansetzen.
Man könnte problemlos platformseitig einen festen Teil des Accounts ansich signieren.
Dann weiß ich: Dieser Account gehört bspw. zu Lauterbachs Schlüssel.
Technisch wäre es m.E. auch kein Problem zu implementieren einzelne Videos zu signieren:
PGP-Signaturen verwursten den / einen Fingerabdruck einer Datei mit einem Schlüssel, um sicherzustellen, dass der signierte Dateiinhalt nicht verändert wurde.
Eine Plattform könnte ohne Weiteres jedes Video signieren.
Die Sinnhaftigkeit dessen erschließt sich mir jedoch gerade nicht.
Ein Stream im Prozess des Streamens, bei dem man weder der Plattform traut, noch dem Übertragungsmedium, ist glaube ich eher ein absolutes Nischending. Aber technisch ginge auch das.
Naja toll, dann weiß ich “ok, is Twitch/YouTube/whatever”, aber noch nicht, dass der, der das da ausstrahlt, wirklich der ist, der er vorgibt, zu sein.
Normalerweise würde der Account von einer vertrauenswürdigen Seite verlinkt, zB vom Bundestag im Fall von Lauterbach. Bei einer Signatur im Stream müsstest du den Schlüssel auch von irgendeiner vertrauenswürdigen Quelle holen. DH, da gewinnst du nix.
Man könnte auch Twitch/usw zwingen, die Identitäten der Streamer zu überprüfen und wie ein Impressum zu veröffentlichen. Ich halte das für ziemlich übergriffig und gefährlich, aber wenn der Accountname keine hinreichende Identität ist, dann geht’s nicht mit weniger.
Hm, ja, gut, das ist jetzt vielleicht ein bisschen besserwisserisch, aber man kann sowas ja auf seinem eigenen Server nochmal hosten. Man muss nicht auf Youtube sein. Oder auf seinem eigenen Server eine Reihe von Links halten die man damit als “echt” bestätigt.
Mir gings aber eigentlich nur darum, dass https nicht nur dafür sorgt, dass der Verkehr sicher war, sondern auch dafür, dass du wissen kannst mit wem du genau kommunizierst.
Also video streaming ohne ein CDN zu machen, vor allem als Politiker, der ein ganzes Land erreichen will, ist aber etwas … weit aus dem Fenster gelehnt. Video-Streaming performant hinzukriegen ist absolut nicht trivial. Da würde ich schon zu einem etablierten Anbieter greifen.
Menschen wie Lauterbach haben ein public private schlüsselpaar. Alles von dem er will, dass du und ich nachvollziehen kann, dass er denkt, dass es echt ist, kann er mit seinem privaten Schlüssel signieren, und du (oder besser deine Clients) können das über seinen öffentlichen Schlüssel prüfen und entsprechend darstellen.
Awesome, dann kann ich alles mögliche sagen und wenn mich jemand dabei filmt, einfach nicht signieren und der Videobeweis zählt plötzlich als Deepfake…?
Nope, der Beweis zählt dann als nicht von dir freiwillig ale echt eingestuft. $jemand muss dann einen anderen Weg finden die Echtheit zu zeigen. Z.b. indem er selbst signiert und damit sagt, das s er mit seinem Namen dafür steht das das Video echt ist.
Leute, die Videos erschaffen haben, signieren diese kryptographisch und können damit beweisen, dass die Person, die den Schlüssel (normalerweose der Urheber) besitzt, das Video erschaffen hat.
Unsignierte Videos verlieren sofort einen Großteil der Glaubwürdigkeit, weil sie von einer anderen Person als dem Original erschaffen worden könnte, also zum Beispiel könnte es sich um einen Deepsfake handeln.
und wie soll das funktionieren?
Bspw. ganz einfach, wie man das schon seit 30 Jahren macht.
Es gibt zwei Möglichkeiten das Problen der Authentizität anzugehen: (1) AI Material zu kennzeichnen oder (2) die Vertrauenswürdigkeit von “echtem” Material sicherzustellen.
Ersteres ist ein Rennen, was man nicht gewinnen kann (und darüber hinaus ein ressourcenintensives und langwieriges Unterfangen).*
Letzteres ist seit der Steinzeit etablierte Software, die die Authentizitätsfrage in einer Vertrauensfrage umwandelt, also zu anderer / gewohnter Stelle verschiebt: Ein Video ist bspw. von Lauterbach signiert, d.h. ich kann sicher sein, dass es von ihm stammt. Ich habe die Frage der Authentizität umgewandelt in die Frage, ob ich Lauterbach traue.
Beides zusammen wäre natürlich noch besser. Der Punkt von @dwt ist m. E. jedoch, dass Signaturen lange lange schon existent und ressourcentechnisch quasi kostenlos sind und man sich einem Haufen der aktuellen Probleme (wie diesem) ganz einfach entledigen könnte. Alles dafür ist schon lange da, wird jedoch medientechnisch nicht genutzt.
* Das ist keinesfalls nutzlos, da ich ja immer noch mit der Vertrauensfrage dastehe.
@Bibez @zoontechnicon @dwt
Jo, für statische Dateien. Auch für streams auf Youtube, Twitter, Mastodon?
Ich habe es so verstanden, dass es in erster Linie um wild zirkulierende Bilder / Videoschnippsel geht, nicht um Streams. Sobald Streams abgeschlossen sind, werden sie ja auf vielen Plattformen auch zu fixen Videos.
Bei Streams bzw. Medien auf Plattformen hat man ja bereits die Sicherheit durch die Authentizität eines Accounts. Ich leite da spontan zwei Probleme ab: (1) Was ist, wenn der Account gekapert wird? (2) Was ist, wenn es einen gleich-klingenden Account (Fake-Account) gibt.
Ersteres würde ich spontan eher zu den etablierten Methoden delegieren - bspw. 2-FA (1). Zu 2: Aktuell werden Accounts bereits geprüft, wenn es um bekannte Personen, wie MdBs oder BMs, geht. Da könnte man jedoch tatsächlich auch mit Signaturen ansetzen. Man könnte problemlos platformseitig einen festen Teil des Accounts ansich signieren. Dann weiß ich: Dieser Account gehört bspw. zu Lauterbachs Schlüssel.
Technisch wäre es m.E. auch kein Problem zu implementieren einzelne Videos zu signieren: PGP-Signaturen verwursten den / einen Fingerabdruck einer Datei mit einem Schlüssel, um sicherzustellen, dass der signierte Dateiinhalt nicht verändert wurde. Eine Plattform könnte ohne Weiteres jedes Video signieren. Die Sinnhaftigkeit dessen erschließt sich mir jedoch gerade nicht.
Ein Stream im Prozess des Streamens, bei dem man weder der Plattform traut, noch dem Übertragungsmedium, ist glaube ich eher ein absolutes Nischending. Aber technisch ginge auch das.
Logisch, es kann ja hier signiert werden, dass der Livestream von einer bestimmten Person veranstaltet wird.
Alles andere sind ja nur veröffentlichungsschnipsel, alle die kann man signieren.
Man könnte abschnittsweise signieren. Weiß nicht, ob es das schon gibt.
Es ist aber nicht so unbedingt nötig. Es gibt ja schon HTTPS.
Das ließe sich technisch machen. Aber, wie geschrieben, ist mir der Sinn / Nutzen schleierhaft.
HTTPS garantiert dir aber nur, dass der Transport sicher erfolgte. Nicht hingegen, ob die Quelle vertrauenswürdig ist.
Du kannst doch das Zertifikat der Quelle prüfen?
Naja toll, dann weiß ich “ok, is Twitch/YouTube/whatever”, aber noch nicht, dass der, der das da ausstrahlt, wirklich der ist, der er vorgibt, zu sein.
Normalerweise würde der Account von einer vertrauenswürdigen Seite verlinkt, zB vom Bundestag im Fall von Lauterbach. Bei einer Signatur im Stream müsstest du den Schlüssel auch von irgendeiner vertrauenswürdigen Quelle holen. DH, da gewinnst du nix.
Man könnte auch Twitch/usw zwingen, die Identitäten der Streamer zu überprüfen und wie ein Impressum zu veröffentlichen. Ich halte das für ziemlich übergriffig und gefährlich, aber wenn der Accountname keine hinreichende Identität ist, dann geht’s nicht mit weniger.
Hm, ja, gut, das ist jetzt vielleicht ein bisschen besserwisserisch, aber man kann sowas ja auf seinem eigenen Server nochmal hosten. Man muss nicht auf Youtube sein. Oder auf seinem eigenen Server eine Reihe von Links halten die man damit als “echt” bestätigt.
Mir gings aber eigentlich nur darum, dass https nicht nur dafür sorgt, dass der Verkehr sicher war, sondern auch dafür, dass du wissen kannst mit wem du genau kommunizierst.
Also video streaming ohne ein CDN zu machen, vor allem als Politiker, der ein ganzes Land erreichen will, ist aber etwas … weit aus dem Fenster gelehnt. Video-Streaming performant hinzukriegen ist absolut nicht trivial. Da würde ich schon zu einem etablierten Anbieter greifen.
Tja, da wird’s philosophisch.
Menschen wie Lauterbach haben ein public private schlüsselpaar. Alles von dem er will, dass du und ich nachvollziehen kann, dass er denkt, dass es echt ist, kann er mit seinem privaten Schlüssel signieren, und du (oder besser deine Clients) können das über seinen öffentlichen Schlüssel prüfen und entsprechend darstellen.
Awesome, dann kann ich alles mögliche sagen und wenn mich jemand dabei filmt, einfach nicht signieren und der Videobeweis zählt plötzlich als Deepfake…?
Nope, der Beweis zählt dann als nicht von dir freiwillig ale echt eingestuft. $jemand muss dann einen anderen Weg finden die Echtheit zu zeigen. Z.b. indem er selbst signiert und damit sagt, das s er mit seinem Namen dafür steht das das Video echt ist.
Wenn dich jemand beim Scheißelabern filmt und das Video im Internet landet, bist du in der Regel eh nicht die Person, die es hochläd. ;)
Vielleicht sollte man dazu anmerken: In Deutschland ist das schnell strafbar.
https://www.gesetze-im-internet.de/stgb/__201.html
Datenschutz ist dann nochmal was anderes.
Ist das ein großes Problem?
Leute, die Videos erschaffen haben, signieren diese kryptographisch und können damit beweisen, dass die Person, die den Schlüssel (normalerweose der Urheber) besitzt, das Video erschaffen hat.
Unsignierte Videos verlieren sofort einen Großteil der Glaubwürdigkeit, weil sie von einer anderen Person als dem Original erschaffen worden könnte, also zum Beispiel könnte es sich um einen Deepsfake handeln.