Guten Morgen.
-
Guten Morgen. Es ist Dienstag. Da war doch was? Ah ja, es ist #DNIPBriefing-Tag!
Heute zu Experimenten an der Menschheit.
1️⃣ Ihr erinnert euch an #UZHRedditGate? Dass Forscher von der Universität Zürich ohne Wissen der Reddit-Community an diesen Menschen Experimente gefahren haben? (Die #DNIP-Artikel dazu sind selbstverständlich verlinkt.)
Es gibt neue Forschung, wie gut #KI Menschen beeinflussen kann.
Wenn das Studenten in ein paar Tagen können, was machen andere?
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/ -
Guten Morgen. Es ist Dienstag. Da war doch was? Ah ja, es ist #DNIPBriefing-Tag!
Heute zu Experimenten an der Menschheit.
1️⃣ Ihr erinnert euch an #UZHRedditGate? Dass Forscher von der Universität Zürich ohne Wissen der Reddit-Community an diesen Menschen Experimente gefahren haben? (Die #DNIP-Artikel dazu sind selbstverständlich verlinkt.)
Es gibt neue Forschung, wie gut #KI Menschen beeinflussen kann.
Wenn das Studenten in ein paar Tagen können, was machen andere?
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/Fun fact (oder not so fun, je nach Einstellung): Während das #Reddit-Experiment unter den Betroffenen (=Menschen) eher Betroffenheit ausgelöst hat, scheint anderswo die Einstellung eher anders zu sein.
So hat die DNIP-Redaktion eine Anfrage eines US-Startups mit Geld erhalten, ob wir ihnen nicht den Kontakt zu den Forschern vermitteln wollten. Sie hätten da einen Geschäftsvorschlag …
(Unterdessen hält sich die #UZH weiterhin bedeckt. Wieso?)
#UZHRedditGate -
Fun fact (oder not so fun, je nach Einstellung): Während das #Reddit-Experiment unter den Betroffenen (=Menschen) eher Betroffenheit ausgelöst hat, scheint anderswo die Einstellung eher anders zu sein.
So hat die DNIP-Redaktion eine Anfrage eines US-Startups mit Geld erhalten, ob wir ihnen nicht den Kontakt zu den Forschern vermitteln wollten. Sie hätten da einen Geschäftsvorschlag …
(Unterdessen hält sich die #UZH weiterhin bedeckt. Wieso?)
#UZHRedditGate2️⃣ Eigentlich sollte es sich unter Juristen nach den Peinlichkeiten vor genau zwei Jahren inzwischen herumgesprochen haben: #ChatGPT & Co. erfinden euch gerne einmal Gerichtsurteile. Wenn ihr schon #LLMs nutzt, überprüft wenigstens den f*cking Output!
Weit gefehlt: Damien Charlotin sammelt Fälle von juristischen Fehleingaben. Alleine diesen Monat sind über 20 neue hinzugekommen.
Durch die kleinen verhängten Sanktionen lassen Gerichte an ihrer Glaubwürdigkeit nagen.
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/#KI-Halluzinationen-bei-Juristen-auf-Rekordhoch -
2️⃣ Eigentlich sollte es sich unter Juristen nach den Peinlichkeiten vor genau zwei Jahren inzwischen herumgesprochen haben: #ChatGPT & Co. erfinden euch gerne einmal Gerichtsurteile. Wenn ihr schon #LLMs nutzt, überprüft wenigstens den f*cking Output!
Weit gefehlt: Damien Charlotin sammelt Fälle von juristischen Fehleingaben. Alleine diesen Monat sind über 20 neue hinzugekommen.
Durch die kleinen verhängten Sanktionen lassen Gerichte an ihrer Glaubwürdigkeit nagen.
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/#KI-Halluzinationen-bei-Juristen-auf-RekordhochUnabhängig davon, aber sehr passend, hat Paul Lalonde @Flux die Funktionsweise von grossen KI-Sprachmodellen (LLMs) wie folgt zusammengefasst. Frei übersetzt:
«LLMs beantworten nicht deine Frage ‚X?‘, sondern die nahe verwandte Frage, „Wie könnte eine Antwort zu ‚X?‘ aussehen?“. Das kann durchaus hilfreich sein, aber das #LLM kann nicht beurteilen, ob seine Antwort überhaupt korrekt ist.»
-
Unabhängig davon, aber sehr passend, hat Paul Lalonde @Flux die Funktionsweise von grossen KI-Sprachmodellen (LLMs) wie folgt zusammengefasst. Frei übersetzt:
«LLMs beantworten nicht deine Frage ‚X?‘, sondern die nahe verwandte Frage, „Wie könnte eine Antwort zu ‚X?‘ aussehen?“. Das kann durchaus hilfreich sein, aber das #LLM kann nicht beurteilen, ob seine Antwort überhaupt korrekt ist.»
3️⃣ Wechseln wir kurz zu #Datenschutz:
In #Russland liegt ein Gesetz vor, mit dem Ausländer rund um Moskau verpflichtet werden, eine #Tracking-App zu installieren, mit der sie die Staatsorgane jederzeit orten können. Natürlich zur «Verbrechensbekämpfung».
Natürlich wirft das etliche Fragen rund um #Privatsphäre auf. Aber auch um Meinungsfreiheit. Wenn jedes Treffen geloggt wird, ist es schwierig, an Informationen zu kommen, die nicht von der Regierung sind.
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/#Datenschutz-1-Echtzeit-Tracking -
3️⃣ Wechseln wir kurz zu #Datenschutz:
In #Russland liegt ein Gesetz vor, mit dem Ausländer rund um Moskau verpflichtet werden, eine #Tracking-App zu installieren, mit der sie die Staatsorgane jederzeit orten können. Natürlich zur «Verbrechensbekämpfung».
Natürlich wirft das etliche Fragen rund um #Privatsphäre auf. Aber auch um Meinungsfreiheit. Wenn jedes Treffen geloggt wird, ist es schwierig, an Informationen zu kommen, die nicht von der Regierung sind.
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/#Datenschutz-1-Echtzeit-Tracking4️⃣ Datenhandel kann tödlich enden. Oder sonst dein Leben stark beeinträchtigen. Nicht nur in Ländern, in denen Homosexualität unter Strafe steht. Netzpolitik.org und das norwegische Fernsehen haben sich ein Sample von 380 Millionen Handy-Standortdaten gegeben. Und damit viel über das Privatleben erfahren. Zu viel, IMHO.
https://netzpolitik.org/2025/databroker-files-outing-durch-standortdaten/
-
4️⃣ Datenhandel kann tödlich enden. Oder sonst dein Leben stark beeinträchtigen. Nicht nur in Ländern, in denen Homosexualität unter Strafe steht. Netzpolitik.org und das norwegische Fernsehen haben sich ein Sample von 380 Millionen Handy-Standortdaten gegeben. Und damit viel über das Privatleben erfahren. Zu viel, IMHO.
https://netzpolitik.org/2025/databroker-files-outing-durch-standortdaten/
#Datenhandel wird immer beliebter und lukrativer. Und gefährlicher. Für die Gehandelten. Auch wenn Fichieren in der Schweiz Tradition hat (die der Bund gerade wieder aufleben lassen will), gibt es doch gute Gründe und Möglichkeiten, nicht alles in diese Datentopf-Albträume abzugeben.
Wir hatten mal ein paar davon zusammengetragen.
https://dnip.ch/2023/12/20/tracking-nein-danke/ -
#Datenhandel wird immer beliebter und lukrativer. Und gefährlicher. Für die Gehandelten. Auch wenn Fichieren in der Schweiz Tradition hat (die der Bund gerade wieder aufleben lassen will), gibt es doch gute Gründe und Möglichkeiten, nicht alles in diese Datentopf-Albträume abzugeben.
Wir hatten mal ein paar davon zusammengetragen.
https://dnip.ch/2023/12/20/tracking-nein-danke/5️⃣ Microsoft #Recall, das «fotografische Gedächtnis» für alles, was über deinen Bildschirm flimmert, ist zwar der feuchte Traum in Redmond (und anderswo), aber für viele auch ein Privacy-Albtraum.
Da es noch)?) keine offizielle Möglichkeit gibt, wie ein Programm Recall sagen kann, dass sein Inhalt doch bitte nicht archiviert werden soll, hat #Signal zur Hintertür gegriffen.
Signal deklariert sein Fenster als DRM-geschützten Videoinhalt. Ausgetrickst!
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/#Datenschutz-3-%C2%ABExorzismus%C2%BB-gegen-das-fotografische-Gedaechtnis -
5️⃣ Microsoft #Recall, das «fotografische Gedächtnis» für alles, was über deinen Bildschirm flimmert, ist zwar der feuchte Traum in Redmond (und anderswo), aber für viele auch ein Privacy-Albtraum.
Da es noch)?) keine offizielle Möglichkeit gibt, wie ein Programm Recall sagen kann, dass sein Inhalt doch bitte nicht archiviert werden soll, hat #Signal zur Hintertür gegriffen.
Signal deklariert sein Fenster als DRM-geschützten Videoinhalt. Ausgetrickst!
https://dnip.ch/2025/05/27/dnip-briefing-26-experimente-an-der-gesellschaft/#Datenschutz-3-%C2%ABExorzismus%C2%BB-gegen-das-fotografische-Gedaechtnis6️⃣ Schon wieder ist eine #KI in den News, weil sie angeblich «Böses» gemacht habe. Aber auch in diesem Fall eigentlich nur, weil sie keine Wahl hatte.
Dass dieses gezielte Schlechtreden der eigenen #KI-Produkte eine Marketingstrategie ist, um das Produkt mächtiger (und damit wertvoller) erscheinen zu lassen als es ist, ist nicht neu.
Daniel Leisegang hatte diesen «Criti-Hype» bereits vor zwei Jahren dokumentiert.
#CritiHype #LLM
https://netzpolitik.org/2023/offener-brief-zu-ki-opfer-des-hypes/ -
M monkee@chaos.social shared this topic
