Ein Forscherteam der Universität Zürich hat auf #Reddit ein KI-Experiment an Menschen durchgeführt.
-
Ein Forscherteam der Universität Zürich hat auf #Reddit ein KI-Experiment an Menschen durchgeführt. Ohne die Moderatoren des Subreddits («Forums») oder die Menschen im Vorfeld darüber aufzuklären.
Die KI-Bots hätten sich auch als Missbrauchsopfer oder Therapeuten für solche Opfer ausgegeben. Brisant: Dem KI-Modell haben sie vorgegaukelt, dass alle Beteiligten in die Studie eingewilligt haben.
#UZH #DNIP
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/ -
Ein Forscherteam der Universität Zürich hat auf #Reddit ein KI-Experiment an Menschen durchgeführt. Ohne die Moderatoren des Subreddits («Forums») oder die Menschen im Vorfeld darüber aufzuklären.
Die KI-Bots hätten sich auch als Missbrauchsopfer oder Therapeuten für solche Opfer ausgegeben. Brisant: Dem KI-Modell haben sie vorgegaukelt, dass alle Beteiligten in die Studie eingewilligt haben.
#UZH #DNIP
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/Nicht nur ist die vollständige fehlende vorgängige Zustimmung unüblich (oder sagen wir mal, ethisch fragwürdig). Im Normalfall dürfen Studienteilnehmer:innen auch ihre Daten zurückziehen, wenn sie uninformiert für eine Studie «rekrutiert» wurden. Scheinbar wollen die #UZH-Forscher den «Opfern» der Studie nicht einmal dieses Recht gewähren.
@adfichter und @nohillside, die bereits ihr Wochenende mit Recherchen dazu verbracht haben, bleiben dran und werden updaten.
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/ -
Nicht nur ist die vollständige fehlende vorgängige Zustimmung unüblich (oder sagen wir mal, ethisch fragwürdig). Im Normalfall dürfen Studienteilnehmer:innen auch ihre Daten zurückziehen, wenn sie uninformiert für eine Studie «rekrutiert» wurden. Scheinbar wollen die #UZH-Forscher den «Opfern» der Studie nicht einmal dieses Recht gewähren.
@adfichter und @nohillside, die bereits ihr Wochenende mit Recherchen dazu verbracht haben, bleiben dran und werden updaten.
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/Inzwischen die Antwort der Medienstelle der #UZH, dass diese angebliche Stellungnahme seitens der UZH nicht über sie gelaufen sei. Sie gehen der Sache aber nach.
Etwas Einblick ins Forschungsumfeld gibt es auch hier:
https://fediscience.org/@mario_angst_sci/114414351866828321 -
Inzwischen die Antwort der Medienstelle der #UZH, dass diese angebliche Stellungnahme seitens der UZH nicht über sie gelaufen sei. Sie gehen der Sache aber nach.
Etwas Einblick ins Forschungsumfeld gibt es auch hier:
https://fediscience.org/@mario_angst_sci/114414351866828321Wer noch ein paar Meinungen einholen will: Auch in diesem Thread gibt es Kritik und Unverständnis am Vorgehen.
https://mastodon.social/@hattom/114410054040705913 -
Wer noch ein paar Meinungen einholen will: Auch in diesem Thread gibt es Kritik und Unverständnis am Vorgehen.
https://mastodon.social/@hattom/114410054040705913@simon concludes:
"I think the reason I find this so upsetting is that, despite the risk of bots, I like to engage in discussions on the internet with people in good faith. The idea that my opinion on an issue could have been influenced by a fake personal anecdote invented by a research bot is abhorrent to me."
His entire article: https://simonwillison.net/2025/Apr/26/unauthorized-experiment-on-cmv/
-
@simon concludes:
"I think the reason I find this so upsetting is that, despite the risk of bots, I like to engage in discussions on the internet with people in good faith. The idea that my opinion on an issue could have been influenced by a fake personal anecdote invented by a research bot is abhorrent to me."
His entire article: https://simonwillison.net/2025/Apr/26/unauthorized-experiment-on-cmv/
Übrigens hat die #NZZ jetzt auch einen Artikel dazu. Die erste Hälfte scheint inhaltlich an DNIP angelehnt (wie üblich bei der NZZ ohne Erwähnung).
Für mich neu war, dass die Autorenschaft inzwischen eine Kurzversion («Extended Abstract») ihres Papers publiziert haben (Erstellungsdatum laut (fälschbaren) Metadaten: 17. März 2025). Damit haben zumindest die zitierten #Redditors keine Chance mehr, dass ihre Aussagen *nicht* in der Studie berücksichtigt werden.
https://drive.google.com/file/d/1Eo4SHrKGPErTzL1t_QmQhfZGU27jKBjx/view -
Übrigens hat die #NZZ jetzt auch einen Artikel dazu. Die erste Hälfte scheint inhaltlich an DNIP angelehnt (wie üblich bei der NZZ ohne Erwähnung).
Für mich neu war, dass die Autorenschaft inzwischen eine Kurzversion («Extended Abstract») ihres Papers publiziert haben (Erstellungsdatum laut (fälschbaren) Metadaten: 17. März 2025). Damit haben zumindest die zitierten #Redditors keine Chance mehr, dass ihre Aussagen *nicht* in der Studie berücksichtigt werden.
https://drive.google.com/file/d/1Eo4SHrKGPErTzL1t_QmQhfZGU27jKBjx/viewUnd natürlich darf in der NZZ auch ein Zitat von #ErnstFehr nicht fehlen, dem Liebling des Verlegerverbands.
(Für die Interessierten: DNIP hatte vor zwei Jahren die Auftragsstudie des Verlegerverbands bei Ernst Fehr kritisiert.)
https://dnip.ch/2023/03/18/das-irrefuehrende-zitat-von-ernst-fehr-zu-leistungsschutz-und-stabilitaet-der-schweiz/
https://dnip.ch/2023/03/23/kritische-analyse-der-fehr-studie-zur-link-steuer/ -
Und natürlich darf in der NZZ auch ein Zitat von #ErnstFehr nicht fehlen, dem Liebling des Verlegerverbands.
(Für die Interessierten: DNIP hatte vor zwei Jahren die Auftragsstudie des Verlegerverbands bei Ernst Fehr kritisiert.)
https://dnip.ch/2023/03/18/das-irrefuehrende-zitat-von-ernst-fehr-zu-leistungsschutz-und-stabilitaet-der-schweiz/
https://dnip.ch/2023/03/23/kritische-analyse-der-fehr-studie-zur-link-steuer/Natürlich wurde auch der DNIP-Artikel regelmässig nachgeführt. So antwortete(n) die Autor:innen, dass sie keine Fragen mehr beantworteten.
Alles liefe nur noch über die #UZH-Medienstelle. Aber diese hat bisher noch nicht inhaltlich auf die DNIP-Fragen von gestern reagiert.
-
Natürlich wurde auch der DNIP-Artikel regelmässig nachgeführt. So antwortete(n) die Autor:innen, dass sie keine Fragen mehr beantworteten.
Alles liefe nur noch über die #UZH-Medienstelle. Aber diese hat bisher noch nicht inhaltlich auf die DNIP-Fragen von gestern reagiert.
@angelamueller zur Undercover-Reddit-Manipulation von #UZH-Forschenden:
«Gerade, wenn es um sensitive Bereiche geht und gerade, wenn dazu Vertrauensräume von unwissenden Personen genutzt werden, sollte sehr umsichtig vorgegangen werden.»
-
@angelamueller zur Undercover-Reddit-Manipulation von #UZH-Forschenden:
«Gerade, wenn es um sensitive Bereiche geht und gerade, wenn dazu Vertrauensräume von unwissenden Personen genutzt werden, sollte sehr umsichtig vorgegangen werden.»
Vor zwei Stunden hat die Medienstelle der #UZH bestätigt, dass die #Reddit-Studie über die #Ethikkommission der Philosophischen Fakultät lief:
«Im April 2024 wurde der Ethikkommission der Philosophischen Fakultät ein Antrag für die Begutachtung eines Forschungsvorhabens vorgelegt, welches das Potential von Künstlicher Intelligenz zur Verringerung der Polarisierung im wertebasierten politischen Diskurs untersuchen wollte.»
Die ganze Stellungnahme im #DNIP-Artikel-Anhang:
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-Zuerich -
Vor zwei Stunden hat die Medienstelle der #UZH bestätigt, dass die #Reddit-Studie über die #Ethikkommission der Philosophischen Fakultät lief:
«Im April 2024 wurde der Ethikkommission der Philosophischen Fakultät ein Antrag für die Begutachtung eines Forschungsvorhabens vorgelegt, welches das Potential von Künstlicher Intelligenz zur Verringerung der Polarisierung im wertebasierten politischen Diskurs untersuchen wollte.»
Die ganze Stellungnahme im #DNIP-Artikel-Anhang:
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-Zuerich«In ihrer Stellungnahme zum Projekt wies die Ethikkommission der Philosophischen Fakultät die Forschenden darauf hin, dass die besagte Studie für die Kommission die grösste Herausforderung darstelle und daher a) der gewählte Ansatz stärker begründet werden sollte, b) die Teilnehmer so weit wie möglich informiert werden sollten und c) die Regeln der Plattform vollständig befolgt werden sollten.»
Die Verantwortung zur Umsetzung liege bei den Forschenden.
#UZH #Reddit #DNIP
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-Zuerich -
«In ihrer Stellungnahme zum Projekt wies die Ethikkommission der Philosophischen Fakultät die Forschenden darauf hin, dass die besagte Studie für die Kommission die grösste Herausforderung darstelle und daher a) der gewählte Ansatz stärker begründet werden sollte, b) die Teilnehmer so weit wie möglich informiert werden sollten und c) die Regeln der Plattform vollständig befolgt werden sollten.»
Die Verantwortung zur Umsetzung liege bei den Forschenden.
#UZH #Reddit #DNIP
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-Zuerich«Aufgrund der Ereignisse will die #Ethikkommission […] in Zukunft noch verbindlichere Empfehlungen gegenüber Wissenschaftler:innen formulieren und insbesondere die Regeln der Communities der Plattformen, auf denen experimentelle Studien durchgeführt werden, genauer im Blick haben.
Die zuständigen Stellen an der #UZH haben Kenntnis der Vorfälle und werden diese nun im Detail aufarbeiten und die entsprechenden Beurteilungsprozesse kritisch prüfen.»
#Reddit #DNIP
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-Zuerich -
«Aufgrund der Ereignisse will die #Ethikkommission […] in Zukunft noch verbindlichere Empfehlungen gegenüber Wissenschaftler:innen formulieren und insbesondere die Regeln der Communities der Plattformen, auf denen experimentelle Studien durchgeführt werden, genauer im Blick haben.
Die zuständigen Stellen an der #UZH haben Kenntnis der Vorfälle und werden diese nun im Detail aufarbeiten und die entsprechenden Beurteilungsprozesse kritisch prüfen.»
#Reddit #DNIP
https://dnip.ch/2025/04/28/reddit-user-mit-ki-bots-getaeuscht-das-fragwuerdige-experiment-der-universitaet-zuerich/#Update-2942025-um-10-42-Stellungnahme-der-Universitaet-ZuerichWir haben weitergegraben. Indizien gefunden, mit Leuten gesprochen. Mit einem der Studienautoren gemailt. Einen anderen mit hoher Wahrscheinlichkeit identifiziert und um ein Statement gebeten.
Die Forschenden und ihre Unis wissen spätestens seit Montag darüber. Und wissen, dass sie Spuren hinterlassen haben. Wieso übernehmen sie nicht die Kontrolle über die Kommunikation und äussern ihren Standpunkt?
#Reddit #KI #CMV #ChangeMyView
https://dnip.ch/2025/05/01/unautorisiertes-reddit-ki-cmv-experiment-verdaechtiges-institut-uzh/ -
Wir haben weitergegraben. Indizien gefunden, mit Leuten gesprochen. Mit einem der Studienautoren gemailt. Einen anderen mit hoher Wahrscheinlichkeit identifiziert und um ein Statement gebeten.
Die Forschenden und ihre Unis wissen spätestens seit Montag darüber. Und wissen, dass sie Spuren hinterlassen haben. Wieso übernehmen sie nicht die Kontrolle über die Kommunikation und äussern ihren Standpunkt?
#Reddit #KI #CMV #ChangeMyView
https://dnip.ch/2025/05/01/unautorisiertes-reddit-ki-cmv-experiment-verdaechtiges-institut-uzh/Es sollte folgendes passieren:
1️⃣ Die Forschenden sollten dazu stehen.
2️⃣ Wenn sie nicht dazu stehen wollen, wieso haben sie die Forschung dann gestartet? Weil das Ziel von Forschung ja meist die Publikation der Ergebnisse ist. Und spätestens dann ist es öffentlich.
3️⃣ Es sollten auch in der Schweiz klare Regeln für Forschung mit Plattformen geben.
4️⃣ Die Ethikpraxis muss verbessert werden
5️⃣ Die Schweiz braucht verbindliche Transparenz für KI-ForschungMehr im #DNIP-Artikel
https://dnip.ch/2025/05/01/unautorisiertes-reddit-ki-cmv-experiment-verdaechtiges-institut-uzh/ -
Es sollte folgendes passieren:
1️⃣ Die Forschenden sollten dazu stehen.
2️⃣ Wenn sie nicht dazu stehen wollen, wieso haben sie die Forschung dann gestartet? Weil das Ziel von Forschung ja meist die Publikation der Ergebnisse ist. Und spätestens dann ist es öffentlich.
3️⃣ Es sollten auch in der Schweiz klare Regeln für Forschung mit Plattformen geben.
4️⃣ Die Ethikpraxis muss verbessert werden
5️⃣ Die Schweiz braucht verbindliche Transparenz für KI-ForschungMehr im #DNIP-Artikel
https://dnip.ch/2025/05/01/unautorisiertes-reddit-ki-cmv-experiment-verdaechtiges-institut-uzh/Zwei Updates seit Publikation des Artikels:
1️⃣ Programmkomitee der Konferenz bestätigt, dass das Paper von der Autorenschaft zurückgezogen wurde. Und zwar schon vor dem grossen Shitstorm vom Wochenende.
2️⃣ Die Autoren schreiben in der Einreichung an die Konferenz, dass das Vorgehen von der Ethikkommission «approved» gewesen sei. Passt nicht zur Aussage Medienstelle.
Beides wirft Fragen auf, die wir hoffentlich bald von den Forschenden selbst beantwortet bekommen.
-
M monkee@chaos.social shared this topic
