2y ago

Reddit scheint sich hinter den Kulissen zu bemühen, die Auswirkungen der Migration zu begrenzen. Schadensbegrenzung: ChatGPT-Bots spammen pro-admin, astroturfed Kommentare

Beispiele von ChatGPT-generierten Posts:

https://web.archive.org/web/20230612080823/https://i.imgur.com/Aw8JUga.png

https://web.archive.org/web/20230612080827/https://i.imgur.com/0seHYei.png

https://web.archive.org/web/20230612080828/https://i.imgur.com/Q8Pl2Ms.png

https://web.archive.org/web/20230612080830/https://i.imgur.com/IRAug6a.png

https://web.archive.org/web/20230612080832/https://i.imgur.com/N88AxJx.png

https://web.archive.org/web/20230612080858/https://i.imgur.com/Ar8P95B.png

https://web.archive.org/web/20230612080526/https://i.imgur.com/4e9jO7P.jpg

Crossgeposted von: https://lemmy.world/post/1044141

Apologies if this is a repost. They’re scared lol.
https://www.teddit.net/r/Save3rdPartyApps/comments/14q12g7/subreddits_are_starting_to_see_spam_from/

Reddit Migration @kbin.social

fivezero @lemmy.world

2y ago

Reddit seems to be scrambling behind the scenes to try and limit the effects of the migration. Damage control: ChatGPT bots are spamming pro-admin, astroturfed comments

110 comments

Es ist echt erstaunlich, wie eloquent und realistisch ChatGPT schreibt aber wie eindeutig erkennbar ist, dass es sich um ein KI-geschriebener Text handelt.
- Die Behauptung, dass KI-geschriebene Texte leicht zu identifizieren sind, ist nicht länger zutreffend. Mit den Fortschritten in der Künstlichen Intelligenz, insbesondere im Bereich des Natural Language Processing, haben sich KI-Modelle wie GPT-3 erheblich verbessert und sind in der Lage, Texte zu generieren, die von Menschen verfasst zu sein scheinen. Moderne KI-Modelle können komplexe Strukturen, Stile und Kontexte erkennen und nachahmen. Natürlich gibt es immer noch Fälle, in denen KI-Texte erkennbar sind, insbesondere wenn bestimmte Fehler auftreten oder wenn es sich um spezialisierte Fachbereiche handelt. Dennoch ist es heutzutage eine Herausforderung, KI-geschriebene Texte eindeutig von menschlichen Verfassern zu unterscheiden.
  
  Bitte sag mir, dass die Antwort KI generiert ist. So hört sie sich zumindest an ;D
  
  Ich lese Texte von ChatGPT immer in der Tonlage von Issac aus The Orville
  
  Geh nach Hause, du Bot! ;)
  
  If I am reading Google Translate's English translation of your post, am I reading human authored text or AI authored text?
- Ich finde es schön, dass es unter anderem daran zu erkennen ist, dass Rechtschreibung und Zeichensetzung fehlerfrei sind.
  Sehr deutlich wird es aber auch durch die recht konsequente Einhaltung der Argumentationsstruktur (These, Begründung, Beispiel, Rückbezug zur These), die außer in Musteraufsätzen von Deutschlehrer*innen kaum jemals durchgehalten wird.
  
  Ja, das ist mir auch schon aufgefallen. Jede Antwort folgt perfekt der Struktur einer klassischen Erörterung. Deswegen ist es wahrscheinlich auch beim Fälschen von Schulaufsätzen so beliebt, dafür ist es wie gemacht.
- Hinweis: Nur, weil die gerade im Umlauf befindlichen KIs langwierig darauf getrimmt wurden, so zu antworten. Ihnen diese abwartend-"neutrale" Formulierung beizubringen, so dass sie zumindest darauf hinweisen, dass sie eigentlich nur statistisch ermittelten Quatsch ablassen auf den man sich nicht verlassen sollte, hat viel Arbeit gebraucht.
  Lässt man den Schritt weg (vgl. ChatGPT in der Anfangsphase), klingen solche KIs absolut ununterscheidbar wie ein normaler Mensch, weil ihr Korpus ja eben aus genau solchen Unterhaltungen besteht. Das ist sogar die ganze Funktionsweise: So stark nach einem Menschen klingen, dass dabei quasi als Nebenprodukt (manchmal) ein sinnvoller Satz rauskommt.
  Die derzeitige leichte Erkennbarkeit kann mit einem einfachen Update von heute auf morgen dahin sein, auf die muss man sich gar nichts einbilden bzw. kann man sich darauf überhaupt nicht verlassen.
  
  Nach diesem Kommentar habe ich gesucht, danke. Gefühlt verharmlost es die potentientelle Mächtigkeit aktueller und zukünftiger neuronaler Netze erheblich, wenn sich alle KIs immer Mühe geben, „wie eine KI“ zu klingen.
- Es entlarvt sich gerade dadurch, dass es eloquent schreibt. So gut wie niemand schreibt so online.
  
  Echte Menschen erkennt man an den Schreibfehlern, oder daran dass sie den Vorposter beleidigen... du Lappen!
- Mit Ansage kann man es leicht erkennen, wenn es dich in der freien Wildbahn erwischt, kann es schon schwieriger werden.
Ich hoffe, dass potentielle und besteheend Werbekunden das auch mitbekommen. Wenn reddit die Website systematisch mit Bots, die sich als User ausgeben, unterwandert, dann müssen die Werbegebühren deutlich nach unten angepasst werden.
- Musk hat auch ca. 2 Mrd. Umsatz bei der Werbung verloren seit seiner Übernahme, hält ihn ja nicht davon ab weiter irgendwelchen Mist zu machen.
  
  Musk ist aber eine ganz besondere Art von bescheuert. Spez versucht Reddit so profitabel wie möglich zu machen. Das Ziel wird von ihm auch (größtenteils) logisch und direkt verfolgt.
  Musk zieht ne Linie und schaut was dabei rauskommt.
  
  Musk ist aber auch der reichste Mensch der Welt mit literally dem gleichen Hintergrund wie Mac Moneysac.
  Spez ist nur der CEO eines nicht profitablen Social Media Unternehmens. Der kann sich definitiv keine Verluste in der Höhe leisten.
Anscheinend ist Reddit nicht nur unfähig sondern auch inkompetent!
- Always has been
- Das ist was Panik um Geld/Werbeeinnahmen und eine schlechte Führungsetage produziert
  
  Müsste es nicht eine ziemlich negative Auswirkungen auf den Wert des Unternehmens haben, wenn offensichtliche bot Nutzer Traffic generieren?
- Was gibt's sonst noch neues?
Früher hat man die ja Jubelperser genannt. Sind das dann Jubelroboter?
Habe gestern mal geschaut ob meine Comet app noch funktioniert weil ich neugierig war und sie funktioniert wohl noch. Habe dann mal ein bisschen herum gescrollt und was soll ich sagen? Massenweise Reposts, über die sich auch beschwert wird. Dann noch (und das ist in der Menge wirklich neu) überall Typos, die Nachweislich für mehr Interaktionen sorgen, weil Leute und besonders Redditoren gerne OP korrigieren, auch wenn man den Titel nicht mehr ändern kann. Und haufenweise Meme-Kommentare, die 1 zu 1 copy/paste sein müssen.
Nicht, dass es hier keine ordentliche Menge Bots geben wird, aber bei Reddit sieht es gewollt aus. Es ist ziemlich armseelig.
- überall Typos, die Nachweislich für mehr Interaktionen sorgen
  armseelig
  Hmm...
  
  armseelig können wir als Wortwitz durchgehen lassen
- das ganze reddit wird sehr bald zu /r/subredditsimulator
Erinnert mich an die Episode von Jamie Oliver als er Schulkindern zeigt wie Chicken Nuggets gemacht werden um sie abzuschrecken, sie aber am Ende doch noch alle Bock drauf haben: den meisten Reddit-Usern wird es egal sein dass sie mit Bots interagieren.
Sie wollen auf der einen Seite mit Links beworfen werden damit ihnen nicht langweilig wird und auf der anderen Seite wollen sie Karmapunkte für ihre Quatschkommentare. Ob das nun KIs, Redditangestellte oder "echte" User machen ist da einerlei.
- Ich kam um dies zu sagen. Ich wünschte, ich könnte mehr als einmal hochwählen. Danke für das Gold, freundlicher Fremder.
- Unwahrscheinlich. So etwas in der Breite zu erstellen ist nicht so einfach wie du dir das eventuell vorstellst. Erstens müssen die Kommentare von ChatGPT gelesen und verstanden werden (1 API request), dann bewertet werden ob etwas pro/contro Reddit gesagt wird (1 API request), dann eine entsprechende Response generiert werden (1 API request). Also 3 API requests pro Kommentar. Und auch wenn es einfach wäre, kostet doch jeder Zugriff auf GPT-3.5 oder GPT-4 via OpenAI's API Geld. Skripten via ChatGPT kann zu einem Ban führen.
  
  Nach erneutem Nachdenken glaube ich dass man das billiger lösen kann indem man verschiedene Kommentare in einem API request zusammenfasst und dann GPT anweist die Ziel-Kommentare herauszufiltern. Dann kann man das an eine andere Komponente weiterleiten und die entsprechenden Antworten generieren lassen. Es stimmt also, dass so etwas konzeptionell sicher einfach zu erstellen ist (ich bin ja schließlich auch darauf gekommen wie man so etwas baut), aber so ein Unterfangen ist sicher nicht an einem Nachmittag umgesetzt.
This is a German thread and I speak Spanish which is the same as nothing but this is something I didn't know. I believe it, after all ChatGTP is Reddit The Bot.
Tja… gibt es eigentlich c/tja? Edit: ja! https://feddit.de/c/tja
- !tja@feddit.de soweit ich weiß sxhon
Werter Urheber. Dürfte ich das ganze so auf r/de einreichen? Ich habe zwar meinen Account gelöscht, hatte mir aber irgendwann mal einen Wegwerfaccount gemacht, der unter den Namen inconspicuoushuman oder so unter passenden Kommentaren satirisch überzeichnet darauf hingewiesen hat, dass er bestimmt kein Bot sei. Falls ich mich noch an die Logindaten erinnere wäre der vermutlich perfekt. Ich würde den Text jedoch einfach kopieren und nicht auf diesen Thread verlinken, wenn das in Ordnung ist, da ich vermute, dass man derzeit mit feddit links schneller im Fadenkreuz steht als ohnhin schon.
- Bin nicht der Urheber, aber wärst du so nett, dort den Link auf Feddit zu posten? Dann hätten die Leute dort auch gleich eine Handlungsempfehlung und wenn sie ihn löschen, spricht das dann eben für sich.
  
  Dies ist der Weg
Wieso haben sie sich jetzt die Bots gespart, die auf die Bots antworten und die Posts up voten? So ist das ja auch nur wieder halb umgesetzt.
Wir sollten einen Sticky Thread mit den lustigen Beispielen machen.
Das is aber unglaublich dumm...
Heilige Scheiße! Ein paar von denen habe ich sogar in der freien Wildnis gesehen! Dachte nur nicht an Bots, sondern an low quality Copypasta Trolling.
Lustig, wie manche noch schreiben
ultimately it is up to the mods and community to decide
Gerade solche Mod- & Communityentscheidungen haben die Admins ja zuletzt aktiv bekämpft.
Wie armselig kann man sein? Die Seite ist zum Scheitern verdammt.
Das könnte tatsächlich nur Zufall sein. r/programming wurde schon vor der API Ankündigung von ChatGPT Bots überrannt. Ich kann mir gut vorstellen, dass da einfach jemand ein paar Bots losgelassen hat, und die eben auch unter den Boykott Posts geantowrtet haben.
Wow vielleicht ist an der dead internet theory ja wirklich etwas dran lol
fremdschäming intensiviert sich
Oh Gott, wie lustig ist das denn ... die Texte klingen wirklich wie eine Präsentation aus der Schule.
- Traurig nur dass sie nicht auf reddit können um zu fragen wie das richtig geht :(
Wer mag es nicht wenn die Seite von Bots überlaufen wird?
Meine Joey App funktioniert auch noch, aber es ist deutlich zu sehen das die Qualität der Post extrem nachgelassen hat!
- Ich lese öfter dass Joey noch funktioniert. Kann es vielleicht sein, dass der Dev dermaßen abwesend ist nichts mitbekommt und demnächst eine saftige API nutzungsrechnung von Reddit im Briefkasten hat?
  
  Ich dachte, reddit hätte die Umsetzung verpeilt / verschoben / keine Eier.
  
  Ich habe noch Narwhal, das funktioniert auch noch. die app gibts schon ne Weile nicht mehr im AppStore. Es wundert mich tatsächlich ein wenig wie Reddit diesen api change umsetzt.
Und dann die Werbung in deren App... ich sehe oft: "Hier könnte ihre Werbung stehen". Haha.
Uppsie würde ich mal sagen :D
- Zumindest in der Anzeige hier sind das die identischen Zeichen, U+201D. Und "Alle außer Apple machen's falsch" musst du etwas erläutern.
  
  klick mal auf den "quelle anzeigen" knopf, da siehst du es.
Hier ein neues Exemplar, welches aufgetaucht ist: https://i.imgur.com/4sIiHZ6.jpg
- Wie unfassbar schlecht 😂😂😂

110 comments