Umgang mit ChatGPT und co im dfde

[TRex]

Heins (seines Zeichens Neuling im dfde, zumindest dem Postcounter und Registrierungsdatum nach, hat also vielleicht die bisherigen Diskussionen nicht mitbekommen oder bewusst einen neuen Account erstellt, um seine Reputation nicht zu beschädigen) beantwortete die Frage mit ChatGPT (relativ offensichtlich, dem Stil nach - zumindest für jemanden, der es kennt).

Klingt so als hälst du @Heins für einen Menschen,
vielleicht hat sich die KI ja hier selbst angemeldet um zu testen wie Menschen auf solche Posts reagieren und so ihre Ausdrucksweise dahingehend zu verfeinern.
Also learning by doing ...

Nimm da mal noch meinen letzten Satz dahinter mit: es ist nicht notwendigerweise ein ehrlich am Diskurs interessierter Anwender (ob bot, bezahlter Spammer oder Sockenpuppe ist für die weitere Betrachtung seines Beitrags irrelevant), aber sein Beitrag ist nur ein Beispiel, wie schlecht erzogene Mitglieder mit Tools wie ChatGPT umgehen könnten. Es gibt viele Abstufungen in Richtung einer verbesserten Version seines Beitrags - ich weiß aber nicht, ob meine Beispiele im Kopf jetzt für die Diskussion hilfreich sind, oder ob wir lieber noch ein paar beschreibende Kriterien/Argumente sammeln.

[michaa7]

...als KI erkennbar ist

Das Hervorgehobene ist für mich in meiner Rolle als Mod der Knackpunkt. Eine KI-Antwort zu bewerten (sowohl sie als solche zu erkennen, als auch ihren inhaltlichen Wert zu beurteilen) ist mit relativ viel Aufwand verbunden - verglichen mit den Beiträgen eines natürlichen Users.
...

Niemand erwarte hellseherische Fähigkeiten von irgendjemandem. Wie jemand oben schrieb ist zuerst der Poster selbst für ein Zitat verantwortlich zu machen. Natürlich müssten Nutzer KI als solche kennzeichnen. Tun sie es nicht und man bemerkt es dann doch droht ihnen im Wiederholungfall die Sperrung.

[TRex]

Tun sie es nicht und man bemerkt es dann doch droht ihnen im Wiederholungfall die Sperrung.

Aber da hast du dann doch die hellseherischen Fähigkeiten: soll ich dir jetzt unterstellen, dass du diesen Beitrag (so unwahrscheinlich das auch ist) mit ChatGPT erstellt hast? Ich kann das am Ende nicht beweisen, analog zu den Lehrern, die das ihren Schülern nicht nachweisen können (die Debatte zur Erkennung findest du im ersten verlinkten Thread).

[michaa7]

Tun sie es nicht und man bemerkt es dann doch droht ihnen im Wiederholungfall die Sperrung.

Aber da hast du dann doch die hellseherischen Fähigkeiten: ...

Nein. Ich erwarte nicht dass jemand KI hellseherisch erkennt. Aber in den womöglich wenigen Fällen in denen es offensichtlich wird (weil es zugegeben wird, jemand die Quelle sucht und findet ....) haut man dem Poster auf die Finger. Einigen wir uns, das bleibt die Ausnahme und löst das Problem nicht.

Insgesamt scheint es jedoch eine Tendenz dazu zu geben zu sagen: Wenn überhaupt KI dann nur als solche gekennzeichnet (und in der Verantwortung des Posters).

Das stellt nun keine handhabbare Regelung zum Umgang mit Fehlverhalten in dieser Sache dar, gibt aber als Forenregel jedem User zumindest einen Orientierungsrahmen oberhalb von "hab' ich nicht gewußt".

[Livingston]

Man muss ja nicht für alles ein Gesetz schaffen. Aber die Aufforderung, bei "KI"-Nutzung nochmal über den Output zu schauen, ist doch wohl annehmbar. Nicht zu vergessen: Es gab schon immer Leute, die blind per Copy-n-Paste Dummfug verbreitet haben, dafür bedarf es keiner "KI".
Am Ende geht's doch um eine gute Forenkultur, und die kann man nicht erzwingen. Aber man kann darauf hinweisen und es einfordern.

EDIT: micha war schneller. Ich denke, wir meinen das Selbe.

[michaa7]

[dasebastian]

Ich sehe hier mit KI null Mehrwert für das Forum. Deshalb aus meiner Sicht raus damit. Kann ja jeder selbst.

Meine 2ct.

[Meillo]

Ich fasse den Diskussionsstand, so wie ich ihn derzeit wahrnehme, mal zusammen:

1) Wir sind uns einig, dass KI-Inhalte als solche gekennzeichnet sein muessen. (-> Aufnahme in die Forenregeln.)

2) Wir scheinen uns einig zu sein, dass *reine* KI-Antworten (also wenn der Post quasi nur aus der KI-Antwort besteht, auch wenn diese als solche gekennzeichnet ist) unerwuenscht sind. Die Tendenz scheint mir zu einem Verbot solcher Posts zu gehen. (-> Aufnahme in die Forenregeln.)

3) Unklar ist mir, wie die Meinung zu Posts ist, die KI-Antworten zitieren und sie inhaltlich bewerten und diskutieren. Sollen die auch verboten werden (dann braeuchte es keine Regel fuer Fall (1), weil dann gar keine KI-Inhalte erlaubt waeren), oder ist das eine Form, die akzeptiert waere?

Spiegelt das eure Wahrnehmung der Diskussion wider?

Wie ist die Meinung zu (3)?


Zur Umsetzung: Wir Mods wuerden dann wohl bei Verstoessen gegen diese Regeln in aehnlicher Weise agieren wie bei Spam und Werbung: in schlimmen offensichtlichen Faellen mit Sperren, in leichten Faellen mit Hinweisen und Ermahnungen, in unentscheidbaren Faellen erstmal nur beobachtend.

[dasebastian]

Zu 3) das würde ich anders sehen, wenn jemand KI zur Recherche benutzt, sich dann aber Arbeit antut und das gut aufbereitet, dann wäre das für mich eine vollumfängliche Antwort, ich hätte kein Problem damit.

[mn77de]

1. 
2. Ja, wobei manchmal ein reines Zitat die beste Antwort sein kann.
3. Ich glaub dieser Fall sollte zulässig sein. Alle KI-Inhalte zu verbieten scheint mir einerseits unmöglich umzusetzen, andererseits irgendwie nicht zeitgemäß.
   Ob wir wollen oder nicht, wir werden mit KI-Inhalten konfrontiert werden, weshalb es wichtig ist zu lernen damit umzugehen.
   
   Ein möglicher Fall könnte sein:
   "XYZ meint dies und jenes, ich weiß nicht recht, was meint ihr dazu?"
   XYZ = ["Mein Kumpel", "Wikipedia", "ChatGPT", "Irgendein Influencer", ... ]
   
   Ein Forum ist nun mal eine Diskussions-Plattform.

[mn77de]

Zu 3) das würde ich anders sehen, wenn jemand KI zur Recherche benutzt, sich dann aber Arbeit antut und das gut aufbereitet, dann wäre das für mich eine vollumfängliche Antwort, ich hätte kein Problem damit.

Sehe ich genauso

[heisenberg]

Ich sehe hier mit KI null Mehrwert für das Forum. Deshalb aus meiner Sicht raus damit. Kann ja jeder selbst.

2) Wir scheinen uns einig zu sein, dass *reine* KI-Antworten (also wenn der Post quasi nur aus der KI-Antwort besteht, auch wenn diese als solche gekennzeichnet ist) unerwuenscht sind. Die Tendenz scheint mir zu einem Verbot solcher Posts zu gehen. (-> Aufnahme in die Forenregeln.)

Eine Suchmaschine kann eigentlich auch jeder benutzen. Aber faktisch hapert's da doch mitunter sehr stark. Ich denke auch sehr vielen ist *GPT und Konsorten einfach nicht geläufig. Deswegen finde ich gerade bei Standardfragen ein Full-Quote-Only von *GPT-Antworten sehr hilfreich, weil es die ganze Formulierungsarbeit abnimmt. Ich würde das da als Win-Win sehen: Sehr simple Anfängerfragen können so mit sehr geringem Aufwand sehr detailliert beantwortet werden.

Natürlich sollte schon geprüft werden, ob eine ChatGPT - Antwort so grob PI * Daumen passt. Gerade bei simplen Fragen ist die Wahrscheinlichkeit sehr hoch, dass das zu 100% passen kann. Im Gegensatz dazu ist die Wahrscheinlichkeit bei komplexen Fragestellungen sehr hoch, dass das absolut nutzlos ist.

[michaa7]

Ich fasse den Diskussionsstand, so wie ich ihn derzeit wahrnehme, mal zusammen:

1) Wir sind uns einig, dass KI-Inhalte als solche gekennzeichnet sein muessen. (-> Aufnahme in die Forenregeln.)

Das erscheint mir nahezu Allgemeinkonsens. Ich denke aber man sollte diese Regel ((KI) bitte kennzeichnen) prominent als Einzeiler in den Forenheader einbauen ... für längere Zeit, weil kein User erstmal in das Forenregelwerk schaut bevor er postet, die KI Problematik jedoch einen massiven Eingriff in die Kommunikationskultur darstellt.

2) Wir scheinen uns einig zu sein, dass *reine* KI-Antworten (also wenn der Post quasi nur aus der KI-Antwort besteht, auch wenn diese als solche gekennzeichnet ist) unerwuenscht sind. Die Tendenz scheint mir zu einem Verbot solcher Posts zu gehen. (-> Aufnahme in die Forenregeln.)

Ich verstehe die Intension und Zielrichtung und stimme grundsätzlich damit überein. Ich wollte dies aber dennoch mit Augenmaß und nicht schablonenmäßig angewendet sehen: Das kommt immer mal wieder vor dass man irgendwo eine recht eindeutige Antwort auf eine Frage findet, aber weder Zeit noch Nerv hat das jetzt auch noch angemessen zu verpacken und das einfach kommentarlos zitiert. Das ist nicht der Idealfall, aber so ist esw eben manchmal. Aber es stimmt auch, für ein "(KI)" als Kennzeichnung sollte es immer reichen.

3) Unklar ist mir, wie die Meinung zu Posts ist, die KI-Antworten zitieren und sie inhaltlich bewerten und diskutieren. Sollen die auch verboten werden (dann braeuchte es keine Regel fuer Fall (1), weil dann gar keine KI-Inhalte erlaubt waeren), oder ist das eine Form, die akzeptiert waere?

Ähm, was ist nochmal der Unterscheid zwischen 1) und 3), außer der unterschiedlichen Wortwahl?

[Meillo]

Ein möglicher Fall könnte sein:
"XYZ meint dies und jenes, ich weiß nicht recht, was meint ihr dazu?"
XYZ = ["Mein Kumpel", "Wikipedia", "ChatGPT", "Irgendein Influencer", ... ]

Das finde ich ein gutes Beispiel, denn dafuer sollte ein Forum natuerlich da sein.


Nachtrag:

Wenn ein KI-Zitat teil der Frage ist, scheint es mir unproblematisch zu sein. Ich glaube, wir diskutieren hier nur ueber KI-Texte als Antworten. Vielleicht ist die relevante Unterscheidung auch, ob der KI-Text in der Antwort als Quelle genutzt wird (wie irgendwelche Doku und die Wikipedia) oder ob der KI-Text die Antwort selbst sein soll. Letzteres ist wohl der Fall um den es hier eigentlich geht.

[reox]

Mir hat ChatGPT letztens geantwortet mit "Bitte im Handbuch der Software nachlesen"... Also wenn mir jetzt sogar das RTFM sagt, erledigt sich das Thema ja eh von alleine

3) Unklar ist mir, wie die Meinung zu Posts ist, die KI-Antworten zitieren und sie inhaltlich bewerten und diskutieren. Sollen die auch verboten werden (dann braeuchte es keine Regel fuer Fall (1), weil dann gar keine KI-Inhalte erlaubt waeren), oder ist das eine Form, die akzeptiert waere?

Das ist ja ca so wie wenn jemand von irgendeiner Quelle zitiert. Man sollte sich ja bloß nicht der Illusion hingeben, dass alles außer LLM immer die Wahrheit sprechen.

Nachdem Quellen eigentlich immer gekennzeichnet werden sollten, braucht es hier mMn keine extra Regel - also im Prinzip auch nicht Regel (1) und (2). Allerdings macht es schon Sinn das nochmal explizit zu definieren.

[Livingston]

Ähm, was ist nochmal der Unterscheid zwischen 1) und 3), außer der unterschiedlichen Wortwahl?

Bei 3 haben wir es mit "KI"-Antworten (als Teil) einer Recherche zu tun, also fundierter Suche und anschließender Bewertung des Menschen, der es postet.

[michaa7]

Ähm, was ist nochmal der Unterscheid zwischen 1) und 3), außer der unterschiedlichen Wortwahl?

Bei 3 haben wir es mit "KI"-Antworten (als Teil) einer Recherche zu tun, also fundierter Suche und anschließender Bewertung des Menschen, der es postet.

Das ist doch aber nur ein gar nicht soooo spezieller Spezialfall von 1)

[Livingston]

Ich hab's so verstanden, dass 1 im Blindflug gepostet wird, 3 erst nach Nutzung der MI (Menschlichen Intelligenz).

[Meillo]

Meine 1. Aussage war nur die generelle Feststellung, dass wir uns alle einig sind, dass KI-Inhalte als solche gekennzeichnet sein muessen.

Das ist eigentlich eine Selbstverstaendlichkeit (weil alle fremden Inhalte als solche gekennzeichnet sein muessen), aber wie die Praxis leider zeigt, machen das manche User trotzdem nicht. Darum sollte das nochmal explizit in den Forenregeln stehen, denke ich.

Ich habe das nur der Vollstaendigkeit halber aufgefuehrt.


An verschiedenen Arten von Posts mit KI-Inhalten sehe ich derzeit diese:

a) Der Post enthaelt nur KI-Inhalte ohne Kennzeichnung -- das waere nach (1) verboten

b) Der Post enthaelt nur KI-Inhalte mit Kennzeichnung -- das waere nach (2) unerwuenscht und ggf. auch verboten

c) Der Post enthaelt eine Antwort, die hauptsaechlich aus KI-Inhalten besteht, aber der Begleittext macht klar, dass sie inhaltlich geprueft und bewertet wurden -- da sehe ich derzeit noch keine gemeinsame Meinung in der Diskussion

d) Der Post enthaelt KI-Inhalte, die als *Quelle* angefuehrt werden. D.h. der KI-Inhalt ist nicht die Antwort selbst, sondern der Post beschaeftigt sich mit dem KI-Inhalt in einer Weise wie man Manpages, die Dokumentation oder die Wikipedia in Posts anfuehren, kritisch beleuchten und kommentieren wuerde. -- das scheint mir erwuenscht/geduldet zu sein

[TRex]

Wertvoll an d) ist eben, dass es ungefähr so verlässlich ist wie "mein Onkel hat gesagt", und dass nach und nach dann auch alle so lernen können. Mein Onkel hat nämlich keine Ahnung von Linux, oder Computern überhaupt

[reox]

a) Der Post enthaelt nur KI-Inhalte ohne Kennzeichnung -- das waere nach (1) verboten

Man kann auch einsetzen "Der Post enthält kopierte Inhalte ohne Kennzeichnung". Ich finde es gehört sich grundsätzlich nicht einfach irgendwas zu kopieren ohne eine Quelle anzuführen - selbst wenn der Text Public Domain ist.

b) Der Post enthaelt nur KI-Inhalte mit Kennzeichnung -- das waere nach (2) unerwuenscht und ggf. auch verboten

Ist mMn das gleiche: Selbst wenn sich eine Antwort mit `man xyz` geben lässt, wäre es nett entsprechend Kontext zu geben. Allerdings ist das denke ich immer ein Streitfall und sollte Anlassbezogen entschieden werden.

c) Der Post enthaelt eine Antwort, die hauptsaechlich aus KI-Inhalten besteht, aber der Begleittext macht klar, dass sie inhaltlich geprueft und bewertet wurden -- da sehe ich derzeit noch keine gemeinsame Meinung in der Diskussion

Naja was heißt inhaltlich geprüft und bewertet? Wer bewertet da nach welchen Kriterien?
Ich denke das kann man auch nur im Einzelfall prüfen. Grundsätzlich ausschliessen würde ich es nicht - wozu auch? Gegen was würde sich das richten?
Im Endeffekt muss man ja auch jede Antwort eines Menschen im Forum kritisch betrachten, selbst wenn die Person schreibt sie kennt sich aus und hat das geprüft.

d) Der Post enthaelt KI-Inhalte, die als *Quelle* angefuehrt werden. D.h. der KI-Inhalt ist nicht die Antwort selbst, sondern der Post beschaeftigt sich mit dem KI-Inhalt in einer Weise wie man Manpages, die Dokumentation oder die Wikipedia in Posts anfuehren, kritisch beleuchten und kommentieren wuerde. -- das scheint mir erwuenscht/geduldet zu sein

Ja, sehe ich auch so.

[Livingston]

Die Fälle c) und d) liegen so nahe beieinander, das ich sie nicht auseinanderhalten kann.
Was mir aber in beiden Fällen wichtig ist: Inhaltliche Auseinandersetzung mit dem Inhalt, bevor man postet. Ab dann gilt aber doch das, was ich ohnehin bei jeder Recherche erwarte:

• Stimme ich als Poster zu 100% mit dem Suchergebnis überein, dann ist das meine Position.
  Verbleibt natürlich die Frage, ob die KI nicht besser formuliert, als ich es könnte. Poste ich nun deshalb den KI-Inhalt und werde genau wegen dieser Formulierungen der KI-Nutzung überführt und angeklagt, ist das natürlich blöd. Aber für genau diesen Fall gilt ja das, was wir oben als Fall 1 schon abgehakt haben -> bitte kennzeichnen.
• Stimme ich nicht zu 100% mit einem KI-Ansatz überein (oder meinetwegen auch mit einer klassischen Recherche), dann sollte ich das natürlich ebenfalls kenntlich machen. Schon gar nicht zitiere ich dann blind, wenn ich selbst als Poster etwas am Recherchierten anzumerkeln habe.
• Stimme ich gar nicht überein, kann ich es als Kuriosität oder Lacher unter "Smalltalk" posten - und zwar mit Quelle und Zwinkersmiley.

[michaa7]

...
a) Der Post enthaelt nur KI-Inhalte ohne Kennzeichnung -- das waere nach (1) verboten

b) Der Post enthaelt nur KI-Inhalte mit Kennzeichnung -- das waere nach (2) unerwuenscht und ggf. auch verboten

je nach dem unerwünscht bis verboten -> Ermessensentscheidung

c) Der Post enthaelt eine Antwort, die hauptsaechlich aus KI-Inhalten besteht, aber der Begleittext macht klar, dass sie inhaltlich geprueft und bewertet wurden ...

ok

d) Der Post enthaelt KI-Inhalte, die als *Quelle* angefuehrt werden. D.h. der KI-Inhalt ist nicht die Antwort selbst, sondern der Post beschaeftigt sich mit dem KI-Inhalt in einer Weise wie man Manpages, die Dokumentation oder die Wikipedia in Posts anfuehren, kritisch beleuchten und kommentieren wuerde. -- das scheint mir erwuenscht/geduldet zu sein

[katzenfan]

Du hast damit in der Theorie schon recht, bloss hinkt das Rechtssystem seit einem halben Jahrhundert der wirtschaftlichen und technologischen Entwicklung weit hinterher. ...

In Belangen des Schutzes personen-bezogener Daten a la DSGVO seit 2016 nicht mehr, wenn man KI als eine Form der Automatisierung a la Art 22 DSGVO auffasst; dazu die aktuelle EuGH-Entscheidung zur Schufa-Holding und jene andere EuGH-Entscheidung, der zu entnehmen ist, daß alle EuGH-Entscheidungen bis zu jenem Tag Rückwirkung entfalten, an dem eine vom EuGH ausgelegte Regel in Kraft getreten ist, (gefestigte Rechtsprechung Rechtssache 61-79, Rn. 16, bestätigt durch EuGH C-400/15, Rn. 38). D.h., die rein automatisierte Verarbeitung personen-bezogener Daten ist seit 2016 unionsweit verboten, wenn ... siehe das Zitat aus der Entscheidung zur Schufa-Holding aus dem Beitrag vom 04.01.2024 12:32:33 und die weiteren, nicht zitierten Ausführungen in der Entscheidung.

Wenn man, wie benannt, KI als eine Form der Automatisierung begreift, gelten diese Aussagen freilich auch jetzt schon für KI.

1) Wir sind uns einig, dass KI-Inhalte als solche gekennzeichnet sein muessen. (-> Aufnahme in die Forenregeln.)

Ja.

3) Unklar ist mir, wie die Meinung zu Posts ist, die KI-Antworten zitieren und sie inhaltlich bewerten und diskutieren. Sollen die auch verboten werden (dann braeuchte es keine Regel fuer Fall (1), weil dann gar keine KI-Inhalte erlaubt waeren), oder ist das eine Form, die akzeptiert waere?

Wenn KI klar, bspw., als Zitat mit Quellenangabe gekennzeichnet ist, sollte die Behandlung genauso erfolgen, wie sie bereits mit anderen Zitaten und deren Quellen erfolgt. Es sollte also der Einsatz selbiger möglich sein, als auch die Diskussion des Zitateinhaltes.

Oder?

[hikaru]

KI halluziniert auch Bugreports, wie am Beispiel von curl [1] (gefunden via Golem [2]) zu sehen.
Besonders der Abschnitt "Better crap is worse" stach mir ins Auge, denn er beschreibt in einem anderen Kontext genau das, was ich hier im Thread als Problem von KI-Beiträgen versucht habe darzustellen.

[1] https://daniel.haxx.se/blog/2024/01/02/ ... elligence/
[2] https://www.golem.de/news/open-source-c ... 80862.html