Umgang mit ChatGPT und co im dfde

[TRex]

Ich starte das hier mal als weiteres Thema, weil mir die anderen a) zu sehr zerfasert sind b) einen Titel haben, der meine Intention nicht abdeckt oder c) sich nicht mit dem Problem spezifisch im dfde befassen.

Kurz: wie gehen wir mit dem Werkzeug ChatGPT/Bard/Copilot um? Die Diskussion wurde im Moderatorenbereich bereits angestoßen, wir haben da einige Meinungen gesammelt, auch im Forum gab es einige Meinungsäußerungen (nachdem jemand die Initiative ergriffen hat und alte Antworten mit ChatGPT beantwortet hat, und nach Beschwerde einfach die Quellenmarkierung entfernte...).

Bisherige Diskussions-Threads:

viewtopic.php?t=188638 Woran erkennt man einen von einer KI geschriebenen Beitrag
viewtopic.php?t=188645 KI - Chancen oder Risiken, Fluch oder Segen?

Der neueste Fall von "ich helfe mit KI":

viewtopic.php?t=188733 Empfang von autoreply automatisch ablehnen [EXIM] (das ich hierhin umleite)

Die Diskussion darum, wie wir mit Antworten von ChatGPT verfahren, ist zwar noch offen, aber eine Kennzeichnung wäre wohl das mindeste, analog zu einer Quellenangabe - wenn man etwas offensichtlich nicht selbst erbracht hat.

Alles andere ist in meinem Verständis weiter nichts als ein böswilliges Plagiat und Grund, den Benutzer zu sperren.

Bei diesem Thema bin ich auch nicht so wirklich schlau, ob man dies wirklich nutzen sollte. Da es doch noch extreme Fehler mit sich bringt.

Und da haben wir schon ein paar Ansichten und Geschehnisse in einem Thread

- Heins (seines Zeichens Neuling im dfde, zumindest dem Postcounter und Registrierungsdatum nach, hat also vielleicht die bisherigen Diskussionen nicht mitbekommen oder bewusst einen neuen Account erstellt, um seine Reputation nicht zu beschädigen) beantwortete die Frage mit ChatGPT (relativ offensichtlich, dem Stil nach - zumindest für jemanden, der es kennt). Und seine Antwort nicht also solche kennzeichnet. Akut ist da auch ein Spamverdacht aufgrund der IP, aber das kann auch ein Proxy gewesen sein. Ich würde das aber dennoch als Paradebeispiel stehen lassen, auch wenn der User möglicherweise kein Feedback gibt.
- fischig, der das Werkzeug nicht im Forum haben möchte (nicht, dass er damit allein steht, KP97 hat sich dem direkt angeschlossen)
- SADekay, der darüber lieber noch eine Runde beraten wollte, bevor er eine Entscheidung trifft
- der fiese Moderator, der den Beitrag (nach einem Hinweis) als das markiert hat, was er ist - aber sonst die Kirche im Dorf gelassen hat.

Meine Meinung:

(tl;dr: ich mag keine Hexenjagd auf "KI"-Anwender, bin aber nicht auf Durchzug getrimmt bei der Anwendung und möchte, dass Besucher wie SADekay wissen, wer und was ihnen antwortet).

1. Large Language Models können hilfreich sein, ähnlich wie große Suchmaschinen hilfreich sind, weil sie eine große Datenbasis effizient durchsuchen können (aber: in, out - bei LLM gilt das noch viel mehr als bei Suchmaschinen)
2. Wir sollten lernen, dieses Werkzeug zu verstehen/einschätzen zu können und unseren Verstand weiterhin benutzen. Ich verwende ja auch nicht das Werkzeug "Forum", um im debianforum.de nach der besten Distribution zu fragen (oder doch?). Dazu ist es aber wichtig, ...
3. Die Beiträge eines LLM sind möglicherweise nicht "urheberrechtlich geschützt", wobei es mir im Folgenden nicht um irgendeine Rechtsverbindlichkeit geht, sondern um die Nachvollziehbarkeit: man sollte die Erkenntnisse aus einem LLM als solche erkennen können.
4. Vertrauenswürdigkeit/Einschätzbarkeit: bei dem vergleichbaren Werkzeug "Suchmaschine" komme ich immer wieder auf eine Quelle - offizielle Dokumentation, Paper, blog-Einträge, Forendiskussionen, ... und der erfahrene Web-Anwender weiß, ob er sich mit seiner Frage nach dem besten Tortenguss lieber bei Dr. Oetker, einer bekannten Seite mit redaktionellem Inhalt oder einem Forum informiert (oder allem!), und wie vertrauenswürdig diese Informationen sind.
5. (Fast eher eine Begründung für 3.) "Halluzinationen": LLMs neigen zum "halluzinieren" von Inhalten, wenn die Informationen in der Datenbasis nur spärlich sind (das weiß ich nicht aus der Theorie, sondern der Praxis), und sind entgegen der Kennzeichnung "KI" durch die Medien alles andere als intelligent, und nicht fähig zu logischen Schlussfolgerungen. Das ist in der Tiefe eher etwas für den philosophischen Thread oben (#2), aber man muss davon ausgehen, dass die Antwort (obwohl sie völlig stimmig klingt, zumindest für themenfremde Leser) erfundener Unfug ist. Um (Rufmord abzuwenden und) Schäden zu vermeiden, inkludiert das Sprachmodell bei sensitiven Themen eine Warnung (und ist oft bei direkter Nachfrage eher nicht hilfreich, als zu erklären, wie man Schwarzpulver herstellt). Welche Themen das sind, kontrolliert aber OpenAI.


Habt bitte Nachsicht, dass ich die bisherigen Threads nicht zusammenfasse. Mein Ziel ist, dass am Ende dieses Threads etwas herauskommt, dem feltel zustimmen kann (oder sich zumindest eine Meinung bilden kann, was denn das Forum möchte), sodass wir da zu einem Entschluss kommen. Bleibt bitte freundlich miteinander, auch wenn die Meinungen divergieren. Ein Stimmungbild ist wichtiger als dass jemand am Ende "Recht" behält.

[niemand]

wie gehen wir mit dem Werkzeug ChatGPT/Bard/Copilot um?

IMHO: wegmachen. Wer Antworten von diesen Programmen möchte, kann die selbst fragen. Umkehrschluss: Wer in einem Forum fragt, möchte Antworten von Menschen.

Abgesehen davon: war eigentlich die Copyrightfrage bei Sprachmodellen schon geklärt? Also nicht die Trainingsdaten betreffend, sondern deren Ausstoß: nicht, dass irgendwann ’n Betreiber so einer Software auf die Idee kommt, zu gucken, wo denn die Antworten seines Krams so gepostet worden sind, um dann die Rechnungen zu schreiben …

[MSfree]

Ich bin der Meinung, daß hier im Forum echte Menschen helfen sollen.

"Antworten", die aus irgendeiner KI gepostet werden, haben hier gar nichts zu suchen. Besonders diese Frischanmeldungen, die dann hier ihren Dung absetzen, sind zu löschen und die Konten zu sperren. Spam braucht wirklich kein Hilfesuchender, der sich auf Anworten auch bis zu einem gewissen Grad verlassen können muß. KI-Anworten sind völlig unzuverlässiger Müll, der noch dazu meist am Thema vorbei geht.

[isabena]

Ein wichtiger Grund für mich in diesem Forum aktiv zu sein ist der Kontakt zu anderen Mitgliedern.

Hilfestellungen von erfahrenen Nutzern des Systems sind aus meiner Sicht die beste Möglichkeit,
Probleme in den Griff zu bekommen und zu lernen.
Daher gehören Texte aus ChatGPT überhaupt nicht hierhinein.

Ansonsten stimme ich @niemand, @MSfree, @fischig und @KP97 inhaltlich voll zu.

[whisper]

... nicht, dass irgendwann ’n Betreiber so einer Software auf die Idee kommt, zu gucken, wo denn die Antworten seines Krams so gepostet worden sind, um dann die Rechnungen zu schreiben …

Oh, da hast du einen wunden Punkt erwischt.
Ok, in dem Zusammenhang gebe ich dir auch recht. Also besser nicht.

[KP97]

Ich hab's ja mittlerweile schon an mehreren Stellen gepostet: weg damit!
Aber an @niemands Einwand habe ich auch nicht gedacht. Noch ist das Thema recht neu, aber ich bin fast sicher, daß die Abmahnanwälte schon in den Startlöchern hocken.
Versuchen kann mans ja, es gibt immer wieder genug Dumme, die darauf reinfallen, daß sich die Sache auch rechnet, zumal das ja wohl noch eine Grauzone ist.
Also, wenn das kein Argument für Sebastian Feltel ist...
Wehret den Anfängen, ehe es zu spät ist.

[hikaru]

Ich kippe hier mal einen meiner Beiträge aus dem Mod-Thread ab, weil er auch hier passt:

Was mich an KI-Antworten stört, sind im Wesentlichen zwei Dinge:
1. Sie zu erstellen ist vom Zeitaufwand her praktisch "kostenlos". Sie zu lesen ist es hingegen allein aufgrund des Umfangs nicht, und sie zu bewerten schon gar nicht.
2. Diese Bewertung ist im Gegensatz zu Beiträgen von Usern absolut nötig, und zwar in jedem einzelnen Fall. Bei Beiträgen von Usern kann ich die Bewertung oft auf die Reputation des Users abkürzen (Kernelthema: Antwort von towo? Wird wohl passen; Audioproblem: Antwort von smutbert? Her damit!)

Diese zwingend nötige Bewertung in jedem Einzelfall vornehmen zu müssen stört mich sowohl als User der ein Problem lösen möchte*, als auch als Mod**.
Ich würde daher gern die Arbeit für die Bewertung der KI-Antwort in die Hand der Person(!) zurückgeben, die sie gepostet hat. Ich vermute, dass das nicht realistisch ist, aber im Grunde würde ich gern den KI-Antwortposter dazu verdonnern, am konkreten, eigenen, nachvollziehbaren Beispiel darzulegen, dass die KI-Antwort tatsächlich den Beitrag zur Lösungsfindung des konkreten Themas beiträgt, den sie suggerieren will.
Das würde einerseits die Bewertung vereinfachen, und andererseits die Hürde zur Verfassung solcher Antworten anheben.


*) Mir fehlt die Kompetenz zur Bewertung, sonst hätte ich mein Problem nicht. Und sie mir zu erarbeiten ist genauso aufwendig, wie mir die Problemlösung selbst zu erarbeiten. Folge: Mein Thread ist vom Kosten/Nutzenverhältnis nach einer KI-Antwort bestenfalls ein Nullsummenspiel und ich hätte ihn mir sparen können.
**) Der letztendlich bewerten muss, ob eine Antwort dem Thread dient oder schadet (Spam, schädlicher Ratschlag), spätestens nach einer Meldung.

[katzenfan]

KI sollte nirgendwo dort zum Einsatz kommen, wo es inhaltlich um juristische Fragen geht, wo es oft genug auf den konkreten Sachverhalt ankommt;

KI sollte nirgendwo dort zum Einsatz kommen, wo es um die Verarbeitung personen-bezogener Daten geht;

Umgewidmet auf die Belange des Forums und seines Kernthemas -> Finger weg von KI bei Entwicklung entsprechender Software zur Lösung von Aufgaben, die zur Erledigung von Aufgaben der obigen Bereiche dienen sollen, bzw. könnten.

Über den Rest läßt sich streiten.

Urheberrecht ist zwar auch Unionsrecht, aber das demgegenüber vollständig harmonisierte Verbraucherschutzrecht, (EuGH C-565/22), ebenso; diese vollständige Harmonisierung, die es übrigens auch beim Schutz personen-bezogener Daten hat, (EuGH C-40/17, EuGH C-319/20), führt nicht nur dazu, daß von den Unionsregelwerken, die allein der EuGH auslegen darf, (EuGH C-817/19), abweichende nationale Regeln unzulässig sind, sondern auch dazu, daß das Grundrecht der Union unmittelbar bindend wird, (BVerfG 1 BvR 276/17).

Die Regeln für KI sind unionsseitig noch in der Entwicklung, insofern ist mir nicht bange, daß es Lösungen geben wird, welche die Interessen der Verbraucher/-innen hinreichend schützen.

[GregorS]

Ich sehe das wie MSfree. Ich bin hier, weil ich mit Menschen kommunizieren möchte.

Gruß

Gregor

[heisenberg]

Ich finde [$LLMs] zu manchen Themen hilfreich. Es ist eine Möglichkeit mit wenig Aufwand und gut ausformulierten Erklärungen zu helfen und Menschen die Verwendung von solchen Werkzeugen zur Lösungsfindung nahe zu bringen. Für mich ist das einfach ein weiteres nützliches Werkzeug, dass Menschen in die Lage versetzt Lösungskompetenz zu verbessern. Natürlich muss man mit diesem Werkzeug auch Umgehen lernen und Nutzen und Grenzen wissen.

Bei ChatGPT gibt es eine Sharing-Funktion, mit der man Links generieren kann, die durchgeführte Sitzungen im Browser anzeigen. Das ist extern und hier sind also keine ChatGPT-Inhalte im Forum selbst. Solche Fälle sehe ich rechtlich nicht als problematisch an.

[prox]

Ich bin nicht nur hier gegen den Einsatz von KI. Ich bin für den Einsatz von MI (Menschliche Intelligenz)

Bisher habe ich nur DeppGPT vom Postillion genutzt, um mich ein bisschen durch DeppGPT unterhalten zu lassen. Ansonsten benötige ich irgendeine andere, weltweit bekannte KI, nicht. Die Dinger können z. B. halluzinieren und erfinden auch nicht-existente Quellen, auf die sie sich beziehen, wie ich andernorts mitbekommen habe.

Ablehnen tue ich die weltweit bekannten KIs auch aus Datenschutzgründen. Ich will diese Dinger nicht mit meinen (Meta-) Daten füttern.

Außerdem soll der Strom- und Wasserverbrauch von mindestens den weltweit bekannten KIs enorm sein, so was brauchen wir nun auch nicht, Stichworte immer extremer werdender Klimawandel, Umweltzerstörung, Artensterben.

[katzenfan]

Nachstehende Aussage ist halb-ernst gemeint.

Man hüte sich vor jenem Tag, an dem KI mitbekommt, daß sie vom Menschen genauso veralbert wird, wie sich die Menschen gegenseitig veralbern. (Der Begriff "veralbern" könnte für ein härteres Wort stehen, das hier nicht geschrieben werden soll).

Auch darf man das Risiko in Belangen Mißbrauch von KI durch Menschen nicht unterschätzen.

[michaa7]

- als ich hier das erst mal drüber gestolpert bin fand ich's interessant

- KI muss als solche hier im Forum gekennzeichnet sein

- soweit es copyright Fragen betrifft bin ich zwar der Das-kann-doch-jetzt-wohl-nicht-wessen-auch-immer-Ernst-sein Meinung, realistischerweise gehe ich jedoch auch davon aus, dass es im Rechtswesen wenig gibt was als Klagegrund nicht doch möglich ist --> solange es keine verbindliche gesetzliche Regelung oder Rechtssprechung gibt mit der Hochdruck-Löschkanone auf alles schießen was als KI erkennbar ist

[mn77de]

KI ist ein tolles Werkzeug, aber es muss von Menschen bedient werden.

Will sagen ... meine Meinung ...

1. Ich bin gegen reine KI-Antworten hier im Forum.
2. Wenn jemand für seinen Post eine KI zu rate zieht, kann er dies gerne tun. Genau wie jeder gerne eine Rechtschreib- oder Grammatikprüfung nutzen kann. Es gibt diese Werkzeuge, warum sollte man sie nicht nutzen.
   Wichtig ist nur, dass die KI-Ausgabe nicht blind kopiert wird.
3. Wenn ein Benutzer hier im Forum etwas postet, tut er dies in seinem Namen und übernimmt damit die volle Verantwortung (und Haftung) für seine Worte.
4. Es ist möglich, eine KI zu zitieren, genau wie der Post eines anderen Benutzers zitiert werden kann. Dies ist dann aber klar kenntlich zu machen.

[unitra]

Ich beobachte den Umgang hier mit den nicht gekennzeichneten ChatGPT Beiträgen seit einiger Zeit.

Mein persönlicher Lösungvorschlag wäre folgender

- Einsatz von KI generierten Beiträgen verboten.

Wer dagegen verstösst, dessen Beiträge sind dann von vorne rein nicht mehr gültig, oder mit irgendeiner Lizenz belegt, die Moderatoren und Administration entscheiden dann später was mit den Beiträgen passiert.

Weil das ist eigentlich was das Forum und die menschlichen User hier möchten. Technische und persönliche Kommunikation zwischen Menschen. Und nicht das was hier im Forum gerade abspielt im Hintergrund und vorüber, zurecht Einige Gedanken machen.

Andere Problemfelder ergeben sich dann erst gar nicht. Man kann die Situation dann längere Zeit beobachten hier im Forum, und ggfls. später anpassen. Aber für den Anfang wäre das ein simpler und pragmatischer Lösungsansatz. Das ist nicht in Stein gemeißelt, und alles andere ergibt sich mit der Zeit und dem Umgang damit.

Nachtrag:

* Die User, die $ChatGPT Produkte verwenden, zumindest Eininge nicht, werden Ihre Beiträge ganz bestimmt nicht als solche kennzeichnen. Das liegt in der Natur der Sache und ist menschlich. Jeder der mit Menschen zu tun hatte weiss dass das der Fall ist. Ganz einfache mathematische Rechnung. Fakt.

* Ich persönlich habe keine Lust mich mit einem halbem LLM mich zu unterhalten, vor allem dann nicht wenn ich nicht darüber vor Vorne rein weiss. Dann kann ich meine Zeit besser woanders verprassen. Wenn ich darüber informiert bin dass ich mit einem halben Bot kommuniziere, dann ist mein Umgang ganz anders damit.

<strike>* Und die LLM's und ChatGPT Maschinen sind noch nicht so perfekt, dass sie hier nicht aufgefallen wären. Das kann sich ändern mit der Zeit.</strike>

Edit: Als menschlicher User muss ich manchmal meinen Beitrag, umformulieren und Korrekturschreiben.
[EDIT] letzen Argument gestrichen, führt zu Offtopic-diskussion hier im Thread.

[Meillo]

Die Sichtweise von mn77de gefaellt mir bislang am besten.

Aus meiner Sicht ist KI ein Hilfsmittel, wie Webrecherchen, die Dokumentation und Freunde/Kollegen fragen -- man muss verstehen, was fuer Antworten man dort bekommt, welche man nicht bekommt und wie man sie interpretieren und mit ihnen umgehen muss. (Keines der anderen Hilfsmittel wuerde man unkommentiert, unbewertet und unausgezeichnet im Forum posten.)

Da derzeit KI noch neu ist und die meisten Menschen oben Genanntes noch nicht verstehen, sorge ich mich um den Effekt, den Powerpoint in seiner Anfangszeit hatte: Alle haben ihre Praesentationen mit Animationen und Schnick-Schnack vollgestopft, ohne Sinnhaftigkeit, bloss weil's moeglich war. Dieses Kennenlernen durch Ausprobieren (und Uebertreiben) ist wertvoll, aber dafuer muss ja nicht das DFDE herhalten.

Generell kann ja jeder, der eine KI-Antwort haben will, einfach die KI direkt nutzen. Das muss nicht im Forum sein.

Ich kann mir durchaus Szenarien vorstellen, wo Teile einer KI-Antwort sinnvoll in einen Post eingebaut werden koennen, aber bevor ich grossteils unsinnige Faelle mit KI-Antworten bekomme, verzichte ich lieber ganz darauf.

Worin ich auf jeden Fall eine klare Meinung habe: Unzitiertes und unkommentiertes Posten von KI-Antworten -- sozusagen im eigenen Namen -- finde ich unhoeflich, unangemessen, verwirrend, verschleiernd, irritierend, problematisch, und insgesamt daneben ... -- es gibt nichts, was dafuer spricht. Daher sollte es in einer aehnlichen Weise unerwuenscht/verboten sein wie Spam und Werbung.

[hikaru]

solange es keine verbindliche gesetzliche Regelung oder Rechtssprechung gibt mit der Hochdruck-Löschkanone auf alles schießen was als KI erkennbar ist

Das Hervorgehobene ist für mich in meiner Rolle als Mod der Knackpunkt. Eine KI-Antwort zu bewerten (sowohl sie als solche zu erkennen, als auch ihren inhaltlichen Wert zu beurteilen) ist mit relativ viel Aufwand verbunden - verglichen mit den Beiträgen eines natürlichen Users.

* Und die LLM's und ChatGPT Maschinen sind noch nicht so perfekt, dass sie hier nicht aufgefallen wären.

Woher weißt du das?
Genauer: Es gibt KI-Texte, die stilistisch klar als solche zu erkennen sind. Das bedeutet aber nicht, dass alle KI-Texte am Stil erkennbar sind. Wir kennen die Dunkelziffer nicht.

[unitra]

Ich weiss es ehrlich gesagt nicht. Ich verlasse mich hier auf Eure Erfahrung und aller Moderatoren/Administratoren hier im DF.
Zurück zum Topic. Umgang mit ChatGPT.

solange es keine verbindliche gesetzliche Regelung oder Rechtssprechung gibt mit der Hochdruck-Löschkanone auf alles schießen was als KI erkennbar ist

Das Hervorgehobene ist für mich in meiner Rolle als Mod der Knackpunkt. Eine KI-Antwort zu bewerten (sowohl sie als solche zu erkennen, als auch ihren inhaltlichen Wert zu beurteilen) ist mit relativ viel Aufwand verbunden - verglichen mit den Beiträgen eines natürlichen Users.

* Und die LLM's und ChatGPT Maschinen sind noch nicht so perfekt, dass sie hier nicht aufgefallen wären.

Woher weißt du das?
Genauer: Es gibt KI-Texte, die stilistisch klar als solche zu erkennen sind. Das bedeutet aber nicht, dass alle KI-Texte am Stil erkennbar sind. Wir kennen die Dunkelziffer nicht.

[mn77de]

Aus meiner Sicht ist KI ein Hilfsmittel, wie Webrecherchen, die Dokumentation und Freunde/Kollegen fragen -- man muss verstehen, was fuer Antworten man dort bekommt, welche man nicht bekommt und wie man sie interpretieren und mit ihnen umgehen muss. (Keines der anderen Hilfsmittel wuerde man unkommentiert, unbewertet und unausgezeichnet im Forum posten.)

Absolut, es gibt sehr viele Quellen, die man als Inspiration für seinen Post nutzen kann. KI ist nur eine Möglichkeit von vielen.
Die Bewertung, Selektion und Aufbereitung durch einen Menschen macht den Unterschied.

Da derzeit KI noch neu ist und die meisten Menschen oben Genanntes noch nicht verstehen, sorge ich mich um den Effekt, den Powerpoint in seiner Anfangszeit hatte: Alle haben ihre Praesentationen mit Animationen und Schnick-Schnack vollgestopft, ohne Sinnhaftigkeit, bloss weil's moeglich war. Dieses Kennenlernen durch Ausprobieren (und Uebertreiben) ist wertvoll, aber dafuer muss ja nicht das DFDE herhalten.

Japp, so ist es wohl, ein neues "Spielzeug" will erst in allen Facetten ausprobiert werden ...

* Und die LLM's und ChatGPT Maschinen sind noch nicht so perfekt, dass sie hier nicht aufgefallen wären.

Teils ist es kaum mehr möglich KI und Mensch zu unterscheiden.
Beispiel: Beschreibe die Funktion eines Web-Forums in einem Satz.

Ein Web-Forum ermöglicht Benutzern den Austausch von Informationen, Meinungen und Diskussionen zu verschiedenen Themen durch das Erstellen von Beiträgen und das Kommentieren von Beiträgen anderer Nutzer.

[katzenfan]

Letztlich, ob mit oder ohne KI, ist alles eine Frage der Bildung.

Meine Sicht jedenfalls geht immer auch in Richtung des potentiell möglichen Mißbrauchs und den daraus u. U. entstehenden Folgen; bevor KI produktiv eingesetzt wird, sollten die unionsseitigen wie nationalen Rechtsnormen geschaffen, bzw., angepasst sein.

KI verfügt im Regelfall ja nicht über jene speziellen menschlichen Eigenschaften, zu denen auch Emotionalität und co. gehören; alles, was via KI produziert wird, egal, ob lediglich testweise oder nicht, gehört als KI-Produkt separat gekennzeichnet.

Erinnert sei hier an die vergleichsweise aktuelle Entscheidung des EuGH zur automatisierten Verarbeitung personen-bezogener Daten, (Schufa-Holding), was ja via KI möglich wäre.

Rechtssache C-634/21
https://curia.europa.eu/juris/document/ ... id=5125514

52 Insoweit ist darauf hinzuweisen, dass, wie der Generalanwalt in Nr. 31 seiner Schlussanträge festgestellt hat, Art. 22 Abs. 1 DSGVO der betroffenen Person das „Recht“ verleiht, nicht einer ausschließlich auf einer automatisierten Verarbeitung – einschließlich Profiling – beruhenden Entscheidung unterworfen zu werden. Diese Bestimmung stellt ein grundsätzliches Verbot auf, dessen Verletzung von einer solchen Person nicht individuell geltend gemacht zu werden braucht.

D.h., es muß grundsätzlich ein Mensch die sichtbare Verantwortung tragen und übernehmen.

[Meillo]

bevor KI produktiv eingesetzt wird, sollten die unionsseitigen wie nationalen Rechtsnormen geschaffen, bzw., angepasst sein.

Du hast damit in der Theorie schon recht, bloss hinkt das Rechtssystem seit einem halben Jahrhundert der wirtschaftlichen und technologischen Entwicklung weit hinterher. In der Praxis wird seit Langemschon erst gemacht und es werden dabei oft auch Fakten geschaffen, bevor das Recht ueberhaupt dahin kommt, das verstehen und bewerten zu wollen. Insofern ist das ein schoener Wunsch und auch die Theorie ... bloss laeuft es in der Praxis einfach anders: KI *wird* schon produktiv eingesetzt und die Rechtssprechung fehlt noch weitgehend. Damit muss man halt leben.

[TRex]

Damit muss man halt leben.

Oder mit bestem Beispiel vorangehen.

[fischig]

alles, was via KI produziert wird, egal, ob lediglich testweise oder nicht, gehört als KI-Produkt separat gekennzeichnet.

Das ist auch für ich der springende Punkt. (niemands Argument kommt für mich erst danach.) Und ich frage mich, ob so etwas, oder aber ein generelles Sperren hier für das Forum überhaupt praktisch durchsetzbar ist. Zunächst mal muss man's ja erst mal zweifelsfrei erkennen (Turing-Test, werf' ich mal einfach so, ohne mehr Ahnung davon zu haben, in die Runde). Hält die Forenleitung das für sich für möglich? Ich sähe mich außerstande, das zweifelsfrei zu beurteilen und gegebenenfalls zu melden.

[Meillo]

Zunächst mal muss man's ja erst mal zweifelsfrei erkennen (Turing-Test, werf' ich mal einfach so, ohne mehr Ahnung davon zu haben, in die Runde). Hält die Forenleitung das für sich für möglich? Ich sähe mich außerstande, das zweifelsfrei zu beurteilen und gegebenenfalls zu melden.

Das sind zwei Teile des Ganzen:

1) Erkennen koennen
2) eine Handlungsrichtlinie haben

Wenn eines davon fehlt, kann die Moderation nicht richtig handeln.

*Wenn* es fuer uns also unmoeglich ist/waere, KI-Texte zu erkennen, dann sind alle Regeln nur noch Empfehlungen und Absichtserklaerungen, weil wir sie nicht durchsetzen koennen. Dennoch haben sie in dieser Weise einen Wert.

Wenn wir KI-Texte erkennen, dann ist die Frage, was wir dann damit tun sollen: Stehen lassen? Kennzeichnung einfordern? Im Einzelfall situativ bewerten? User verwarnen? User sperren? ...


Die Frage, *ob* wir KI-Texte erkennen koennen, ist in dieser Diskussion nicht so wichtig, da wir uns das nicht aussuchen koennen, sondern es halt ist wie es ist und es wird sich in den kommenden Jahren vermutlich auch veraendern. Mit Spammern ist die Situation ja aehnlich.

[detix]

Heins (seines Zeichens Neuling im dfde, zumindest dem Postcounter und Registrierungsdatum nach, hat also vielleicht die bisherigen Diskussionen nicht mitbekommen oder bewusst einen neuen Account erstellt, um seine Reputation nicht zu beschädigen) beantwortete die Frage mit ChatGPT (relativ offensichtlich, dem Stil nach - zumindest für jemanden, der es kennt).

Klingt so als hälst du @Heins für einen Menschen,
vielleicht hat sich die KI ja hier selbst angemeldet um zu testen wie Menschen auf solche Posts reagieren und so ihre Ausdrucksweise dahingehend zu verfeinern.
Also learning by doing ...