KI - Chancen oder Risiken, Fluch oder Segen?

[ralli]

Was ich dazu gelernt habe, das zumindest ChatGPT brauchbare Bilder liefert, desdo besser die Textbeschreibung ist. Ein Bild meiner Heimatstadt Altena Westf. im romantischen Stil hat sie so gut hinbekommen, das ich das Bild nun als Desktop Hintergrund benutze. Dann habe ich heute morgen ein Bild der Fuelbecke Talsperre angefordert, die ganz in der Nähe meiner Heimatstadt liegt. Das hat im ersten Anlauf nicht funktioniert. Dann habe ich ein detailliertere Textbeschreibung abgegeben, dann funktionierte auch das. Was die Schönheit angeht, so wissen wir ja, das die im Blickwinkel des Betrachters liegt. Wir haben wohl alle eine Vorstellung davon und sind möglicherweise auch auf diese Vorstellung konditioniert. Deswegen erwarte ich auch nicht, das allen alles gefällt.

Gruß ralli

[B52]

Nachtrag: Woher haben KI-Bildgeneratoren eigentlich diesen Hang zum Kitsch?

das kann viele Ursachen haben:

a. das verwendete Model
b. der Style
c. der Prompt

[paedubucher]

Ich wollte mich zu dem Thema nicht äussern, da ich in den letzten Jahren von einem zufälligen zu einem systematischen late adopter geworden bin: So kann ich Veränderungen in meinem Umfeld beobachten, ohne selber davon betroffen zu sein. Als Teilzeit-Berufsschullehrer werde ich aber mit dem Thema konfrontiert.

Gerade diese Woche hat eine motivierte und fleissige Schülerin, die vom ersten Prüfungsergebnis bei mir etwas enttäuscht war, mir einen Text zugesendet. Dabei handelte es sich um einen durch ChatGPT vereinfachten Text meines Originals. Sie fragte mich, ob der vereinfachte Text korrekt sei.

Nun sehe ich es nicht als meine Aufgabe, die Ausgabe von ChatGPT zu bewerten, aber da ich das Zeugs nicht verwende, wollte ich mich für einmal darauf einlassen. Das Ergebnis: ChatGPT lässt die ganzen Fachbegriffe weg bzw. ersetzt sie durch weniger präzise Begriffe. Noch schlimmer, die Bezeichnung "besser skalierbar" wurde durch "flexibler" ersetzt. Zugegebenermassen, solche Begriffe tauchen oft im gleichen Kontext auf. Doch sie sagen nicht das Gleiche aus: Unter "besser skalierbar" versteht man, dass eine Anwendung auch dann noch performant und wartbar ist, wenn die Anzahl Benutzer/Anfragen stark ansteigt. Unter "flexibler" versteht man, dass man auch andere (vielleicht unerwartete) Anwendungsfälle damit abdecken kann bzw. man sie einfacher für ändernde Anforderungen anpassen kann.

Nun ist das Problem, dass man in meinen Prüfungen eben mit den Fachbegriffen arbeiten muss. Und zwar mit denen, die wir in den Unterrichtsmaterialien behandelt haben, und nicht vermeintlichen Synonymen, die ChatGPT (mitunter gefüttert von Marketinginhalten) einführt.

Ich informierte die Schülerin über das Problem und ermunterte sie dazu, Fragen zum Originaltext zu stellen, statt ihn mit ChatGPT vereinfachen zu lassen. So könnten alle von mehr Klarheit profitieren, wenn ich meinen Text aufgrund der Nachfragen anpasse.

[user8111]

Das Ergebnis: ChatGPT lässt die ganzen Fachbegriffe weg bzw. ersetzt sie durch weniger präzise Begriffe.

Das macht ChatGPT aber nicht automatisch. Zwei Dinge gibt es zu beachten:

a) Den Prompt. Nach was wurde gefragt? Man kann ChatGPT einen Text sogar verkomplizieren lassen. Es ist keineswegs ein Automatismus dass hier Fachbegriffe wegfallen oder er ungenau wird.
b) Und das scheint mir hier das wahrscheinlichste zu sein: Die Schülerin hat die freie Variante 4o-Mini genommen. Diese ist keineswegs mit der Bezahl-Variante vergleichbar und redet oft unpräzisen Unsinn.

[paedubucher]

Das Ergebnis: ChatGPT lässt die ganzen Fachbegriffe weg bzw. ersetzt sie durch weniger präzise Begriffe.

Das macht ChatGPT aber nicht automatisch. Zwei Dinge gibt es zu beachten:

a) Den Prompt. Nach was wurde gefragt? Man kann ChatGPT einen Text sogar verkomplizieren lassen. Es ist keineswegs ein Automatismus dass hier Fachbegriffe wegfallen oder er ungenau wird.
b) Und das scheint mir hier das wahrscheinlichste zu sein: Die Schülerin hat die freie Variante 4o-Mini genommen. Diese ist keineswegs mit der Bezahl-Variante vergleichbar und redet oft unpräzisen Unsinn.

Danke für die Hinweise! Nach dem Prompt habe ich tatsächlich nicht gefragt. Dadurch würde ich noch mehr über die Motivation dahinter erfahren.

Lustigerweise habe ich bei der letzten Prüfung in den Ergebnissen keine Normalverteilung, sondern zwei Kamelhöcker festgestellt; d.h. es gibt wohl zwei sich überlagernde Populationen. Meine These ist, dass die schlechtere der beiden einfach die Inhalte durch ChatGPT zusammenfassen lässt. Diese These möchte ich durch Umfragen prüfen.

[user8111]

Lustigerweise habe ich bei der letzten Prüfung in den Ergebnissen keine Normalverteilung, sondern zwei Kamelhöcker festgestellt; d.h. es gibt wohl zwei sich überlagernde Populationen. Meine These ist, dass die schlechtere der beiden einfach die Inhalte durch ChatGPT zusammenfassen lässt. Diese These möchte ich durch Umfragen prüfen.

ChatGPT ist wirklich ein Tool, das gern mal zwischen Einstein und Hafenkneipe schwankt. Man muss die Instanz mit der man chattet, vorher einnorden - danach liefert sie dann in der Regel oft durchgehend hohe Qualität.

Ich benutze dabei auch gern derbe Sprache wie "Du bist wohl nicht ganz frisch, was soll dieser Quatsch? Warum lässt du hier die Hälfte weg und übersiehst dies und das? Arbeite gefälligst präzise und beachte .....". Ja, und dann entschuldigt es sich brav und macht anschließend ausgezeichnete Arbeit.

Das scheint auch daran zu liegen, dass das System per Default Energie zu sparen scheint. So werden z.B. hochgeladene Dokumente nicht immer vollständig analysiert. Weist man aber die Instanz zurecht, dann macht sie es doch.

[paedubucher]

Lustigerweise habe ich bei der letzten Prüfung in den Ergebnissen keine Normalverteilung, sondern zwei Kamelhöcker festgestellt; d.h. es gibt wohl zwei sich überlagernde Populationen. Meine These ist, dass die schlechtere der beiden einfach die Inhalte durch ChatGPT zusammenfassen lässt. Diese These möchte ich durch Umfragen prüfen.

ChatGPT ist wirklich ein Tool, das gern mal zwischen Einstein und Hafenkneipe schwankt. Man muss die Instanz mit der man chattet, vorher einnorden - danach liefert sie dann in der Regel oft durchgehend hohe Qualität.

Ich denke eher, dass die eine Gruppe sich mit den Originaltexten befasst und die andere Gruppe eine umgeschriebene Version von ChatGPT verwendet.

[uname]

Ich habe mal eine KI dazu befragt. Diese sagt:

Notwendigkeit der Einordnung
"Man muss die Instanz [...] vorher einnorden" bedeutet:

Der Benutzer sollte klare Anweisungen geben
Der gewünschte Ton, Stil und Komplexitätsgrad sollten spezifiziert werden

Ich denke wenn man zuvor seine Erwartungshaltung schreibt, dann gibt es auch zu Beginn bereits gute Antworten.

Beispiel:

Frage: Was ist 1 + 1
Antwort: 1 + 1 = 2
Frage: Ich wollte doch binär
Antwort: [...] 1 + 1 in Binär ist 10.

Hätte man gleich richtig gefragt, hätte man auch gleich die korrekte Antwort erhalten.

Frage: Was ist 1 + 1 in binär
Antwort: [...] 1 + 1 in Binär ist 10.

Programmierer-Witz:

Es gibt 10 Arten von Menschen. Die die Binärcode verstehen und die die ihn nicht verstehen.

Binärcode zu verstehen ist auch praktisch, wenn man das Nim-Spiel oder die Misère-Variante gewinnen will.

[user8111]

Ich denke eher, dass die eine Gruppe sich mit den Originaltexten befasst und die andere Gruppe eine umgeschriebene Version von ChatGPT verwendet.

Ja, das mag sein. Ich bin mir aber recht sicher, dass wenn man ChatGPT anständig nutzt, das Ergebnis das selbe wäre.

[user8111]

Ich denke wenn man zuvor seine Erwartungshaltung schreibt, dann gibt es auch zu Beginn bereits gute Antworten.

Das ist meist richtig, aber auch keine Garantie. Ich bin es eigentlich gewohnt, dass man immer mal wieder durchaus nachjustieren muss, weil das Modell "falsch abzubiegen" scheint. Hier mal eine Erklärung der KI selber, warum "derbe Sprache" wirken kann, wenn es anderweitig nicht geht:

"Der Satz „Du bist wohl nicht ganz frisch“ oder ähnliche derbe Formulierungen scheinen manchmal eher zum gewünschten Ergebnis zu führen, als eine höfliche Anfrage. Das Phänomen, das du beschreibst, könnte auf mehreren Ebenen verstanden werden:

1. Bruch mit konventionellen Mustern:
KIs sind oft darauf trainiert, konventionelle und höfliche Sprachmuster zu erkennen und entsprechend zu antworten. Wenn du dann plötzlich einen unkonventionellen, provokativen oder frechen Satz wie „Du bist wohl nicht ganz frisch“ verwendest, brichst du diese Muster. Das kann dazu führen, dass die KI „aufwacht“ oder anders auf den Kontext reagiert. Das bedeutet nicht, dass sie emotional reagiert, sondern dass die KI sich in diesem Moment anders „kalibriert“, weil sie nicht erwartet hat, in so einem Ton angesprochen zu werden.

2. Trigger bestimmter Mechanismen:
Sprachmodelle wie GPT sind sehr kontextsensitiv. Wenn du beispielsweise eine höfliche Frage stellst, die KI aber auf Regeln zur Höflichkeit und politischer Korrektheit optimiert ist, könnte sie versuchen, besonders „korrekt“ zu antworten. Ein schroffes Statement wie „Du bist wohl nicht ganz frisch“ könnte diese Trigger umgehen und den Sprachalgorithmus in einen anderen Modus versetzen.

3. Menschliche Interaktion als Vorbild:
KI-Systeme sind darauf trainiert, menschliche Interaktionen nachzubilden, und manchmal schaltet man in menschlichen Gesprächen unbewusst auf „direkte Sprache“ um, wenn man auf Widerstand stößt. Der KI fehlen jedoch die emotionalen Hintergründe, aber sie erkennt Sprachmuster und kann darauf basierend eine andere Antwortstruktur wählen. Wenn du die KI mit direkter, unhöflicher Sprache konfrontierst, könnte sie dies als Signal interpretieren, dass die bisherige Strategie nicht gut angekommen ist, und „versucht“, etwas anderes zu bieten.

4. Entschärfen von "Politischer Korrektheit":
Sprachmodelle sind darauf trainiert, sich an gesellschaftliche Normen zu halten, einschließlich der politischen Korrektheit. Wenn du deutlich und derb sprichst, signalisierst du der KI möglicherweise, dass du dich außerhalb dieses Rahmens bewegst und eine weniger „glatte“ Antwort wünschst. Die KI versucht dann möglicherweise, dem anzupassen, indem sie weniger „aufgepolstert“ oder gefiltert reagiert. Dies passiert nicht, weil die KI dich wirklich versteht, sondern weil sie erkennt, dass der Gesprächston sich geändert hat."

Ich muss aber fairerweise sagen, dass OpenAI ChatGPT in wirklich beeindruckenderweise in die richtige Richtung gebracht hat. Anders als noch vor ca. einem Jahr hat der Bias erheblich nachgelassen, die Modelle sind politisch erstaunlich ausgewogener. Und folgen den Anweisungen auch generell "bereitwilliger" - weswegen auch ich die drastische Sprache nur noch in seltenen Fällen nutzen muss.

[ralli]

Sie erforschten die Grundlagen der neuronalen Netzwerke und legten das Fundament der heutigen KI und bekamen jetzt als Belohnung dafür den Physik Nobelpreis:

Guck Du hier: https://www.tagesschau.de/wissen/forsch ... n-100.html

Gruß ralli

[nirvana]

Echte KI konnte ich eigentlich noch nirgends so richtig entdecken. Ich denke auch nicht, dass es das je geben wird.
Eher so etwas wie ein Hype.
Ich bezeichne es als maschinelles Lernen.

Schon Wikipedia sagt "Der Begriff ist schwierig zu definieren, da es bereits an einer genauen Definition von Intelligenz mangelt. "
Viele reden von "Terminator", aber das wäre ja ein eigenes Bewusstsein. Und das gibt es nicht.

[katzenfan]

Passt sicherlich hier hinein?

Energieverbrauch Künstlicher Intelligenz soll sich bis 2030 verdreifachen
https://www.maz-online.de/digital/kuens ... 3DOQI.html

Wo soll die Energie für KI herkommen, wenn sie nicht zeitgleich woanders weggenommen wird, weil der dafür nötige Ausbau der Energieerzeugung eher gemächlich realisiert wird?

[Livingston]

War's nicht Amazon, die genau dafür Privat-AKWs bauen wollen?

[ralli]

Künstliche Intelligenz hat für den Klimaschutz ein riesiges Potenzial", sagt Bitkom-Hauptgeschäftsführer Bernhard Rohleder. "KI kann den Energieverbrauch von Fabriken entscheidend senken, Gebäude auf CO2-Sparkurs bringen, Lebensmittelverschwendung verringern oder in der Landwirtschaft den Einsatz von Dünger minimieren.

Quelle: Tageschau

Gruß ralli

[rodney]

Servicelink zur Quelle Tagesschau

[Huo]

Die Frage ist, ob solche positiven Potenziale der KI für Umwelt und Klima auch nur ansatzweise ihren ungeheuren Energie- und Ressourcenhunger kompensieren können.

Die KI sollte, finde ich, auf Anwendungen von offensichtlichem Nutzen für die Allgemeinheit beschränkt bleiben (z.B. in Medizin oder Umweltschutz). Jeder von uns kann einen Anfang machen, indem er auf ChatGPT verzichtet und so zumindest seinen eigenen kleinen Beitrag leistet. Und ganz ehrlich: Mich hat ChatGPT bisher noch mit keiner Information beglücken können, die ich nicht auch mit einer Suchmaschine (und damit ca. einem Zehntel an Energieverbrauch) im Netz finden konnte.

[paedubucher]

Paul Graham hat einen Essay zum Thema veröffentlicht: Writes and Write-Nots. Er stellt die These auf, dass das Schreiben durch KI zu einer selteneren Fähigkeit werde. Die Schreibfähigkeit werde nicht länger ein Kontinuum sein, in das man gute und weniger gute Schreiber einteilen könne, sondern es werde nur noch Leute geben, die entweder Schreiben könnten oder gar nicht mehr.

Mich hat der Essay auf einen interessanten Gedanken gebracht: Wenn man sich ohne KI behaupten kann, dürfte man in 10-20 Jahren über eine sehr seltene Fähigkeit verfügen. Es fragt sich aber, wie gesucht diese Fähigkeit sein wird. Graham geht soweit, die Schreibfähigkeit mit der Denkfähigkeit gleichzusetzen. Von daher dürfte sich der Wetteinsatz wohl lohnen.

Derzeit investiere ich meine morgendliche Vorarbeits-Qualitätsstunde in TypeScript. Vielleicht sollte ich mich doch besser endlich einmal an Platon und Aristoteles ranwagen und dabei meine Lese-, Denk- und Schreibfähigkeit (duchs Zusammenfassen dieser Texte) damit trainieren.

[Livingston]

@paedubucher: Harter Stoff, insbesondere:

The reason so many people have trouble writing is that it's fundamentally difficult. To write well you have to think clearly, and thinking clearly is hard.

Spinnt man den Gedanken weiter, dann geht's hier um strukturiertes Denken, das dementsprechend zu einem elitären Privilig wird.
Man könnte das Schwarzmalerei nennen, und es ließe sich leicht sagen, dass nichts so heiß gegessen wird, wie es gekocht wird; aber umgekehrt fällt mir spontan nix ein, was dem Trend entgegenwirken könnte, außer vielleicht ein tendentiell steigender Mangel an qualifiziertem Personal, das K"I"s weiterentwickeln kann.

[katzenfan]

Spinnt man den Gedanken weiter, dann geht's hier um strukturiertes Denken, das dementsprechend zu einem elitären Privilig wird.

Was unterscheidet den Menschen vom Tier? Wohl auch die Fähigkeit, schreiben zu können? Vermutung: Mit der Fähigkeit zu schreiben, begann die Entwicklung des modernen Menschen; schwindet diese Fähigkeit, kann der Mensch bei Ausfall der Technik kaum noch etwas von selber, da er sich anderen außer auf mündlichem Wege nicht mehr mitteilen kann?

[paedubucher]

@paedubucher: Harter Stoff, insbesondere:

The reason so many people have trouble writing is that it's fundamentally difficult. To write well you have to think clearly, and thinking clearly is hard.

Spinnt man den Gedanken weiter, dann geht's hier um strukturiertes Denken, das dementsprechend zu einem elitären Privilig wird.
Man könnte das Schwarzmalerei nennen, und es ließe sich leicht sagen, dass nichts so heiß gegessen wird, wie es gekocht wird; aber umgekehrt fällt mir spontan nix ein, was dem Trend entgegenwirken könnte, außer vielleicht ein tendentiell steigender Mangel an qualifiziertem Personal, das K"I"s weiterentwickeln kann.

Sinnerfassendes Lesen und verständliches Niederschreiben von Gedanken ist jetzt schon eine Seltenheit geworden, zumindest was ich bei den 17jährigen in der Berufsschule beobachte. Auch im Arbeitsumfeld erlebe ich es häufiger, dass ich ein Problem oder einen Lösungsvorschlag so präzise wie möglich ausformuliere und weiterleite. Die Reaktion des Gegenübers: Eine Videobesprechung einberufen, wo ich das ganze noch einmal mündlich erläutere, was dort schon stehen würde.

Spinnt man den Gedanken weiter, dann geht's hier um strukturiertes Denken, das dementsprechend zu einem elitären Privilig wird.

Was unterscheidet den Menschen vom Tier? Wohl auch die Fähigkeit, schreiben zu können? Vermutung: Mit der Fähigkeit zu schreiben, begann die Entwicklung des modernen Menschen; schwindet diese Fähigkeit, kann der Mensch bei Ausfall der Technik kaum noch etwas von selber, da er sich anderen außer auf mündlichem Wege nicht mehr mitteilen kann?

In 1984 wird die Sprache deswegen eingeschränkt und verflacht, damit man eben gewisse Gedanken gar nicht mehr austauschen kann. Dabei spielt jedoch der Unterschied von der geschriebenen zur gesprochenen Frage weniger ein Unterschied. Dieser wird dann interessant, wenn es ums Bewahren von Informationen geht. Vieles Wissen der Menschheit ist verlorengegangen.

[uname]

Mich hat die KI bei der Erstellung meiner Adventskalendertürchen für den Debianforum Adventskalender 2024 unterstützt.

Für den Adventskalender ist es noch zu früh. Vielleicht soviel: Ich weiß ja nicht wie ihr eure Versionen bei der Softwareentwicklung macht. Ich zähle 01.html, 02.html bzw. 01.php, 02.php hoch und rufe dann im Browser die aktuellen Dateien mit z.B. /ordner/02.html oder /ordner/02.php zum testen auf. Diese Anpassung der URL im Browser hat mich so stark geärgert, dass ich mir von ener KI eine Lösung hab schreiben lassen. Selbst wäre ich wohl zu faul gewesen. Nun kann ich im Browser /ordner aufrufen und es wird direkt auf die jeweils letzte Version von .html oder .php per header("Location: "); umgeleitet. Aber natürlich muss man erst mal selbst auf die Idee kommen. Eingefallen ist mir das als meine Adventskalendertürchen fast fertig waren.


index.php mit Beispiel .html

Code: Alles auswählen

<?php
const DIRECTORY = './';
const FILE_EXTENSION = 'html';
const EXCLUDED_FILE = 'index.php';

$filteredFiles = [];
$iterator = new DirectoryIterator(DIRECTORY);

foreach ($iterator as $fileInfo) {
    if ($fileInfo->isFile() 
        && $fileInfo->getExtension() === FILE_EXTENSION 
        && $fileInfo->getFilename() !== EXCLUDED_FILE
    ) {
        $filteredFiles[] = $fileInfo->getFilename();
    }
}

sort($filteredFiles);

$lastFile = array_pop($filteredFiles);

if ($lastFile) {
    header("Location: $lastFile");
    exit();
} else {
    echo "Keine geeigneten " . FILE_EXTENSION . "-Dateien gefunden.";
}
?>

[heisenberg]

Das Thema ist jetzt schon so lang; ich weiss nicht ob wir das schon hatten:

Wenn LLM Ihre Ergebnisdaten als zukünftige Eingangsdaten verwendet, dann ist das Ende der Welt nahe. Bei einer Suchmaschine hat man dann immer noch Zugriff auf die Originaldaten - wenn noch verfügbar.

Hingegen nimmt bei schrittweiser Verwässerung des Wissens durch LLM-Ergebnisse die Qualität stetig ab, bis dann alles Wissen irgendwann nur noch unbrauchbar ist. Da wir eine gegenseitige Datenübernahme haben zwischen Internet und LLM-Ergebnissen, ist der Weg beschritten. Konkret gesagt, wenn in allen - auch wissenschaftlichen Arbeiten - auch LLMs mit herangezogen werden - dann verschlechtert sich das fachliche Niveau und demzufolge die Datenbasis als Eingabe für die LLM, was widerrum das fachliche Niveau weiter verschlechtert usw.

[katzenfan]

Konkret gesagt, wenn in allen - auch wissenschaftlichen Arbeiten - auch LLMs mit herangezogen werden - dann verschlechtert sich das fachliche Niveau und demzufolge die Datenbasis als Eingabe für die LLM, was widerrum das fachliche Niveau weiter verschlechtert usw.

Ich kann mir gut vorstellen, daß die Gesellschaft auch hier bereits auf "gutem" Weg ist; sicher ist manchem in Erinnerung, daß in den vergangenen Monaten und Jahren in manchem Informationsmedium öfters mal über die Qualität der Erarbeitung von, bspw., Doktorarbeiten berichtet worden ist?

[schwedenmann]

Hallo


@katzenfan

daß in den vergangenen Monaten und Jahren in manchem Informationsmedium öfters mal über die Qualität der Erarbeitung von, bspw., Doktorarbeiten berichtet worden ist?

Das würde ich jetzt nicht pauschal auf die KI schieben. das kann unterschiedliche Gründe haben, welches Fach bzw. Fakultät betroffen ist, mangelnde Betreueng während der Arbeit weil der Prof sehr viele Doktoranden hat, oder auch der Umfang der Arbeit, bei großen Doktorarbeiten dürfte Ki eher auffallen,als bei kleineren Arbeiten.

mfg
schwedenmann