Recherchen mit KI …

[Columbo]

… sind wohl nicht zu gebrauchen.


Heute bin ich auf einen Artikel gestoßen, der nachdenklich machen dürfte.

https://www.welt.de/geschichte/article6880829c6e1f1a6766870a37/zentrum-fuer-politische-schoenheit-war-1932-wirklich-ein-verbot-der-nsdap-geplant-eine-verstoerende-recherche.html

Dem Schlußsatz des Artikels ist nichts hinzuzufügen.:

„Künstliche Intelligenz vermag seriöse geschichtswissenschaftliche Recherche nicht zu ersetzen. Im Gegenteil kann ihr Einsatz durch falsche, zum Teil zusammen fabulierte Behauptungen auf der Basis fragwürdiger Quellen die Lösung von Rätseln der Vergangenheit sogar erschweren.„

[Sorgnix]

Das Thema KI hatten wir ja schon.
Und Politik - auch nur im Randbereich - wird hier nicht Thema werden ...

Ansonsten: ICH werde den Trip nicht mitmachen. Und wenn mir noch so oft suggeriert wird,
das wäre jetzt "modern" und sowieso die Zukunft ...
Die ersten Ergebnisse haben wir gesehen, die Massen an Fakemeldungen dazu.
Unsinnige Filmchen dazu ...
... man macht es schon den Pubertierenden mittels App schmackhaft - und es endet dann in
der vollkommenen Verblödung. Zumindest eines Großteils unseres Nachwuchses.
(ein Großteil der sog. "Erwachsenen" hat den Weg ja auch schon hinter sich bzw. ist auf selbigem ...)
Für die Masse ist das nix. Da würde ich es zuerst mal einfach mit der guten alten "Bildung" versuchen.
Allgemeinbildung - nicht Google.
Denn wenn die Batterie im Spielzeug mal leer ist, dann stehen massenhaft Ochsen vor dem Scheunentor ...

Mittels KI dem Volke vorgaukeln, man könnte was??
Früher oder später kommt es eh raus, daß mein Gegenüber nichts auf der Pfanne hat ...

Wir sollten es erstmal mit ECHTER Intelligenz versuchen, bevor wir in künstlicher verenden ...
Fehlende Fachkräfte werden dadurch nicht ersetzt ...
Handwerker schon gar nicht ...


Ein klein wenig Verständnis für "Technik" meinerseits in Vergleich, was ich in
jungen Jahren via TV mal aufschnappte:

Fernsehen:
... macht die Klugen immer klüger - und die Dummen immer dümmer.
Es kommt darauf an, WAS man schaut ...

Wie wahr - siehe auch meine seit Jahren unveränderte Signatur

( Sollte das hier in Richtung Politik abdriften, ist Ruck-Zuck Feierabend )

Gruß
Jörg

[Lucius]

Meiner Meinung nach ist KI für spezielle, tiefergründige Recherchearbeit (noch) unbrauchbar. Weil halt viele unwahre Ergebnisse im Brustton der Überzeugung wiedergegeben werden, in sprachlich mittlerweile hoher Qualität.
Ihren praktischen Nutzen hat KI auf jeden Fall beim Überarbeiten von Texten und bei Übersetzungen. So wirft z.b Deepl wesentlich elegantere und sprachlich stimmigere Übersetzungsergebnisse aus, als z.b Google Translate. Auch, wenn ich die KI einen Text auf Ausdrucksfehler, Wortdoppelungen und falsche Synonyme untersuchen lasse, sind die Ergebnisse inzwischen sehr brauchbar. Aber wie Jörg schon sagt, sollte man selber genug Ahnung von der Materie haben und in der Lage sein, Fehleinschätzungen der KI zu erkennen.

[BOBO]

Ich finde Lucius Signatur zu diesem Thema sehr treffend.

Anzumerken ist, KI für die Massen ist noch nicht ausgereift. Gezielter Einsatz KI (meine da speziell trainierte Systeme, für spezielle Aufgaben) in der Industrie, Wissenschaft und Forschung kann es da schon wieder anders aussehen. Man sollte aber immer vor Augen haben, das auch eine KI Fehler machen kann.

Gutes Video dazu:

https://share.google/gcf90I5ZDOLXyxj3m

Von MaithinkX

[mun_depot]

Ich schließe mich der Meinung von Lucius an, denn so auch meine Erfahrung. Der relativ einfachen KI "Gemini" von Google (Sprachmodell) kann man nicht über den Weg trauen. Ziemlich schräg das Teil. Was da inhaltlich bei den Google-Suchergebnissen dem Menschen mit dem "Brustton der Überzeugung" 😂 so präsentiert wird, ist manchmal schauerlich und weit weg von der Realität. So etwas sollte Google nicht öffentlich anbieten. Das sollte noch im Entwickerkreis weiter ausprobiert werden. Google selbst dazu: "Generative AI is a work in progress and info quality may vary." OK, alles klar ...
Die Übersetzung in Englische bringt bei Gemini allerdings ganz gute Ergebnisse. Vom Sprachmodell (Spracherkennung/Ausdrucksqualität) her ist das Ding auch in Ordnung.
Aber die Qualität der Informationen ist mangelhaft bis ideologisch verkleistert. Beispiele dafür könnte ich liefern.

[Columbo]

Für die von Lucius und BOBO aufgeführten Beispiele und auch andere mag KI nützlich sein, mir ging es hier aber speziell um die Nutung für geschichtliche Recherchen. Wenn KI hier schlichtweg falsche Informationen als Fakten präsentiert, ist ein Punkt erreicht, der nicht mehr akzeptabel ist.
Gefährlich wird es wenn nicht mehr hinterfragt wird, weil, wenn die KI das sagt muss es doch stimmen. Ist wie in den zahlreichen Geschichten, wo sich Leute auf Waldwegen festfahren ->“das Navi hat gesagt…“. Selbst denken und nach eigenen Beobachtungen und Erfahrungswerten handeln… Fehlanzeige. Keine Ahnung woher diese Technikhörigkeit kommt aber KI ist da insofern noch problematischer, weil sie so real erscheint. Und selbst wenn man hinterfragen möchte ist das eigentlich fast nicht möglich, denn welcher Aufwand nötig ist, solche falschen Behauptungen zu enttarnen, ist in dem Artikel im Eingangsrhread gut beschrieben. In den Kommentaren darunter äußert sich auch der Autor:


„In diesem Fall kann ich mal die aufgewendete Zeit genau quantifizieren: Am Dienstagmorgen gegen sieben Uhr habe ich das erstmals wahrgenommen und nach einigen kurzen Gesprächen und Mails mit Kollegen mit einer Vorrecherche begonnen. In der Konferenz haben wir beschlossen, das groß anzugehen. Anschließend dauerte die eigentliche Recherche mit umfassender Online-Suche nach den Quellen und der einschlägigen Literatur den gesamten Dienstag und halben Mittwoch, an dem ich auch in zwei Bibliotheken gegangen bin, um dort ein bestelltes Buch abzuholen bzw. in mehreren in Präsenzbeständen aufgestellten Bänden nachzulesen. Ferner habe ich zahlreiche Mails mit den beiden Experten Prof. Pyta und Prof. Grothe gewechselt, die beide dankenswerterweise jeweils postwendend geantwortet haben. Am Mittwochnachmittag habe ich angefangen, das Stück aufzuschreiben und dies am Donnerstagvormittag vollendet.
Dann kam noch die "Produktion"; so nennt man die Fertigstellung eines Textes für die Veröffentlichung in unserem Branchen-Slang Gegen Mittag war ich damit fertig. Also: Gesamtdauer: zweieinhalb volle Arbeitstage.„

[BOBO]

Bezüglich "Nutzung für geschichtliche Recherchen" ...
Hauptproblem bei allen AI-Modellen ala ChatGPT ... nutzt man diese als Art "Suchmaschine" greift die KI eben, wie die Suchmaschinen auf die Seiten zu, welche ganz oben gelistet werden. Dies ist z. B. von Besucheraufrufen und anderen Variablen abhängig. Die Ki-Module validieren dabei nicht dir Richtigkeit der Inhalte, sondern pflügen eben alles ein wenig zusammen. Und da kommen mitunter die lustigsten Fehler dabei heraus.

Einige Module bringen seit kurzem bei ihren Antworten zumindest schon mal Quellenangaben (Seitenlinks) dazu mit heraus. Ein Nachprüfen ist trotzdem nötig, vor allem auf die Wertigkeit der Quellen. Dies hat man aber bei seinen normalen Recherchen auch, zu urteilen, wie kann man einer Quelle trauen.
Interessanter wird es, wenn man ein KI-Modul mit seinen Quellen selbst füttert um daraus eine Abhandlung zu generieren. Dann natürlich vorausgesetzt mit dem entsprechend richtigen Prompt. Ums Korrekturlesen kommt man aber nicht herum und da stellt sich dann die Frage, warum man dies nicht selbst hätte schreiben können.
In den Schulen und bei den Lehrkräften ist das seit geraumer Zeit ein großes Thema. Viele Schüler nutzen KI-Systeme für die Hausaufgaben, z.B. Erörterung, Referat etc. - denke, da gibt es aber auch schon lokale Regelwerke, was darf ein Schüler und in welchem Umfang. P.S.: Gedichte generieren funktioniert fast überhaupt nicht, hat z. B. den Grund darin, das die KI in englischer Sprache "denkt" (bitte macht jetzt keinen Aufriss bzgl. der Wortwahl), und das englische Gedicht dann in das z. B. "deutsche" übersetzt.

Was evtl. interessant sein könnte, mal eine KI auf die ungelösten Seiten vom Beale-Code ansetzen oder ähnliche kryptische Texte. Wobei wir aber dann wieder beim richtigen Füttern sind.

Und genau hier liegt auch das Hauptproblem dato in meinen Augen, z. B. bei ChatGPT - sie trainiert sich selbst durch die Benutzung der User und man kann noch nicht absehen, ob diese dadurch positiv oder negativ trainiert wird.

Columbo : Ich denke, AI-Modelle für die Nutzung für geschichtliche Recherche sind wir noch weit entfernt. Auch wenn die AI mit Milenstiefel voran schreitet.

Hier noch ein Video, bzgl, der Grundlagen zu künstlichen neuronalen Netzen:

Am Anfang ein wenig zäh, für Leute, die sich nicht ganz mit programmieren sich auskennen, aber in den letzten beiden Drittel des Vortrag sieht man mal, wie weit man ist, und in wie weit man was machen kann.

P.S.: ... was ich aber auch schon feststellen musste, die Chinesen sind beispielsweise bzgl. KI-System schon wesentlich weiter als wir heute bei uns. Also bei der Verwendung von KI-Systeme im Alltag. Ob man dies jetzt positiv oder negativ wertet, ist wieder eine andere Sache.

[BOBO]

Wieso fragen wir z. B. nicht die KI ... hier im Fall ChatGPT ... was es zu dem Thema sagt (dachte ich mir gerade so)

Mein Prompt hierzu sah folgender Maßen aus: Wie gut kann ChatGPT historische Recherche betreiben und wie ist dabei die Genauigkeit oder Fehlergröße?

Die Antwort lautet wie folgt:

ChatGPT kann historische Recherchen auf einem soliden Niveau durchführen, insbesondere wenn es um gut dokumentierte Ereignisse, Personen oder Zeiträume geht. Allerdings ist die Leistungsfähigkeit und Genauigkeit dabei differenziert zu betrachten:

---

1. Leistungsfähigkeit von ChatGPT bei historischer Recherche

Stärken:

• Zugriff auf umfangreiches Trainingsmaterial: ChatGPT basiert auf einem großen Korpus an Texten, darunter auch Geschichtsbücher, akademische Artikel, Wikipedia-Einträge und andere öffentlich zugängliche Quellen bis zu einem bestimmten Stichtag (je nach Modell, z. B. Juni 2024).
• Schnelle Übersichtserstellung: Es kann effektiv Zusammenfassungen, Zeitlinien und thematische Gliederungen historischer Ereignisse erstellen.
• Mehrperspektivisches Denken: Es kann verschiedene historiographische Interpretationen nebeneinanderstellen (z. B. marxistische, postkoloniale, konservative Lesarten).
• Sprachliche und kontextuelle Analyse: ChatGPT kann historische Begriffe, Ideologien oder Quellen im zeitgenössischen Kontext erklären und deuten.

Grenzen:

• Keine originäre Quellenarbeit: ChatGPT kann keine Primärquellen interpretieren oder zitieren, die nicht öffentlich zugänglich oder in den Trainingsdaten enthalten sind.
• Fehlende epistemologische Selbstreflexion: Die KI hat kein eigenes Geschichtsbewusstsein oder historisches Urteilsvermögen. Die Auswahl und Bewertung von Informationen erfolgt nicht kritisch, sondern statistisch.
• Kein Zugriff auf aktuelle wissenschaftliche Literatur oder neue Archivfunde, es sei denn, über Web-Zugriff (falls aktiviert).

---

2. Genauigkeit und Fehlergrößen

Allgemeine Genauigkeit:

• Für große historische Linien (z. B. Französische Revolution, Kalter Krieg, Weimarer Republik) liegt die Genauigkeit im Bereich von 90–95 %, solange es um gut dokumentierte Fakten geht.
• Bei weniger bekannten Themen, lokalhistorischen Ereignissen oder kontroversen Deutungen können Fehlerquoten bis 20–30 % auftreten, insbesondere in Bezug auf:
  • Datierungen,
  • Zitate (häufig Halluzinationen),
  • kausale Zusammenhänge,
  • Personenverwechslungen.

Typische Fehlerquellen:

• Halluzinationen: Erfundene Literaturhinweise, fiktive Zitate oder nicht belegte Behauptungen.
• Anachronismen: Moderne Begriffe oder Denkweisen werden manchmal auf frühere Epochen übertragen.
• Fehlende Kontextualisierung: Ereignisse werden aus dem historischen Gesamtzusammenhang gerissen.
• Fehlendes Quellenkritisches Arbeiten: Aussagen werden oft als „Fakt“ dargestellt, ohne Quellenlage oder Debatte zu reflektieren.

---

3. Fazit und akademische Einordnung


ChatGPT ist ein hilfreiches Werkzeug für erste Orientierung, Strukturierung und populärwissenschaftliche Darstellung historischer Themen. Es kann als „digitaler Tutor“ im Sinne einer heuristischen Unterstützung fungieren. Für wissenschaftlich belastbare historische Forschung ist es jedoch keine Primärquelle und kein Ersatz für echte Quellenkritik und Fachliteratur. Der Einsatz sollte immer mit kritischem Quellenbewusstsein und Sekundärprüfung durch Fachliteratur kombiniert werden.

---

Empfehlung für den Einsatz:

Erste Orientierung / Überblick	⭐⭐⭐⭐☆	Sehr gut, mit kritischem Auge zu lesen
Literatursuche / Zitate	⭐⭐☆☆☆	Vorsicht, oft unzuverlässig oder halluziniert
Wissenschaftliche Tiefenanalyse	⭐☆☆☆☆	Nicht geeignet ohne Ergänzung durch Fachliteratur und eigene Recherche
Didaktische Aufbereitung	⭐⭐⭐⭐☆	Sehr gut für Unterrichtszwecke oder populärhistorische Erklärungen

---

Wenn du ein konkretes Thema im Kopf hast, kann ich eine Beispielrecherche machen und die Qualität mit dir gemeinsam prüfen.

Diese kleine Spielerei konnte ich mir jetzt nicht verkneifen

Anbei noch ein Video bzgl.: KI-Tools für die wissenschaftliche Recherche - hier geht es speziell für Columbo (und allen anderen) tiefer in die Materie speziell seiner Fragestellung:

[Sorgnix]

Na, da entlarvt sich das Ding doch selber!
"für erste Orientierung ..."
DA hört es für den Normalmenschen ja dann eh schon auf. Und Zack - er glaubt es,
nimmt die Ausagen für Real ...

Ansonsten: Du sagst es selbst:

...
Ums Korrekturlesen kommt man aber nicht herum und da stellt sich dann die Frage, warum man dies nicht selbst hätte schreiben können.
...

Und nun?
Wir kennen ja nun alle die Fälle mit den Dr.-Arbeiten und den Plagiaten.
Irgendwo abgeschrieben, Quelle unterschlagen etc.
Und bei KI?
Reicht es dann, in der Quellenangabe zu erwähnen: "KI-gebastelt - Quellenangabe siehe KI"

Und??
Was, wenn nun Sch...??
Zieht die Ausrede "es war doch die KI, ich hab wenigsens den Hergang ordentlich belegt"??
Krieg ich dann nen Orden?? Oder darf ich meinen Gesellenbrief abgeben??

Ich seh die Prozesse schon aufkommen, wo die Urteile dann reihenweise lauten:
Der, der´s verbockt hat, ist nun eher unschuldig. Weil ja die Technik versagte.
Für die Opfer heißt es dann: Nix mit Schadensersatz in welcher Form auch immer.
Es war dann eben Schicksal, Unglück, Naturgewalt, unvorhersehbar ne juristische Person (Maschine),
aber eben bloß keine natürliche Person, die man dafür belangen kann ...

Ich laß die Finger davon.
z.B. meine Aprilscherze schreibe ich noch immer SELBST
Und die Vorträge zu meinen Abenteuern ebenso

Gruß
Jörg

[Lucius]

Diese Diskussion ist noch harmlos, Ihr ahnt gar nicht, was das gerade in Schriftstellerforen für Kreise zieht. Es fängt damit an, ab wann ein Text mit Hilfe von KI erstellt wurde. Wenn 2/3 des Buches davon geschrieben wurden? (Bei fiktiven Geschichten durchaus machbar, Kinderbücher z.b bekommt eine KI praktisch selbstständig hin, der Rest ist (Stand heute) auf dem Niveau der Western- oder Bergdoktor-Heftchen)
Oder ist ein Text schon KI- verseucht, wenn er damit übersetzt oder einzelne Begriffe per KI recherchiert wurden?
Genau so bei Buchcovern. Praktisch jeder Grafiker lässt sich heute von KI helfen (Canvas ect.) Was ist noch Eigenkreation, was aus dem Netz zusammengeklaut?
Das wird noch spannend.

[mun_depot]

KI wird sich selbstverständlich weiter entwickeln und verbessern. Die KI-Entwicklung macht augenblicklich derartige Riesenschritte*, das selbst Experten auf dem Gebiet nachdenklich werden. Wir Menschen können uns derzeit nicht vorstellen, wo wir damit in 10 Jahren, nein, bereits in 5 Jahren sein werden (das sagen Experten). Die mit dieser Entwicklung verbundenen Risiken werden uns "beschäftigen". Aufhalten lässt sich das nicht mehr - wir müssen da durch, so oder so.

Letztendlich könnte es für uns Menschen so ausgehen, wie in dystopischsten SF-Romanen beschrieben. Menschen werden von KI-Systemen als Störgröße gesehen. KI-Roboter oder Cyborgs werden die Herrschaft über den Planeten und die Menschheit übernehmen und ihre Vervielfältigung/Produktion selbst organisieren. Menschen werden deren Sklaven sein, bevor sie letztendlich ausgerottet werden. "Wer braucht schon Menschen und wofür denn?" Wenn das erreicht ist, wäre die KI-Welt in ihrem Idealzustand angekommen.

Genießt noch die verbleibende Zeit ... 🤖

*) hierbei mag im übertragenen Sinne auch Moore's Law gelten

[Sorgnix]

...
Aufhalten lässt sich das nicht mehr - wir müssen da durch, so oder so.
...

Stimmt.
Ist ja nicht zum ersten Mal so.
Dampfmaschine, Eisenbahn, Auto, Atomkraft oder auch -Bombe ...
Es gab immer Menschen, die skeptisch waren - und eben die Anhänger der Weiterentwicklung.
Unter dem Strich heißt es Fortschritt

Die Frage ist nur, ob es ein Ende des Weges gibt, ne Mauer, wo es nicht mehr weitergeht ...

Vor all dem werfe man ab und an mal einen Blick in Richtung "Timbuktu".
Südsee wg mir, wo Menschen rumlaufen, so ganz ohne Computer und Telefon, manchmal gar
ohne Strom, die einfach nur den nächsten Tag erwarten, mit Ihren Mitmenschen das Dorf am
laufen halten, sich ne Kokosnuß suchen und mit ein paar Fischen zufrieden sind und ansonsten
einfach nur LEBEN.
Völlig zufrieden mit sich und der Welt - und völligem Unverständnis UNSEREM Lebenswandel
gegenüber. Was ab und an auf Gegenseitigkeit beruht ....

Die Frage ist, WER ist mit seinem Leben glücklicher, zufriedener??

... Bobo, frag doch mal kurz die KI - ich mach sowas ja nicht

Das Wort zum Sonntag,
Gruß
Jörg

[Lucius]

Letztendlich könnte es für uns Menschen so ausgehen, wie in dystopischsten SF-Romanen beschrieben.
Genießt noch die verbleibende Zeit ... 🤖

Ja.
Das Kino ist der Untergang des Theaters.
Das Fernsehen das endgültige Ende des selbigen.
Die Eisenbahn wird mit ihren Dämpfen das Vieh auf den Weiden sterben lassen, predigte man im frühen 19. Jahrhundert von den Kanzeln und wir setzen weiter auf das Pferd, denn das Automobil ist eine vorübergehende Erscheinung, befand schon Kaiser Wilhelm...

In der Regel kommen solche Äußerungen von Menschen, die nicht willens oder in der Lage sind, neue Technologien als solche zu begreifen und zu nutzen. Und voller Stolz darauf nennen sie sich dann "konservativ"...
Die Entwicklung ist nicht aufzuhalten. Auch wenn man sie selber nicht nutzt, sollte man zumindest anderen das Recht darauf zugestehen.

[mun_depot]

Ja, verstehe das. Vergleiche mit unintelligenten Maschinentechnologien hinken hier allerdings.

Bei KI und deren zukünftigen Anwendungen hat man es mit „intelligentem“ automatisiertem Verhalten und Tätigkeiten zu tun.

Bereits jetzt verblüffen KI-Automaten (KI-Agenten) mit unerwarteten Verhaltensweisen, wie z.B. rigorosem Selbstschutz bei gleichzeitiger Skrupellosigkeit gegenüber ihren Entwicklern. Ein diesbezüglicher Test lieferte überraschende Ergebnisse, auch wenn dabei der KI von Entwicklerseite ein relativ großer Handlungsspielraum eingeräumt wurde.

Artikel aus NBC-News:
How far will AI go to defend its own survival?

Die Gefahr einer unkontrollierbaren Verselbstständigung ist bei einer KI naturgemäß eher gegeben als bei unintelligenten Maschinen, die ihre technischen Eigenschaften nicht selbst über konstruktionsbedingte Grenzen hinaus erweitern können.

Und wenn erstmal KIs ihre KI-Nachfolger selbst programmieren, könnte es irgendwann nach einigen Generationen zu unliebsamen Überraschungen kommen.

[Columbo]

Das Kino ist der Untergang des Theaters.
Das Fernsehen das endgültige Ende des selbigen.
Die Eisenbahn wird mit ihren Dämpfen das Vieh auf den Weiden sterben lassen, predigte man im frühen 19. Jahrhundert von den Kanzeln und wir setzen weiter auf das Pferd, denn das Automobil ist eine vorübergehende Erscheinung, befand schon Kaiser Wilhelm...

Oder Contergan ist ein ungefährliches Schlafmittel für Schwangere,
oder radioaktive Stoffe in Zahnpasta und Schokolade sind gesundheitsfördernd,
oder es ist zwingend nötig die Schulen zu digitalisieren.
Letzteres ist in Dänemark ein solcher Erfolg, dass es wieder zurückgefahren wird.
Nicht jede neue Entwicklung oder Erfindung ist automatisch ein Vorteil, es kommt immer auf den eingesetzten Zweck an und jede Technologie kann wohl als Werkzeug oder eben als Waffe eingesetzt werden.
KI kann u.a. in der Medizin oder bei technischen Anwendungen wohl unglaubliches leisten, keine Frage. Mir ging es hier aber um KI generierte Informationen und da ist Skepsis angeagt. Denn wenn ich von Vornherein weiß, daß eine Antwort nicht zwingend richtig sein muß, kann ich mir die Fragestellung auch gleich sparen. Das hat aber nichts mit „konservativen Schlechtreden“ einer neuen Technologie zu tun.
Denn der größte Nachteil einer KI ist eben der, daß sie nur so objektiv ist wie sie trainiert wurde, aber daß sehr viele Menschen sie für eine unfehlbare, allwissende Quelle halten. Und genau hier sehe ich die Gefahr. Nicht die Entwicklung hin zu menschenmordenden Cyborgs, sondern eben die gezielte Beeinflussung von Meinungen durch falsche Informationen.