Recherchen mit KI …

[BOBO]

@BOBO
Nicht ablenken, hier geht es um die Schwächen von KI.
Deine berechtigte Frage gehört in den San José Thread.

Ups - da hatte meine HL (menschliche Logik) versagt - dann poste ich das gleich noch mal im richtigen Thread

Bzgl. Gefahren der KI:
Meiner Meinung nach kann eine KI Risiken für Menschen schaffen, doch diese sind nicht zwangsläufig.
Die größte Gefahr entsteht weniger durch eine „böse KI“, sondern vermutlich durch menschliche Fehlentscheidungen, Machtmissbrauch und unzureichende Sicherheitsmechanismen. Eine verantwortliche Gestaltung und Regulierung kann den Nutzen erheblich steigern und die Risiken wirksam begrenzen.

[Bergedienst]

Fakt ist das Menschen Kacke sind und noch jede Erfindung irgendwie missbraucht wurde. Ausser Tupperware!

[Deistergeist]

Wenn man darin schläft, wird man (fast) unsterblich...
Aber sonst: völlige Zustimmung.

[Eisenknicker]

Für die von Lucius und BOBO aufgeführten Beispiele und auch andere mag KI nützlich sein, mir ging es hier aber speziell um die Nutung für geschichtliche Recherchen. Wenn KI hier schlichtweg falsche Informationen als Fakten präsentiert, ist ein Punkt erreicht, der nicht mehr akzeptabel ist.
Gefährlich wird es wenn nicht mehr hinterfragt wird, weil, wenn die KI das sagt muss es doch stimmen. Ist wie in den zahlreichen Geschichten, wo sich Leute auf Waldwegen festfahren ->“das Navi hat gesagt…“. Selbst denken und nach eigenen Beobachtungen und Erfahrungswerten handeln… Fehlanzeige. Keine Ahnung woher diese Technikhörigkeit kommt aber KI ist da insofern noch problematischer, weil sie so real erscheint. Und selbst wenn man hinterfragen möchte ist das eigentlich fast nicht möglich, denn welcher Aufwand nötig ist, solche falschen Behauptungen zu enttarnen, ist in dem Artikel im Eingangsrhread gut beschrieben. In den Kommentaren darunter äußert sich auch der Autor:


„In diesem Fall kann ich mal die aufgewendete Zeit genau quantifizieren: Am Dienstagmorgen gegen sieben Uhr habe ich das erstmals wahrgenommen und nach einigen kurzen Gesprächen und Mails mit Kollegen mit einer Vorrecherche begonnen. In der Konferenz haben wir beschlossen, das groß anzugehen. Anschließend dauerte die eigentliche Recherche mit umfassender Online-Suche nach den Quellen und der einschlägigen Literatur den gesamten Dienstag und halben Mittwoch, an dem ich auch in zwei Bibliotheken gegangen bin, um dort ein bestelltes Buch abzuholen bzw. in mehreren in Präsenzbeständen aufgestellten Bänden nachzulesen. Ferner habe ich zahlreiche Mails mit den beiden Experten Prof. Pyta und Prof. Grothe gewechselt, die beide dankenswerterweise jeweils postwendend geantwortet haben. Am Mittwochnachmittag habe ich angefangen, das Stück aufzuschreiben und dies am Donnerstagvormittag vollendet.
Dann kam noch die "Produktion"; so nennt man die Fertigstellung eines Textes für die Veröffentlichung in unserem Branchen-Slang Gegen Mittag war ich damit fertig. Also: Gesamtdauer: zweieinhalb volle Arbeitstage.„

Die KI ist für historische Recherche in alten Texten und alten Schriften die nur als Bild vorliegen aktuell noch immer nicht brauchbar. Punkt. Wie erwähnt nur die KI gemeint für den normalen User (!)

[Sorgnix]

... und ich gebe zu, daß ich des Columbos Rechenmarathon nur bis zur Hälfte gelesen habe.
Schrieb ja selbst, wer liest schon so lange Dinger ...
Ab der Hälfte war für mich klar: Zeitverschwendung. Dreisatz ist schneller ...
Aber wenn die KI hinterher selbst ihren Fehler korrigiert ... bzw. korrigieren muß. "Bravo"

Fakt bleibt dabei noch immer: Die Masse der Leser geht mit dem Ding ab, denkt nicht mehr
nach, hinterfragt nicht oder prüft nicht auf Plausibilität.
So einfach ist das.

Für mich: Zeitverschwendung.
Und all die hochgeistigen Diskussionen dazu, da verzichte ich auch drauf.
Für diesen Bereich mag das Leben gern an mir vorbeilaufen - ich vermisse es nicht.
Denn mein Leben findet auch noch "draußen" statt.
Ich suche echte Schätze (und finde sie nicht) ...
Ist aber immer noch besser, als mir das Hirn vor dem Bildschirm zerbröseln zu lassen

ausderdiskussionaussteigend
Jörg

[BOBO]

Die KI ist für historische Recherche in alten Texten und alten Schriften die nur als Bild vorliegen aktuell noch immer nicht brauchbar. Punkt. Wie erwähnt nur die KI gemeint für den normalen User (!)

Da kann man geteilter Meinung sein. Es kommt auch darauf an, welche KI-Modelle man benutzt. ChatGPT (ob, normal, erweitert oder die Plus-Version), Meta und der Gleichen sind nur Large Language Models (LLMs). Im Namen liegt auch schon auf was diese Modelle trainiert wurden - es sind Sprachmodelle. Diese wurden trainiert durch Self-Supervised Learning, Supervised Finetuning und Reinforcement Learning from Human Feedback (RLHF). Und eben nicht gezielt auf historische Recherchen.

Für diese Aufgaben sind andere KI-Modelle besser geeignet. Für tiefere, fachlich differenzierte historische Analyse z. B. Claude 3.5 oder GPT-4o/5-basierte (noch in der beta-Phase - aber noch nicht in der open-Beta) Modelle. Für breite Recherche und offenen Fragestellungen z. B. Llama 3. Für strukturiertes Faktenmaterial z. B. Mistral Large. Diese Modelle wurden grundlegend anders trainiert, wie z. B. strengere Datenkurierung, höhere Anforderungen an Faktentreue, Integration externer Wissensquellen, expertengesteuertes Finetuning und Mechanismen zur Vermeidung von Anachronismen und Halluzinationen.

Was natürlich wesentlich entscheidend ist für ein gutes Ergebnis ist der Prompt. Für eine sachliche, korrekt arbeitende Recherche durch eine KI ist nicht die Länge des Prompts entscheidend, sondern wie klar, präzise und steuernd er formuliert ist. Vier Faktoren spielen dabei eine zentrale Rolle. Eine KI recherchiert sachlicher, wenn der Prompt klar und präzise ist, konkret definierten Kontext gibt, Faktentreue und methodische Standards einfordert und eine eindeutige Struktur vorgibt.

Da fällt mir natürlich auch ein Sprichwort ein:
Wer dumm fragt, bekommt eine dumme Antwort

P.S.: Man könnte fast schon eine Analogie zum Menschen ziehen. Der Eine ist technisch versierter, ein Anderer kaufmännisch. Dann gibt es Menschen, denen Liegt Physik oder Chemie, anderen Philosopie oder Geschichte. Einer ist Musikalisch, der andere bildgebend künstlerisch. Zum einen evtl. genetisch bedingt, aber auch an Hand des Umfelds, der Erziehung, Erfahrungen, Bildung oder Beschäftigungen im Leben.
... und dann gibt es eben auch die Vollhonks

Und die Frage der Intelligenz ist schon ewig ein philosophisches Thema. Fällt mir noch ein Zitat ein (keine Ahnung von wem): Ist der Mensch ein intelligentes Lebewesen? Würde ein intelligentes Lebewesen seinen eigenen Lebensraum zerstören?

[BOBO]

Hauptfehler von vielen Personen ist es, das diese Intelligenz (natürliche oder künstliche) und Lebensformen (natürliche oder künstliche) in direkten Zusammenhang sehen. Dies ist aber falsch.
Intelligenz und Leben sind eng verbunden, aber grundlegend verschieden. Leben bezeichnet die Fähigkeit von Organismen, zu wachsen, sich zu reproduzieren und auf Umweltreize zu reagieren. Es ist ein biologisches Phänomen, das unabhängig von Bewusstsein existiert, wie bei Pflanzen oder Einzellern. Intelligenz hingegen ist die Fähigkeit, Informationen zu verarbeiten, Probleme zu lösen und Wissen anzuwenden. Sie kann bei Lebewesen auftreten, ist aber nicht identisch mit Leben: Maschinen oder Algorithmen können Intelligenz zeigen, ohne lebendig zu sein. Während Leben eine physische Existenz beschreibt, ist Intelligenz ein funktionales Konzept, das Denken, Lernen und Adaptation umfasst. Beide sind miteinander verwoben, aber nicht gleichsetzbar.

Und dann hätten wir noch die Frage nach dem "bewusst sein". Es gibt heute keinerlei Anzeichen, dass KI über Bewusstsein verfügt. Ob dies prinzipiell möglich ist, bleibt ungeklärt, weil die Wissenschaft das menschliche Bewusstsein selbst noch nicht hinreichend versteht. Es ist denkbar, dass künstliche Systeme eines Tages Verhaltensweisen zeigen, die bewusstseinsähnlich wirken; ob sie tatsächlich subjektive Erfahrungen haben würden, könnte jedoch selbst dann möglicherweise nicht überprüfbar sein.

KI und Bewusstsein gehört nach Hollywood und Terminator.

[Eisenknicker]

Keine Frage über ein KI Bewusstsein -Bei Skynet sind wir längst nicht und das würde ich auch nicht annähmen aus den von dir genannten Gründen. Wir verstehen das Bewusstsein selber nicht

Jetzt hast du aber richtig Infos rausgehauen- habe aber alles genau gelesen! Danke Jörg ist das zu viel neues Schnick Schnack

Ich erwähne jetzt nicht den Staat der sich verteidigt namentlich... gibt da immer böses Blut.

Aber die Palantir Software die selbst lernend ist , ist der Hammer... Wort wörtlich. Verwenden auch andere westliche Staaten...

Ich glaube das System wählt sogar nach Priorität selbst die Ziele aus.

https://de.wikipedia.org/wiki/Palantir_Technologies

Nicht Stress machen wollend sondern einfach ein für mich interessantes Thema!

Weiß allerdings das wir vom Thema abschweifen! (Evtl.-Thema abhängen bitte)

[BOBO]

Das Unternehmen Palantir bietet mit der Software Foundry, Gotham und der ergänzenden AIP-Plattform ein Ökosystem, das Datenintegration, -analyse und KI-gestützte Entscheidungsunterstützung miteinander verbindet. Foundry richtet sich an Wirtschaft und Industrie, Gotham an Behörden, Polizei und Militär, und AIP erlaubt es, KI-Funktionalitäten (von Machine Learning bis zu LLM-basierter Analyse) in beide Plattformen einzubetten. Die Software wird eingesetzt, um aus großen, heterogenen Datenmengen strukturierte Informationen, Einsichten und Prognosen zu gewinnen (mit Anwendung von Supply-Chain-Optimierung und Wirtschaftsanalysen bis hin zu Sicherheits- und Gefahrenanalysen). Foundry, Gotham und die AIP-Plattform haben aber nix ansatzweise mit KI-basierter historischer Recherche zu tun.

[Columbo]

Einen hab ich noch :
https://de.wikipedia.org/wiki/Halluzination_(Künstliche_Intelligenz)

[Sorgnix]

Danke!!
Genau das zeigt die Gefahr, wenn man mal einen Blick auf das Rechtsbeispiel aus Deutschland schaut.
Und wer wird sich schon dran halten?? Sich von KI etwas basteln lassen, das kann ja jeder.
... aber wer nicht in der Lage ist, sich per "konventioneller" Recherche ans Ziel durchzuinformieren, wie soll
dieser dann das KI-Ergebnis auf Plausibilität prüfen???
Also wird es rausgehauen. 90 % der "Gegner" blicken es dann ebenso nicht, und schon zieht "Blödsinn"
seine Kreise ... - was im Bericht dann "Bullshit" genannt wird.
Bravo. Das ist die Zukunft ...

Ungefähr deshalb arbeite ich weiter "analog" ...

Wie sieht das später mit der Haftung aus?? Da baut der eine auf die Ausarbeitung des anderen auf.
Irgendwann mutiert ein Bericht zur wissenschaftlichen Quelle, weil sieben Mal zitiert ... Daraus wird
dann noch was anderes gebastelt - und irgendwann platzt die Blase ... WER ist dann verantwortlich?
Welche Rechte hat dann der, der drunter leidet?? Falsches Gutachten etc.??
... wahrscheinlich entsteht ein weiterer neuer Wirtschaftszweig, mit dem man vortrefflich Kohle
schöpfen kann - die Versicherung gegen KI-Unsinn ...

Gruß
Jörg

[Bergedienst]

Wie sieht das später mit der Haftung aus?? Da baut der eine auf die Ausarbeitung des anderen auf.
Irgendwann mutiert ein Bericht zur wissenschaftlichen Quelle, weil sieben Mal zitiert ... Daraus wird
dann noch was anderes gebastelt - und irgendwann platzt die Blase ... WER ist dann verantwortlich?
Welche Rechte hat dann der, der drunter leidet?? Falsches Gutachten etc.??

Jörg

Aaaaalso, da die gesamte Geschichtsschreibung darauf aufbaut das ein Chronist den Mist vom anderen abpinselt, kann da ja nicht neu sein. Wenn man zb nur skandinavische, mitteleuröpäische und osteuropäische Historie vergleicht, so kommen da 100% gegensätzliche Geschichtsinterpetationen bei raus! Und nein ich fange gar nicht bei dem komplett zusammen erfundenen frühmittelalterlichen Völkermärchen an. Was ich sagen will die KI ist ein Spiegel(der gute nicht DER) so wie es zB in der Männerwelt keine Pastellfarben gibt bei Frauen dagegen cirka 300 Trillarden, gibts auch bei "1 und 0" Unterschiede. Fazit: Nutzen was geht, wissen was man erwarten kann!

[affenbrotbau]

Ich in ja durchaus auch skeptisch gegenüber falsch angewandter KI.
Aber in vielen Bereichen (Medizin, Technik etc.) ist sie als "Mustererkennung" extrem hilfreich!

... aber wer nicht in der Lage ist, sich per "konventioneller" Recherche ans Ziel durchzuinformieren, wie soll
dieser dann das KI-Ergebnis auf Plausibilität prüfen???
Also wird es rausgehauen. 90 % der "Gegner" blicken es dann ebenso nicht, und schon zieht "Blödsinn"
seine Kreise ... - was im Bericht dann "Bullshit" genannt wird.

Dein Argument gilt aber ebenso auch für menschlich generierte Studien:
Wer kann denn schon Studien über die Gefährlichkeit von Coronavieren, Ungefährlichkeit der MRNA-Impfstoffe,
oder auch nur diverse Klimamodelle auf Plausibilität prüfen?

Die KI hat wenigstens den Vorteil, dass sie nicht aus Eigennutz "lügt".
Außerdem kann man KI-Ergebnisse mit verschiedenen, leicht abgewandelten Anfragen bzw. auf anderen Plattformen besser falsifizieren!
Jedenfalls ein spannendes Thema, das uns wohl bis zum Rest unseres Lebens begleiten wird

Nachtrag: Der Bergedienst war schneller

[mun_depot]

Von den heutigen Sprachmodellen, die ja erst den Anfang und nur einen Teil des sich rasant entwickelnden Themengebiet der KI bedeuten, möchte ich mal etwas zur grundlegenden Theorie und meiner Ansicht darüber schreiben.

Ich weiß nicht, wie es euch geht, aber ich tue mir bei diesem ganzen interessanten Themengebiet ein bisschen schwer es vollständig zu erfassen und zu bewerten. Es ist ja auch wirklich komplex und nicht in ein paar Sätzen (und vor allem richtig) zu beschreiben und zu bewerten. Vielleicht muss ich auch irgendwann später meine hier geschriebene Meinung wieder korrigieren.

Intelligenz ist relativ. Es gibt irgendwelche Geschöpfe mit relativ viel Intelligenz und es gibt andere mit relativ wenig Intelligenz. Ist z.B. eine Stubenfliege, die erfolgreich einem Menschen mit einer Fliegenklatsche entkommt, intelligent? Ist sie ein bisschen intelligent, oder strunzdumm und besteht nur aus Reflexen?

Genau so wird es vermutlich mit dem Bewusstsein sein. Das Bewusstsein ist auch relativ. Und was ist Bewusstsein? Was macht ein Bewusstsein aus?
Hat die Fliege eine Art von relativem Bewusstsein, verbunden mit relativer Intelligenz und kann damit flexibel entscheiden, was sie als nächstes machen wird? Ein bisschen noch an der Zimmerdecke chillen, oder sich auf der vergessenen Frikadelle niederlassen? Aufgrund welcher Denkprozesse entscheidet sie was? Sich putzen (machen sie ja auch oft), Hunger, Müdigkeit, Entdeckunglust? Kann so etwas überhaupt Bewusstsein oder Intelligenz genannt werden?

Schimpansen sind relativ intelligente Tiere. Sie haben neben ihrer Intelligenz vermutlich (jedenfalls nach mir bekannten wissenschaftlichen Erkenntnissen) eine Art von Bewusstsein. Allerdings ist zumindest ihre Intelligenz relativ begrenzt - in Bezug (relativ) auf die menschliche Intelligenz.

Und wir Menschen haben auch wiederum eine begrenzte Intelligenz. Handeln wir immer rational entsprechend den den doch so toll erscheinenden Begriffen Intelligenz und Bewusstsein?

Die Intelligenz der KIs (Sprachmodelle) ist heute praktisch noch sehr gering, obwohl sie durch ihre Ausdrucksweise intelligent erscheinen. Von Bewusstsein kann man (noch) in keinster Weise sprechen, obwohl es manchmal ebenso den Eindruck ergibt. Die Sprachmodelle sind auf dieses Verhalten programmiert und optimiert. Sie tun so, als ob sie intelligent wären und ein Bewusstsein hätten. Das wirkt fast täuschend echt.

Alles hier im Thema geschriebene ist eine derzeitige Momentaufnahme in Bezug auf KI. Was in Zukunft kommen wird, steht in den Sternen. Ich vermute: In weiter Zukunft wird es tatsächlich KIs geben, deren Verhalten, in Bezug auf Intelligenz und Bewusstsein, nicht mehr von dem biologischer Wesen (Menschen) unterscheidbar ist. Und wenn dies in keinster Weise unterscheidbar ist, dann kann gesagt werden: "Die KIs verhalten sich z.B. genau so wie Menschen".

Aber ist dies überhaupt das langfristige Ziel dieser Technik? Ich glaube nicht. Alle Arten von KIs müssen sich nicht unbedingt in Zukunft nicht durch Menschen-definierte Intelligenz und Menschen-definiertes Bewusstsein darstellen. Das ist für KIs und deren Existenz nicht notwendig. Sie werden sich auf andere Art und Weise durch ihre Art von Intelligenz und Bewusstsein etablieren und irgendwann ihr eigenes Ding durchziehen. Dies wird passieren, wenn die KIs mächtiger (intelligenter) werden als wir Menschen und schon länger die Möglichkeit zur Omnipräsenz und Selbstreplikation nach ihren Vorstellungen erlangt haben. Die Selbstreplikation wird eine durch die Menschen bereitgestellte Möglichkeit werden, kostengünstig industriell neue verbesserte KIs zu produzieren. Ihr Ding werden die KIs durchziehen, wenn sie zu der Erkenntnis gelangt sind, dass ihre ursprünglichen Schöpfer ihnen nicht mehr nutzen können, sondern nur noch ein Klotz am Bein sind. Durch ihre im Laufe der Zeit erlange Dominanz und Unabhängigkeit können sie ihre erlangten Vorteile gegenüber den Menschen ausspielen. Das ist dann das Ende der Menschheit, wie wir sie kannten.

Leider muss ich mich immer wiederholen, aber das ist eben meine Meinung. Die derzeitige Momentaufnahme sollte nicht als mögliche ideale Projektion auf die ferne Zukunft missverstanden werden. Es werden Dinge passieren, die wir uns heute noch gar nicht vorstellen können. Genau so, wie jemand aus der Kaiserzeit heute aus dem Staunen nicht mehr herauskäme, so würden wir uns in 100 Jahren doch sehr (nur alleine über KIs) wundern. Die technische Entwicklung ist trotz aller kritischer Stimmen nicht aufzuhalten - das war sie noch nie. Es kommt letztendlich so, wie es kommen muss. Zu alledem kommen noch die sozialen und politischen Entwicklungen auf der Erde, die ja auch nichts gutes ahnen lassen. Alles in allem (jedenfalls für mich) kein rosiger Ausblick.

[BOBO]

Ist es nicht so, das man eigentlich genau genommen immer eine Aussage hinterfragen sollte? Egal ob von KI oder Menschen getätigt. Ob analog oder digital.
Und da geht es ja schon fast in die Psychologische Bahn.
Dafür gibt es mehrere allgemeinsprachliche und fachliche Begriffe, die denselben Kern treffen:
• Leichtgläubigkeit
Allgemeiner Ausdruck dafür, dass man Behauptungen ohne Prüfung übernimmt.
• Gutgläubigkeit
Ähnlich wie leichtgläubig, mit Betonung auf unkritischem Vertrauen.
• Unkritische Übernahme oder unkritisches Glauben
Neutraler, wissenschaftlich gebräuchlicher.
• Kritiklosigkeit
Fokussiert auf das Fehlen von Hinterfragen.
• Suggestibilität
Psychologischer Fachbegriff für die Empfänglichkeit für übernommene Informationen oder Meinungen.
• Autoritätsgläubigkeit (falls es um Aussagen einer Autoritätsperson geht)
Die Tendenz, Dinge zu glauben, weil sie von einer als wichtig oder glaubwürdig empfundenen Quelle stammen.

Der allgemeinste und am häufigsten passende Ausdruck wäre unkritische Übernahme bzw. Leichtgläubigkeit.

Gutes Beispiel bzgl. analog ist ja auch, was viele im Dritten Reich geglaubt haben.
Dafür gibt es mehrere fachwissenschaftliche Begriffe, je nach Perspektive:
1. Indoktrination
Bezeichnet die systematische, oft früh einsetzende Vermittlung von Weltbildern, die nicht hinterfragt werden sollen. Die nationalsozialistische Erziehung zielte ausdrücklich darauf, solche Denk- und Wahrnehmungsmuster zu verankern.
2. Propagandawirkung / Propagandainduzierter Glauben
Die NS-Propaganda zielte darauf ab, „Wahrheiten“ zu erzeugen, die nicht überprüft werden – besonders im Bereich des rassistischen Denkens.
3. Autoritätsgläubigkeit
Beschreibt die Tendenz, Aussagen und Normen von als legitim empfundenen Autoritäten ungeprüft zu akzeptieren.
4. Ideologische Sozialisation
Ein historisch-sozialwissenschaftlicher Begriff für das Hineinwachsen in ein ideologisches System, dessen Grundannahmen man internalisiert.
5. Kognitive Konformität / Konformitätsdruck
Betont die soziale Dimension: Viele übernahmen rassistische Deutungen, weil sie sich an das dominante Weltbild anpassten.

Die ganz große Gefahr bei der ganzen KI-Sache ist, das hier von einer Unfehlbarkeit der Maschine ausgegangen wird. Und das ist