Die Bundesregierung hat in der aktuellen ´Mobilfunkstrategie der Bundesregierung` https://www.bmvi.de/SharedDocs/DE/Anlage/DG/Digitales/Mobilfunkstrategie.pdf die dringende Probleme, mit den die Verbraucher:innen seit Jahren konfrontiert sind - tausendfach falsche Rechnungen der Mobilfunkanbieter, betrügerische Methoden der Dritt­anbieter, mangelhafter Kundenservice nicht einmal erwähnt, geschweige denn geeignete Maßnahmen entwickelt, um das betrügerischen Treiben in den Mobilfunknetzen einzudämmen und die Interessen der Verbraucher:innen zu schützen.

Ein global agierendes Netzwerk hat nach einem Bericht des „Spiegel“ mit hunderten gefälschten Facebook-Profilen in zahlreichen Ländern Propaganda verbreitet.

25.01.2020, https://www.deutschlandfunk.de/recherchen-globales-facebook-netzwerk-verbreitete-laut.1939.de.html?drn:news_id=1094399

Wenn Meldungen wie "Globales Facebook-Netzwerk verbreitete laut „Spiegel“ in vielen Ländern Propaganda" die Schlagzeilen beherrschen, dann treten die Politiker erwartungsgemäß an die Mikrophone und wiederholen Ansagen wie diese "Es ist an der Zeit für eine deutliche Reaktion der europäischen Staaten. Für soziale Netzwerke braucht es klare Regeln" [2] von der Ex-Bundesjustizminister Katarina Barley.

Es entsteht der Eindruck, dass die Politiker bis heute nicht registriert haben, dass hier vor der Haustür lange bevor Facebook erfunden wurde, DIE SOZIALE NETZWERKE und zwar agile und lebendige Netzwerke, in den mehr als bei Facebook Bundesbürger unterwegs sind, entstanden sind. Dies sind die Communities der Telekommunilkationsanbieter wie Deutsche Telekom, Vodafone, Mobilcom-Debitel, o2 Telefonica usw. DIE SOZIALE NETZWERKE vor der Haustür brauchen dringend mehr Aufmerksamkeit seitens der Politik, aber auch seitens der Medien und der Zivilgesellschaft. Diese Pressemeldung

41 000 Kunden der Mobil­funkanbieter Mobilcom-Debitel, Vodafone und Klarmobil haben falsche und zu hohe Rechnungen bekommen – für Dritt­anbieter­leistungen wie Videos oder andere auf der Rechnung nicht genannte „Dienste“, die sie gar nicht bestellt hatten.

https://www.test.de/Handy-Abofallen-Falsche-Rechnungen-fuer-41000-Kunden-5505132-0/ [3] der Stiftung Warentest vom September 2019 stellt nur eine Spitze des Eisbergs in DEN SOZIALE NETZWERKEN dar, wo insbesondere die schwächsten Teilnehmer:innen durch die Telekommunikationsanbieter drangsaliert, zermürbt und abgezockt werden.

Im zitierten Artikel [3] bescheinigt die Stiftung Warentest der Bundesnetzagentur, deren Aufgabe ist die Verbraucherinteressen zu schützen:

Die Behörde ist offen­bar auch blind für das gesamte Ausmaß des Kunden­betrugs durch dubiose Dritt­anbieter – obwohl sie seit gut zwei Jahren in einem „Fest­legungs­verfahren“ nach einem besseren Schutz von Mobil­funk­kunden vor unseriösen Dritt­anbietern sucht.

Die Bundesnetzagentur befindet sich scheinbar nicht nur seit zwei Jahren sondern seit fast zwei Jahrzehnten in einem Dornröschen Schlaf. Für die Bewertung der Qualität von Leistungen der Telekommunikationsnetzbetreiber begnügt sich die Behörde mit den Qualitätskennwerten, die allein deswegen nicht sachgerecht sind, weil diese Qualitätskennwerte auf den Annahmen und Gegebenheiten basieren [6], die Zustände auf dem Telekommunikationsmarkt im Jahr 2001 beschreiben, im Jahr 2020 aber hoffnungslos veraltet sind.

Die Bundesregierung hat in der aktuellen "Mobilfunkstrategie der Bundesregierung" die dringende Probleme, mit den die Verbraucher:innen seit Jahren konfrontiert sind - tausendfach falsche Rechnungen der Mobilfunkanbieter, betrügerische Methoden der Dritt­anbieter, mangelhafter Kundenservice nicht einmal erwähnt, geschweige denn geeignete Maßnahmen entwickelt, um das betrügerischen Treiben in den Mobilfunknetzen einzudämmen und die Interessen der Verbraucher:innen zu schützen.

Quellenverzeichnis
[1] Bundeskanzlerin Angela Merkels Facebook-Seite macht dicht, 01.02.2019 - https://www.spiegel.de/netzwelt/web/angela-merkel-verlaesst-facebook-seiten-ende-per-videoclip-angekuendigt-a-1251197.html
[2] Bundesregierung erwägt strenge Facebook-Regulierung, 26.04.2018 - https://www.golem.de/news/datenskandal-bundesregierung-erwaegt-strenge-facebook-regulierung-1804-134078.html
[3] Handy-Abofallen: Falsche Rechnungen für 41 000 Kunden, 16.09.2019 - http://web.archive.org/web/20190916154254/https://www.test.de/Handy-Abofallen-Falsche-Rechnungen-fuer-41000-Kunden-5505132-0/
[4] Massnahmen, um Mobilfunkkunden vor unseriösen Drittanbietern zu schuetzen, 22.01.2020 - https://fragdenstaat.de/anfrage/massnahmen-um-mobilfunkkunden-vor-unserioesen-drittanbietern-zu-schuetzen/
[5] Definition der Qualitätskennwerte bei der Erbringung von Telekommunikationsdienstleistungen, 17.01.2020 - https://fragdenstaat.de/anfrage/definition-der-qualitatskennwerte-bei-der-erbringung-von-telekommunikationsdienstleistungen/
[6] Kommentierung der Messvorschriften zur Erhebung der Qualitätskennwerte gemäß § 32 TKV, 14.11.2001 - https://www.aknn.de/fileadmin/uploads/oeffentlich/Kommentierung_Qualitaetskennwerte_V100.pdf
[7] Drittanbieter: Mangelhafter Schutz für Mobilfunkkunden, 13.09.2017 - https://www.marktwaechter.de/pressemeldung/drittanbieter-mangelhafter-schutz-fuer-mobilfunkkunden
[8] Mobilfunkstrategie der Bundesregierung - https://www.bmvi.de/SharedDocs/DE/Anlage/DG/Digitales/Mobilfunkstrategie.pdf
[9] Kundenservice: Erreichbarkeit und Qualität besonders verbesserungsbedürftig, 15.11.2018 - https://www.marktwaechter.de/pressemeldung/kundenservice-erreichbarkeit-und-qualitaet-besonders-verbesserungsbeduerftig
[10] Mit dem Datenschutz-Besen die Abzocke in den Mobilfunknetzen eindämmen, 21.01.2020 - https://hub.hubzilla.de/articles/nmoplus/mit-dem-datenschutz-besen-die-abzocke-in-den-mobilfunknetzen-eindaemmen
[11] DIE SOZIALE NETZWERKE vor der Haustür lebenswert gestalten. Ist-Zustand, 27.01.2020 - https://hub.hubzilla.de/articles/nmoplus/die-soziale-netzwerke-vor-der-haustuer-lebenswert-gestalten1
[12] DIE SOZIALE NETZWERKE vor der Haustür* lebenswert gestalten. Kampagne, 06.02.2020 - https://hub.hubzilla.de/articles/nmoplus/die-soziale-netzwerke-vor-der-haustuer-lebenswert-gestalten-kampagne
[13] Offener Brief: Warum Sicherheit für die lebenswerte Gestaltung DER SOZIALEN NETZWERKE vor der Haustür* wichtig ist? 06.06.2023 - https://hub.hubzilla.de/articles/nmoplus/warum-sicherheit-fuer-die-lebenswerte-gestaltung-der-sozialen-netzwerke-vor-der-haustuer-wichtig-ist
[14] DIE SOZIALE NETZWERKE vor der Haustür lebenswert gestalten. Aktionsplan, 27.01.2020 - https://hub.hubzilla.de/articles/nmoplus/die-soziale-netzwerke-vor-der-haustuer-lebenswert-gestalten-aktionsplan1

* Definition: Unter DIE SOZIALE NETZWERKE vor der Haustür (Abkürzung DISONE) im Rahmen der Kampagne "DIE SOZIALE NETZWERKE vor der Haustür lebenswert gestalten" sind die Communities der Telekommunilkationsanbieter wie Deutsche Telekom, Vodafone, Mobilcom-Debitel, o2 Telefonica usw. gemeint.

#DIESOZIALENETZWERKE #SOZIALENETZWERKE #Mobil­funkanbieter #Mobil­funk #MobilcomDebitel #Vodafone #Klarmobil #Facebook #Spiegel #FacebookProfil #Netzwerk #Propaganda #AtlanticCouncil #Datenschutz #Telekommunilkationsanbieter #Telekommunilkation #DeutscheTelekom #MobilcomDebitel #Vodafone #Telefonica #MobilfunkstrategieDerBundesregierung #Betrug #DISONE

Meiner Meinung nach gibt es keine wissenschaftliche Grundlage dafür zu behaupten, dass ChatGPT 'halluzinieren' kann. Es scheint, als würde diese Zuschreibung von vielen Wissenschaftsjournalist:innen einfach übernommen, ohne ausreichend zu prüfen, ob es wirklich zutreffend ist.

Systeme wie ChatGPT benötigen also sehr viel Kapital, doch die Annahme eine künstliche Intelligenz durch den Einsatz von statistischer KI zu erschaffen ist und bleibt zweifelhaft. Eine KI, die auf semantischem Verständnis basiert, würde mit weit weniger Rechenaufwand deutlich bessere Ergebnisse liefern. Wenn das gelingt, ist ChatGPT morgen tot.

https://biblio.hypotheses.org/5284 "Wie funktioniert Künstliche Intelligenz? Ein Gespräch mit Ranga Yogeshwar über ChatGPT und die Folgen (1)",  VON MICHAEL KNOCHE · VERÖFFENTLICHT 24. MÄRZ 2023 · AKTUALISIERT 27. MÄRZ 2023 [1]

Weil es mich interessiert, habe ich den ChatGPT-Orakel befragt.

> Befragung ChatGPT Anfang
question:
In einem Interview "Wie funktioniert Künstliche Intelligenz? Ein Gespräch mit Ranga Yogeshwar über ChatGPT und die Folgen" sagt Ranga Yogeshwar: " Eine KI, die auf semantischem Verständnis basiert, würde mit weit weniger Rechenaufwand deutlich bessere Ergebnisse liefern. Wenn das gelingt, ist ChatGPT morgen tot."
ChatGPT, wie ist der Stand der Technik, was sind die Hürden, was sind die Schwierigkeiten, die bei der Anwendung des semantischen Ansatzes zu überwinden sind, um Leistung, die mit der Leistung von ChatGPT vergleichbar ist, zu bringen?

ChatGPT-answer: Der semantische Ansatz basiert auf einer tieferen Analyse der Bedeutung von Texten und ist daher anspruchsvoller als der rein statistische Ansatz, der von ChatGPT verwendet wird. Eine semantische KI würde wahrscheinlich weniger Rechenaufwand erfordern, um bessere Ergebnisse zu erzielen, aber es gibt noch Hürden, die überwunden werden müssen. Eine Herausforderung besteht darin, die Komplexität der menschlichen Sprache vollständig zu erfassen, einschließlich der mehrdeutigen und kontextabhängigen Bedeutungen von Wörtern und Sätzen. Darüber hinaus erfordert die semantische Analyse eine umfangreiche Wissensbasis, auf der sie aufbauen kann, was eine große Menge an menschlichem Input und Validierung erfordert. Trotz dieser Herausforderungen gibt es bereits einige semantische Ansätze, die vielversprechend sind und viel Potenzial haben, die Leistung von ChatGPT zu übertreffen.Generiert von   https://chat.openai.com/ am .03.2023
> Befragung ChatGPT Ende

Meine Prognose ist, dass ChatGPT & Co. dem Mensch im Anwendungskontext "Expertenwissen" überlegen sind, in den der Mensch dafür sorgt, dass die Sprachmodelle mit ausreichend Daten in einer guten Qualität trainiert werden. Meiner Meinung nach gibt es keine wissenschaftliche Grundlage dafür zu behaupten, dass ChatGPT "halluzinieren" kann. Es scheint, als würde diese Zuschreibung von vielen Wissenschaftsjournalisten einfach übernommen, ohne ausreichend zu prüfen, ob es wirklich zutreffend ist.

Ranga Yogeshwar ist studierter Experimentalphysiker und freiberuflicher Wissenschaftsjournalist. In seiner Arbeit hat er sich immer wieder mit künstlicher Intelligenz beschäftigt. Ich habe ich ihn gefragt, wie funktionieren Systeme wie ChatGPT? Sind sie wirklich „intelligent“? Was passiert, wenn sie großflächig zum Einsatz kommen? Was hätte das für Auswirkungen auf Bibliotheken? Das Gespräch erscheint in 4 Teilen.
[...]
Ranga Yogeshwar: ChatGPT ist zunächst eine statistische KI. Hierbei werden Wörter nach rein statistischen Kriterien zusammengewürfelt. Bei der Bilderkennung hat das in der Vergangenheit sehr gut funktioniert, beim Textverständnis war dieses jedoch ein Problem, bis man sogenannte Transformer-Models einführte. 2019 kamen die ersten Aufsätze wie der hier vorliegende heraus Training language models to follow instructions with human feedback 1, und zwar mit einem Abstract, in dem es heißt: „Note, the abstract above was not written by the authors, it was generated by one of the models presented in this paper.“ Das fand ich sehr bemerkenswert, dass sich die Schlange jetzt in den Schwanz beißt. ChatGPT ist und bleibt jedoch ein Würfelspiel und fängt sogar an zu halluzinieren.

[1]

Unter Halluzination (von lateinisch alucinatio ‚Träumerei‘) versteht man eine Wahrnehmung, für die keine nachweisbare externe Reizgrundlage vorliegt. Solche Wahrnehmungen können in jedem Sinnesgebiet auftreten. Das bedeutet zum Beispiel, dass physikalisch nicht nachweisbare Objekte gesehen oder Stimmen gehört werden, ohne dass jemand spricht.

https://de.wikipedia.org/wiki/Halluzination

Wenn ChatGPT oder eine andere KI irgendwelche Aussagen macht, dann existiert IMHO immer ein Reiz und zwar sind es die im Prompt an ChatGPT übermittelten Daten, die als Reiz zu bewerten sind. Deswegen ist m.E. die Benennung des Verhaltens der KI, die unzutreffende Aussagen macht, mit Halluzination nicht zulässig.

Die Maschinen halluzinieren nach Regeln, die vom Mensch definiert wurden ;-). Also halluziniert die KI bzw. das Sprachmodell stellvertretend für den/die Erfinderin des Modells. Wenn ein Auto in der Pampa im Kreise fährt, kommt doch niemand auf die Idee dem Auto die Fähigkeit "Halluzination" zuzuschreiben, weil es angeblich selbst eine nicht existierende bzw. sinnlose Route erfindet.

= Verantwortung für kontraproduktives Verhalten der Maschine trägt der Mensch =

Nicht die Maschine, sondern der oder die Urheberin des jeweiligen Models oder Algorithmus oder die User:innen, die diese Maschine einsetzen, sind dafür verantwortlich, dass die Maschine sich anders verhält,  als erwartet - nach Ansicht mancher Mitmenschen "halluziniert". IMHO ist es wichtig, vom "Halluzination"-Begriff wegzukommen, weil der Begriff  "halluziniert" hier schlicht und einfach irreführend ist. Durch die Verwendung des Begriffs "Halluzination":

• wird die Diskussion in die Irre geführt, entsachlicht
• wird der Maschine ein halluzinatorisches Verhalten zugeschrieben, obwohl dieses Verhalten nichts mit einer "Halluzination" im Sinne der Wikipedia-Definition hat
• durch die Verwendung der "Halluzination"-Fähigkeit bezogen auf die Maschine wird IMHO davon abgelenkt, dass die Verantwortung für kontraproduktives Verhalten der Maschine der Mensch trägt. Entweder der Entwickler des Sprachmodells oder der/die User:in, der/die ggf. bei der Entdeckung des kontraproduktiven Verhaltens die Zeit dafür verwendet, um über dieses Verhalten in den Medien zu berichten statt dafür zu sorgen, dass dieser konkreter Fehler behoben wird. Ich habe noch von keinem/-r "Halluzination"-Berichterstatter:in gelesen oder gehört, dass diese ihre Zeit in ein Feedback an das Sprachmodell investiert haben und dann dafür gesorgt haben, dass das kontraproduktive Verhalten in einem bestimmten Kontext korrigiert wurde.  

IMHO wegen der Verwendung des "Halluzination"-Begriffs bezogen auf die Maschine sorgen die Mitmenschen, die in der Öffentlichkeit in der Rolle von Wissenschaftsjournalist:innen auftreten (beispielhaft Ranga Yogeshwar und Eva Wolfangel) dafür, dass die Diskussion über die Sprachmodelle in der Öffentlichkeit auf das Niveau von #TechScharlatanen absenkt. S. dazu auch:

die herablassende Haltung mancher Forum-Teilnehmer dem neuartigen Phänomen "Künstliche Intelligenz" gegenüber - s. dazu "ChatGPT goes Powershell" ist eine Sache. Man kann diese Haltung zum Teil auch nachvollziehen. Es gibt ja in der heutigen von "political corectness" geprägten Welt kaum Möglichkeit eigene Überlegenheit irgendwie geltend zu machen.
Was mir Sorgen bereitet, dass die Journalist:innen in der Berichterstattung in die gleiche von-oben-nach-unten Haltung abrutschen. Ein Paradebeispiel dafür ist m.E. dieser Artikel "ChatGPT ist lustig, aber Zeitverschwendung" - Inside IT [1] von Eva Wolfangel. Eva Wolfangel ist in [1] nicht nur als eine Journalistin, sondern als eine Kulturwissenschaftlerin präsentiert.

https://administrator.de/forum/kuenstliche-intelligenz-hat-imho-respekt-verdient-6235658495.html
und

Tech-Scharlatane und US-Senatoren verbreiten jetzt Fehlinformationen über prädiktive KI-Tools, die nicht empfindungsfähig sind.
[...]
Auch wenn es Spaß macht, sich das vorzustellen, die Idee von Sprachmodellen als aufstrebende superintelligente KI kommt den Unternehmen zugute, die sie entwickeln. Wenn große Teile der Öffentlichkeit glauben, dass wir kurz vor der Geburt fortschrittlicher maschineller Intelligenz stehen, polstert der Hype nicht nur das Endergebnis von Unternehmen wie Google und OpenAI auf, sondern hilft ihnen auch, die Verantwortung für die daraus resultierenden Vorurteile und Schäden zu vermeiden .

Übersetzt mit https://www.deepl.com/translator, zitiert von https://www.vice.com/en/article/ak3zbp/for-the-love-of-god-ai-chatbots-cant-decide-to-do-anything, Fetthervorhebung ist von mir, @neue medienordnung plus

Besser passt IMHO Die Maschine IRRT sich. Und zwar irrt sich die Maschine stellvertretend  für den/die Erfinderin des Modells bzw. für die User:innen, die im Prompt die Maschine mit irreführenden Daten versorgt haben.

Wichtig dabei ist die Bedeutung, die Rolle des Prompts beim Einsatz von ChatGPT zu verstehen:
> Befragung ChatGPT Anfang
question: Ich bitte um eine verständliche Erklärung für den Begriff "Prompt" für die Teilnehmer eines Volkshochschule-Kurses "Funktionsweise und die Handhabung von ChatGPT ".

ChatGPT-answer: In Bezug auf ChatGPT bezieht sich "Prompt" auf den Ausgangspunkt oder die Auslöser, die einem Sprachmodell gegeben werden, um eine bestimmte Art von Text zu generieren. In diesem Kontext können "Prompts" als Startpunkte für Gespräche oder Antworten auf Fragen dienen.

Wenn Sie einen Volkshochschulkurs besuchen, der sich mit der Funktionsweise und Handhabung von ChatGPT beschäftigt, können "Prompts" als Beispieltexte oder Fragestellungen dienen, die Ihnen helfen sollen, mit dem Sprachmodell zu interagieren und es zu verstehen. Ein Beispiel für einen "Prompt" könnte sein: "Bitte generieren Sie einen kurzen Text, der die Vorteile von künstlicher Intelligenz für die Medizin beschreibt." Durch die Verwendung von "Prompts" können Sie lernen, wie ChatGPT funktioniert und wie Sie es für bestimmte Aufgaben einsetzen können.
> Befragung ChatGPT Ende
Generiert von https://chat.openai.com/ am 30.03.2023

Die oben zitierte Definition erklärt sehr präzise, dass ein Prompt für das Sprachmodell ein Ausgangspunkt, ein Auslöser, ein Reiz ist. Die vom Sprachmodell generierten Inhalte sind davon abhängig, was im Prompt enthalten ist. Angesichts der Tatsache, dass ChatGPT auf der Grundlage von Prompts arbeitet, kann die These, dass es halluziniert, nicht als wissenschaftlich fundiert angesehen werden.

Einige Irrtümer und Vorurteile gegenüber dem Phänomen "Künstliche Intelligenz" (KI) können abgemildert oder beseitigt werden, wenn man ein besseres Verständnis für die Funktionsweise der KI zugrunde liegenden Neuronalen Netze versteht.

Über das Lernen in neuronalen Netzen gibt es verschiedene, inzwischen gut standardisierte Theorien. Die erste neuronale Lernregel wurde 1949 von Donald O. Hebb beschrieben (Hebbsche Lernregel); wesentliche Entwicklungen erfolgten u. a. durch Arbeiten des Finnen Teuvo Kohonen Mitte der 1980er Jahre.

Daraus ergaben sich typische Eigenschaften neuronaler Netze, die gleichermaßen für natürliche wie für künstliche „neuronale Systeme“ gelten. Dazu gehört die Eigenschaft, dass sie komplexe Muster erlernen können, ohne dass eine Abstraktion über die diesen Mustern eventuell zugrunde liegenden Regeln stattfindet. Das heißt, dass neuronale Netze nicht einem Logiksystem, sondern einer (in gewissem Sinne intuitiven) Musterverarbeitung folgen; s. a. Künstliche Intelligenz. Dies bedeutet weiterhin, dass vor dem Lernen nicht erst die Regeln entwickelt werden müssen. Andererseits kann aus dem neuronalen Netz auch nicht nachträglich eine eventuelle Logik ermittelt werden, die dessen Lernerfolg ausmachte.

Dies bedeutet wiederum nicht, dass logisches Verhalten und präzise Regeln nicht von neuronalen Netzen erlernt bzw. angewendet werden könnten. Nur müssen diese durch Training ggf. mühsam erarbeitet werden; etwa beim Erlernen der Grammatik einer Sprache über Jahre hinweg. Neuronale Netze lernen nicht explizit, sondern implizit: Die Grammatik der Muttersprache wird von einem Kleinkind zuerst implizit erlernt. Als Schulkind erlernt es die Regeln dann im Allgemeinen – noch einmal – explizit, über Regeln.

https://de.m.wikipedia.org/wiki/Neuronales_Netz#Lernen [2]

= Quellenverzeichnis =
[1] https://biblio.hypotheses.org/5284 "Wie funktioniert Künstliche Intelligenz? Ein Gespräch mit Ranga Yogeshwar über ChatGPT und die Folgen (1)",  VON MICHAEL KNOCHE · VERÖFFENTLICHT 24. MÄRZ 2023 · AKTUALISIERT 27. MÄRZ 2023
[2] Neuronales_Netz#Lernen - https://de.m.wikipedia.org/wiki/Neuronales_Netz#Lernen

#Halluzination #halluzinieren #ChatGPThalluziniert #kontraproduktivesVerhalten #Qualitätssicherung #Wissenschaftsjournalistinnen #Wissenschaftsjournalist #Wissenschaftsjournalistin #FeedbackButton #Feedback #ChatGPTDiary #chatGPT #JanusRose #TechScharlatane #RangaYogeshwar #EvaWolfangel #TechScharlatane #Prompt #ChatGPTPrompt #PromptChatGPT #PromptEngineering #MICHAELKNOCHE

In my opinion, there is no scientific basis for claiming that ChatGPT can 'hallucinate'. It seems that this attribution is simply adopted by many science journalists without sufficiently checking whether it is really true.

Systems like ChatGPT therefore require a lot of capital, but the assumption of creating artificial intelligence through the use of statistical AI is and remains doubtful. An AI based on semantic understanding would deliver significantly better results with far less computational effort. If that succeeds, ChatGPT will be dead tomorrow.

https://biblio.hypotheses.org/5284 "How does artificial intelligence work? A conversation with Ranga Yogeshwar about ChatGPT and the aftermath (1)", BY MICHAEL KNOCHE PUBLISHED 24 MARCH 2023 UPDATED 27 MARCH 2023 [1]

Because I'm interested, I consulted the ChatGPT oracle.

> Survey ChatGPT beginning
question: In an interview "How does artificial intelligence work? A conversation with Ranga Yogeshwar about ChatGPT and the consequences" Ranga Yogeshwar says: "An AI based on semantic understanding would deliver significantly better results with far less computational effort. If that succeeds, ChatGPT will be dead tomorrow."
ChatGPT, what is the state of the art, what are the hurdles, what are the difficulties to overcome in applying the semantic approach to bring performance comparable to ChatGPT?

ChatGPT-answer: The semantic approach to AI involves understanding the meaning and context of language, rather than simply recognizing patterns and statistical correlations. While this approach has shown promise in improving the accuracy and efficiency of language processing tasks, there are still several hurdles to overcome before it can reach the level of performance seen in models like ChatGPT.

One of the main challenges is developing effective algorithms for semantic analysis that can accurately capture the complex nuances of language. This requires a deep understanding of not only individual words and phrases, but also their relationships to one another and the broader context in which they are used.

Another challenge is the need for large amounts of high-quality training data to train these algorithms, which can be difficult to obtain in certain domains or languages.

Finally, there is also the issue of computational resources, as semantic analysis can be computationally intensive and require significant processing power to run efficiently.

Despite these challenges, progress is being made in the development of semantic AI, and it is possible that in the future, models based on this approach could surpass the performance of models like ChatGPT. However, it is also possible that these different approaches to AI will continue to coexist and be used in different applications depending on their specific strengths and limitations.

> Survey ChatGPT  End
Generated on https://chat.openai.com/ on 31.03.2023

My prognosis is that ChatGPT & Co. are superior to humans in the application context " expert knowledge " in which humans ensure that the language models are trained with sufficient data of good quality become. In my opinion, there is no scientific basis for claiming that ChatGPT can "hallucinate". It seems as if this attribution is simply adopted by many science journalists without adequately checking whether it is really correct.

Ranga Yogeshwar studied experimental physics and is a freelance science journalist. In his work he has repeatedly dealt with artificial intelligence. I asked him how systems like ChatGPT work? Are they really "smart"? What happens when they are used extensively? How would this affect libraries? The conversation appears in 4 parts.
[...]
Ranga Yogeshwar: First of all, ChatGPT is a statistical AI. Words are thrown together according to purely statistical criteria. In the past, this worked very well for image recognition, but this was a problem with text comprehension until so-called transformer models were introduced. In 2019 the first essays like this one, Training language models to follow instructions with human feedback 1, came out with an abstract that said: “Note, the abstract above was not written by the authors, it was generated by one of the models presented in this paper.” I found it very remarkable that the snake is now biting its own tail. However, ChatGPT is and remains a dice game and even starts to hallucinate .

[1]

Hallucination (from the Latin alucinatio 'dreaming') is a perception for which there is no demonstrable external stimulus basis. Such perceptions can occur in any sensory area. This means, for example, that physically undetectable objects are seen or voices are heard without anyone speaking.

https://de.wikipedia.org/wiki/Halluzination, Translated with Deepl.com

If ChatGPT or any other AI makes any statements, then IMHO there is always a stimulus and it is the data that is entered as a prompt that is to be evaluated as a stimulus. Therefore, in my opinion, the naming of the behavior of the AI, which makes inaccurate statements, as hallucination, does not apply .

The machines hallucinate according to rules defined by humans ;-). So the AI ​​or the language model hallucinates on behalf of the inventor of the model. When a car drives in circles in the middle of nowhere, no one thinks of attributing the ability of "hallucination" to the car, because it supposedly invents a non-existent or meaningless route itself.

= Responsibility for counterproductive behavior of the machine is borne by humans =

Not the machine, but the author of the respective model or algorithm or the users who use this machine are responsible for the machine behaving differently than expected - according to some people "hallucinating". IMHO it's important to get away from the "hallucination" term because the term "hallucinating" here is just plain misleading. By using the term "hallucination":

• if the discussion is misled, dematerialized
• hallucinatory behavior is attributed to the machine, although this behavior has nothing to do with a "hallucination" in the sense of the Wikipedia definition
• using the "hallucination" ability related to the machine IMHO distracts from the fact that the responsibility for the machine's counterproductive behavior lies with the human. Either the developer of the language model or the user who, upon discovering the counterproductive behavior, may use the time to report that behavior in the media. I have yet to read or hear of any "hallucination" reporters investing their time in providing feedback to the language model and then ensuring that the counterproductive behavior in a given context was corrected.

IMHO because of the use of the "hallucination" term in relation to the machine, the fellow human beings who appear in public in the role of science journalists (e.g. Ranga Yogeshwar and Eva Wolfangel ) ensure that the discussion about the language models in public lowering the level of #techcharlatans . See also:

the condescending attitude of some forum participants towards the new phenomenon "Artificial Intelligence" - see " ChatGPT goes Powershell " is one thing. You can understand this attitude to some extent. In today's world, which is shaped by "political corectness", there is hardly any possibility of asserting one's own superiority in any way.
What worries me is that journalists are slipping into the same top-down attitude in reporting. In my opinion, a prime example of this is this article "ChatGPT ist lustig, aber Zeitverschwendung" - Inside IT [1] by Eva Wolfangel. Eva Wolfangel is presented in [1] not only as a journalist, but as a cultural scientist.

https://administrator.de/forum/kuenstliche-intelligenz-hat-imho-respekt-verdient-6235658495.html
und

Tech charlatans and U.S. Senators are now spreading misinformation about predictive AI tools, which are not sentient.
[...]
Even when it’s fun to imagine, the idea of language models as a nascent superintelligent AI benefits the corporations creating them. If large swaths of the public believe that we are on the cusp of giving birth to advanced machine intelligence, the hype not only pads the bottom line of companies like Google and OpenAI, but helps them avoid taking responsibility for the bias and harm that result from those systems.

https://www.vice.com/en/article/ak3zbp/for-the-love-of-god-ai-chatbots-cant-decide-to-do-anything, Fat highlighting is from me, @neue medienordnung plus

Better fits IMHO Machine to be mistaken. And the machine is wrong on behalf of the inventor of the model or for the users who supplied the machine with misleading data in the prompt.

It is important to understand the role of the prompt when using ChatGPT:
> Survey ChatGPT beginning
question: I ask for an understandable explanation of the term "prompt" for the participants of an adult education course "How ChatGPT works and how to use it".

ChatGPT-answer: Sure! In the context of ChatGPT, a prompt is a piece of text that you enter to start a conversation with the AI model. You can think of it as a starting point or a question that you ask the AI to generate a response to. The prompt can be a single sentence or a longer paragraph, depending on what you want to ask or talk about.

For example, if you want to ask ChatGPT for a recipe, your prompt could be something like "Can you suggest a recipe for lasagna?" or "How do I make a vegan lasagna?". ChatGPT will then generate a response based on its training on a large dataset of text, and try to provide an answer that is relevant and coherent with the prompt. So, in short, a prompt is the text input that you give to ChatGPT to start a conversation and receive a response.
> Survey ChatGPT End
Generated by https://chat.openai.com/ on 03/31/2023

The definition quoted above explains very precisely that a prompt for the language model is a starting point, a trigger, a stimulus. The content generated by the language model depends on what is contained in the prompt. Given that ChatGPT works on a prompt basis, the thesis that it hallucinates cannot be considered scientifically sound.

= source list =
[1] https://biblio.hypotheses.org/5284 "How does artificial intelligence work? A conversation with Ranga Yogeshwar on ChatGPT and the aftermath (1)", BY MICHAEL KNOCHE PUBLISHED 24 MARCH 2023 UPDATED 27 MARCH 2023

Texts from the sources in German are translated with the translation integrated in the Chromium browser.

#Halluzination #halluzinieren #ChatGPThalluziniert #kontraproduktivesVerhalten #Qualitätssicherung #Wissenschaftsjournalistinnen #Wissenschaftsjournalist #Wissenschaftsjournalistin #FeedbackButton #Feedback #ChatGPTDiary #chatGPT #JanusRose #TechScharlatane #RangaYogeshwar #EvaWolfangel #TechScharlatane #Prompt #ChatGPTPrompt #PromptChatGPT #PromptEngineering #MICHAELKNOCHE

KI im Klassenraum – Was mit Chatbots auf Schulen und Hochschulen zukommt In 'Campus und Karriere' gehen wir diesen Fragen nach: Wie funktioniert das Programm ChatGPT und wo kann es im Bildungssystem eingesetzt werden? Wie können Lehrkräfte mit dem Betrugspotenzial der Software umgehen? Welche Konzepte für eine sinnvolle Nutzung des Textgenerators gibt es für Schulen und Hochschulen?

KI im Klassenraum – Was mit Chatbots auf Schulen und Hochschulen zukommt
In „Campus und Karriere“ gehen wir diesen Fragen nach: Wie funktioniert das Programm ChatGPT und wo kann es im Bildungssystem eingesetzt werden? Wie können Lehrkräfte mit dem Betrugspotenzial der Software umgehen? Welche Konzepte für eine sinnvolle Nutzung des Textgenerators gibt es für Schulen und Hochschulen?

Gesprächsgäste:
Bob Blume, Lehrer am Windeck-Gymnasium in Bühl, Buchautor, Blogger
Susanne Lin-Klitzing, Bundesvorsitzende des Deutschen Philologenverbands
Elke Höfler, Mediendidaktikerin, Assistenzprofessorin für Mediendidaktik und Sprachendidaktik am Institut für Romanistik an der Universität Graz
Am Mikrofon: Armin Himmelrath

Hörertelefon.: 00800 4464 4464
campus@deutschlandfunk.de

Einfach ein paar Stichworte und schon kann die KI-Software einen Aufsatz für die Schule oder einen Text fürs Hochschulseminar erstellen. Keine Zukunftsmusik sondern mit Hilfe von Programmen wie ChatGPT und anderen KI-Anwendungen ganz leicht möglich. Der Hype um die Software ChatGPT ist derzeit groß. Seit Herbst ist sie ist frei nutzbar und wurde wenige Tage nach Veröffentlichung schon von mehr als 1 Millionen Menschen genutzt. Aus wenigen Stichworten kann sie auch längere und komplexere Texte produzieren, was Schulen und Hochschulen mit Sorge registrieren. Auch andere KI-gestützte Chatbots sind frei zu haben. Schon jetzt lassen Studierende und Schülerinnen und Schüler ihre Arbeiten von Chatbots erledigen. In New York City hat das Bildungsministerium reagiert. Auf Schulgeräten und im Schulnetzwerk wird der Zugriff auf ChatGPT eingeschränkt. Neben den vielen Mahnern gibt es aber auch andere, die das kreative Potenzial sehen und damit fleißig experimentieren.

Zum Nachhören einfach auf die Schaltfläche "Hören" klicken ->   https://www.deutschlandfunk.de/campus-karriere-14-01-2023-kuenstliche-intelligenz-in-schule-und-hochschule-dlf-6bb1caad-100.html

#Chatbot #ChatGPT #CampusKarriere #Deutschlandfunk #AI #KI #KünstlicheIntelligenz #ArtificialIntelligence #Bildung #Schule #Hochschule #KIAnwendung