Die verschiedenen KI-Programme, die dieses Jahr rausgekommen sind, sind jetzt schon teilweise so beeindruckend in ihren Fähigkeiten, dass ich die u.a. von Kurzweil postulierte technologische Singularität doch gar nicht mehr für so abwegig finde.
Beeindruckend sind die, keine Frage.
Ich „chatte“ auch gerne mal mit chatGPT und versuche die AI herauszufordern.
Ist ein wirklich eloquentes Chatprogramm, absolut - im Vergleich zu früheren Chatbots total überlegen.
Dennoch… …man merkt schon, dass kein/kaum tieferes Verständnis für das Gesagte vorhanden ist.
Ich habe ihm z.B. einen einfachen topologischen Graphen definiert (3 Knoten, 2 Kanten) und gefragt, ob es einen Eulerkreis gibt.
Antwort war (sinngemäß), „Ja, gibt es“ (das stimmte aber nicht)
Darauf hingewiesen, hat es seinen Fehler zugegeben/eingesehen, aber in einer weiteren Antwort dann letztlich doch wieder behauptet, es existiere so ein Eulerkreis.
Das zeugt für mich nicht gerade von einem Verständnis. Letztlich widerspricht sich die AI dann selbst.
Für eine technol. Singularität muss da schon noch mehr passieren, glaube ich.
Aber zugegeben: Abwegig ist es nicht. Vor allem geht es natürlich in immer größeren Schritten voran und auf die Singularität zu.
ChatGPT ist halt ein Sprach-Modell, das Worte aneinander reiht, die sinnvoll klingen. Es hat gelernt, dass auf „Graph“, „Kanten“, „Knoten“ und „Eulerkreis“ ein „Ja“ folgt, weil in (willkürliche Zahl) 70% aller solcher Fragen, die zum Lernen gegeben waren, die Antwort eben „Ja“ war. Damit war das die wahrscheinlichere Antwort.
Das Konzept des Eulerkreises ist dem Sprachmodell total egal, weil es eben nur Worte liest und prüft, welche Worte bald kommen könnten. Eine mathematische Analyse der Sachverhalte, die zu Grunde liegen, wird nicht vorgenommen.
Hast du denn gefragt, ob es einen Eulerkreis in dem von dir explizit genannten Graphen gibt?
Vielleicht wurde das sonst nur allgemein interpretiert, also ob es überhaupt irgendwo Eulerkreise gibt
![image](https://forum.rocketbeans.tv/uploads/default/original/4X/c/6/c/c6c233e287e41618a4d981ff1b338dc3fb57dedd.png)
Das ergibt alles zusammengenommen überhaupt keinen Sinn, was die AI da von sich gibt.
Sie versteht also nicht, was ich überhaupt meinte.
ja, vermutlich ist es genau so, wie du es beschreibst.
Und ich meinte ja auch nur, dass für eine Singularität eben ein solches Verständnis vorhanden sein müsste
Ein interessantes Video, was es 2022 so an guten Durchbrüchen gab. Nicht alles davon dürfte für jeden interessant sein und insgesamt ist das ganze auch etwas USA-lastig, aber er hat da ein paar gute Punkte:
Ein kritischer Punkt ist vermutlich auch, dass die KI nicht weiterlernt, wenn sie mit dir schreibt. Das wurde absichtlich deaktiviert, damit sie nicht wieder korrumpiert werden kann und dann nur noch Nazi Parolen oder ähnliches schreibt.
Die aktuellen Algorithmen können halt noch nicht vom selbst zwischen richtig und falsch entscheiden. Aktuell hat jede Information für die den gleichen Stellenwert. Entsprechend erhält man nur Müll, wenn man sie ungefiltert auf die Menschheit loslässt.
Da wird sicherlich schon mit Statistikmodellen gearbeitet, in der Annahme, dass wenn etwas oft gesagt wird die Wahrscheinlichkeit hoch ist, dass es stimmt.
100% zwischen richtig und falsch unterscheiden können Menschen ja auch nicht. Es wird ja genug gelogen und es funktioniert. Die Datenbank/Datenbasis muss also immer irgendwie kuratiert sein.
Darauf kann man dann vielleicht irgendwann aufbauen, aber wenn jemand scheiße erzogen wird und nur schlechten Einfluss hat wird er unter Umständen halt auch scheiße. Das gilt für Mensch wie für KI. Bei einer KI darf das aber nicht passieren.
Euch allen einen schönen
Witzig dass das ViralHog heißt haha