Montach dann
ChatGPT & AI
-
-
#382 RichterinWinkelmann 25 Nov. 2023, 08:16Zitat von: BigBANG
Die Gerüchteküche brodelt
Nein. Das ist halt fundamental nicht wie gradient descent basierte AI funktionieren kann. -
#383 Pumpernickel 25 Nov. 2023, 10:39Zitat von: RichterinWinkelmann
Nein. Das ist halt fundamental nicht wie gradient descent basierte AI funktionieren kann.Finds immer wieder witzig wie ein Random Mensch im Internet, niemals an diesen Projekten beteiligt, von seinem zu Hause aus in Bielefeld Nordwest, ein random fabulöses Video mit Random Einblendungen von verschiedenen Berichten und wilden Spekulationen bewerten kann, ohne auch nur im entferntesten einen Einblick in die tatsächliche Arbeit derer zu haben, um die es eigentlich geht.
Und dann sowas sagt wie: das ist aber nicht wie xy funktioniert.
Bei Thematiken, die, wenn sie stimmen, etwas andeuten, dass es noch niemals zuvor gab. Ein richtiger BigBang. Hunderte von schlauen Menschen, die diese Tat vollbracht haben.
Aber Ronny aus Bielefeld sagt dann: nö, so geht das nicht.
Ok. -
-
-
#386 RichterinWinkelmann 25 Nov. 2023, 16:51
Zitat von: Pumpernickel
Finds immer wieder witzig wie ein Random Mensch im Internet, niemals an diesen Projekten beteiligt, von seinem zu Hause aus in Bielefeld Nordwest, ein random fabulöses Video mit Random Einblendungen von verschiedenen Berichten und wilden Spekulationen bewerten kann, ohne auch nur im entferntesten einen Einblick in die tatsächliche Arbeit derer zu haben, um die es eigentlich geht.Du hast halt keine Ahnung wie maschinelle Lernverfahren funktionieren. Das ist ja auch okay, hat nicht jeder Informatik studiert. Die aktuell angewandten Methoden basieren fundamental auf der Wiedergabe von bereits existierenden, von der Anwendung "gelernten" Daten. Was die in dem Video sagen ist, dass es möglich ist, diese Daten selbst zu generieren, mit anderen KIs, statt sie zu minen, was sehr kosten- weil rechenintensiv ist. Aber auch so wirst Du nie originale Ideen generieren, sondern nur reproduzieren was schon existierte.
Und dann sowas sagt wie: das ist aber nicht wie xy funktioniert.
Bei Thematiken, die, wenn sie stimmen, etwas andeuten, dass es noch niemals zuvor gab. Ein richtiger BigBang. Hunderte von schlauen Menschen, die diese Tat vollbracht haben.
Aber Ronny aus Bielefeld sagt dann: nö, so geht das nicht.
Ok.
Selbst wenn es stimmen sollte, dass man unendliche Trainingsdaten auf eine Art und Weise generieren kann, die sie äquivalent zu echten Daten macht, was ich bezweifle, weil ein Großteil vom Data Mining halt die Erkenntnisgewinnung über Zusammenhänge ist, die für den menschlichen Intellekt nicht evident sind, hat das nichts mit einer AGI zu tun. Die müsste sich nämlich selber verbessern können. Mit originalen Ideen, was wiederum absolut konträr zu gradient descent basierten NNs ist.
Aber was weiß ich als Ronnie aus Bielefeld schon. Zumindest bin ich nicht dumm genug zu glauben, der CEO einer Firma würde unbedingt die Wahrheit über die Fähigkeiten des eigenen Produktes sagen. -
#387 Pumpernickel 26 Nov. 2023, 21:31
Zitat von: RichterinWinkelmann
Du hast halt keine Ahnung wie maschinelle Lernverfahren funktionieren. Das ist ja auch okay, hat nicht jeder Informatik studiert. Die aktuell angewandten Methoden basieren fundamental auf der Wiedergabe von bereits existierenden, von der Anwendung "gelernten" Daten. Was die in dem Video sagen ist, dass es möglich ist, diese Daten selbst zu generieren, mit anderen KIs, statt sie zu minen, was sehr kosten- weil rechenintensiv ist. Aber auch so wirst Du nie originale Ideen generieren, sondern nur reproduzieren was schon existierte.Auch wenn ich keine Informatik studiert habe, so sind mir, da mich das Thema auch interessiert, deine Ausführungen klar.
Selbst wenn es stimmen sollte, dass man unendliche Trainingsdaten auf eine Art und Weise generieren kann, die sie äquivalent zu echten Daten macht, was ich bezweifle, weil ein Großteil vom Data Mining halt die Erkenntnisgewinnung über Zusammenhänge ist, die für den menschlichen Intellekt nicht evident sind, hat das nichts mit einer AGI zu tun. Die müsste sich nämlich selber verbessern können. Mit originalen Ideen, was wiederum absolut konträr zu gradient descent basierten NNs ist.
Aber was weiß ich als Ronnie aus Bielefeld schon. Zumindest bin ich nicht dumm genug zu glauben, der CEO einer Firma würde unbedingt die Wahrheit über die Fähigkeiten des eigenen Produktes sagen.
Zugegeben, ich hätte nicht so schöne und passende Begriffe dafür nutzen können, das Prinzip ist mir aber klar.
Auch ich frage mich, wie es gehen soll, dass diese, wenn man so will AGI, autark und ohne lediglich vorhandenes gelerntes zu reproduzieren selbstständig denken zu können.
Vielleicht steckt ein Teil der Antwort schon in deinem zweiten Absatz (AI verbessert sich selbst mit originalen Ideen, obwohl absolut konträr zu gradient descent basierten NNs ist (kein Schimmer was das bedeuten soll, aber da geb ich jetzt halt auch nen Fick drauf))
Würde mich halt nicht hinstellen und sagen, ich weiß es besser, weil man einfach einen Scheißdreck involviert ist.
Der CEO hat auch nur blabla von sich gegeben, alles was grad gekocht wird ist ne riesige Gerüchtesuppe. Und genau da liegt halt der Knackpunkt: würde mir halt im Traum nicht einfallen, da den Zeigefinger zu heben und zu sagen: moment a mol, des basst Etzerdla aber so ned. Find sowas halt einfach nur hochgradig albern. -
#388 Linda van da Slampn 27 Nov. 2023, 14:53Zitat von: RichterinWinkelmann
Du hast halt keine Ahnung wie maschinelle Lernverfahren funktionieren. Das ist ja auch okay, hat nicht jeder Informatik studiert. Die aktuell angewandten Methoden basieren fundamental auf der Wiedergabe von bereits existierenden, von der Anwendung "gelernten" Daten. Was die in dem Video sagen ist, dass es möglich ist, diese Daten selbst zu generieren, mit anderen KIs, statt sie zu minen, was sehr kosten- weil rechenintensiv ist. Aber auch so wirst Du nie originale Ideen generieren, sondern nur reproduzieren was schon existierte.Erstens sprechen wir mittlerweile nicht mehr über traditionelles Maschinelles Lernen, sondern über Large Language Modelle/Generative KI. Und zweitens sind deine ganzen anderen Annahmen garnicht sauber definiert:
1. Du müsstest ja erst mal definieren, was eine "originale Idee" ist. Vermutlich sprichst du von Innovation oder Kreativität. Du solltest vielleicht wissen, dass Künstler und Erfinder nie komplett neue Dinge aus dem nichts erschaffen, sondern immer bereits vorhandene Idee mit anderen meist bekannten Konzepten kombinieren. Das können LLM spielend - das Problem sind die Leute, die die Fragen stellen. Shit in Shit out
2. Du hast weder Ahnung, wie der Mensch funktioniert, noch wie Modelle arbeiten. Man versucht gerade erst rauszufinden, wie LLMs überhaupt funktionieren. Dabei findet man wirklich verblüffende Dinge. Beispielsweise hat man vor kurzem erst herausgefunden, dass LLMs ähnliche wie denkende Lebenwesen kongnitive Modelle der realen Welt erschaffen. Gibt man einem LLM beispielsweise kommentarlos 100e von Schachzügen, dann erstellt das LLM bei der Frage nach dem nächste Zug ein virtuelles Modell eines Schachbretts mit besetzten und unbesetzten Feldern. Es erschafft sich "im Kopf" eine Hypothese über ein Schachspiel, von dem es noch nie was gehört hat. Kann mir nichts intelligenteres vorstellen. Anderes Beispiel: Lass dir mal von DALL.E3 ein Bild erstellen. Die Generatoren haben selbständig ein Konzept von Perspektive, Raum und Schattenwurf entwickelt, ohne dass man ihnen das beigebracht hat. Die Modelle leben in einer 2D Welt, haben aber eine Hypothese von einer 3D-Welt entwickelt, ohne dass man ihnen das irgendwie vermittelt hat. Wie geil ist das?
3. Was soll eigentlich so schwer dran sein, den menschlichen Verstand zu übertreffen? Die meisten Leute sind so unglaublich blöd und geben den ganzen Tag nur den Krempel der Tagesschau wieder, ohne eine Hauch einer eigenen Idee. Ich denke AGI wird relativ easy - dauert nicht mehr lang -
#389 RichterinWinkelmann 27 Nov. 2023, 15:07
Zitat von: Linda van da Slampn
Erstens sprechen wir mittlerweile nicht mehr über traditionelles Maschinelles Lernen, sondern über Large Language Modelle/Generative KI. Und zweitens sind deine ganzen anderen Annahmen garnicht sauber definiert:wat
1. Du müsstest ja erst mal definieren, was eine "originale Idee" ist. Vermutlich sprichst du von Innovation oder Kreativität. Du solltest vielleicht wissen, dass Künstler und Erfinder nie komplett neue Dinge aus dem nichts erschaffen, sondern immer bereits vorhandene Idee mit anderen meist bekannten Konzepten kombinieren. Das können LLM spielend - das Problem sind die Leute, die die Fragen stellen. Shit in Shit out
2. Du hast weder Ahnung, wie der Mensch funktioniert, noch wie Modelle arbeiten. Man versucht gerade erst rauszufinden, wie LLMs überhaupt funktionieren. Dabei findet man wirklich verblüffende Dinge. Beispielsweise hat man vor kurzem erst herausgefunden, dass LLMs ähnliche wie denkende Lebenwesen kongnitive Modelle der realen Welt erschaffen. Gibt man einem LLM beispielsweise kommentarlos 100e von Schachzügen, dann erstellt das LLM bei der Frage nach dem nächste Zug ein virtuelles Modell eines Schachbretts mit besetzten und unbesetzten Feldern. Es erschafft sich "im Kopf" eine Hypothese über ein Schachspiel, von dem es noch nie was gehört hat. Kann mir nichts intelligenteres vorstellen. Anderes Beispiel: Lass dir mal von DALL.E3 ein Bild erstellen. Die Generatoren haben selbständig ein Konzept von Perspektive, Raum und Schattenwurf entwickelt, ohne dass man ihnen das beigebracht hat. Die Modelle leben in einer 2D Welt, haben aber eine Hypothese von einer 3D-Welt entwickelt, ohne dass man ihnen das irgendwie vermittelt hat. Wie geil ist das?
3. Was soll eigentlich so schwer dran sein, den menschlichen Verstand zu übertreffen? Die meisten Leute sind so unglaublich blöd und geben den ganzen Tag nur den Krempel der Tagesschau wieder, ohne eine Hauch einer eigenen Idee. Ich denke AGI wird relativ easy - dauert nicht mehr lang
Die Technik hinter LLMs ist natürlich bekannt, wie meinst Du hat man die sonst programmiert? Das sind essentiell probabilistische Schätzmodelle die versuchen Sequenzen von idR Wortbigrammen zu erzeugen. Dazu lernen sie von einem großen Korpus existierenden Text. Das ist auch schon des Pudels Kern. So ein LLM kann gar nicht neue Gedanken denken, da es essentiell bewertet, was laut dem Trainingskorpus das wahrscheinlichste wäre. Der ist aber ja von Menschen erstellt und erdacht.
>Beispielsweise hat man vor kurzem erst herausgefunden, dass LLMs ähnliche wie denkende Lebenwesen kongnitive Modelle der realen Welt erschaffen. Gibt man einem LLM beispielsweise kommentarlos 100e von Schachzügen, dann erstellt das LLM bei der Frage nach dem nächste Zug ein virtuelles Modell eines Schachbretts mit besetzten und unbesetzten Feldern. Es erschafft sich "im Kopf" eine Hypothese über ein Schachspiel, von dem es noch nie was gehört hat.
Gib dafür mal eine Quelle, bitte. Das ist nämlich absoluter Unfug. ChatGPT kann doch nichtmal fehlerfrei Grundrechenarten im Zahlenraum bis 100. Eben weil es kein wirkliches Konzept von Inhalten hat, diese "versteht", sondern Dinge nachplappert. -
#390 Linda van da Slampn 27 Nov. 2023, 17:31
Zitat von: RichterinWinkelmann
Die Technik hinter LLMs ist natürlich bekannt, wie meinst Du hat man die sonst programmiert? Das sind essentiell probabilistische Schätzmodelle die versuchen Sequenzen von idR Wortbigrammen zu erzeugen. Dazu lernen sie von einem großen Korpus existierenden Text. Das ist auch schon des Pudels Kern. So ein LLM kann gar nicht neue Gedanken denken, da es essentiell bewertet, was laut dem Trainingskorpus das wahrscheinlichste wäre. Der ist aber ja von Menschen erstellt und erdacht.Die Technik der Gehirns ist auch schon ewig bekannt. Einfach irgendwelche Neuronen, die über Synapsen verbunden sind - so what.
Dewegen habe ich ja auch nicht über Technik gesprochen, sonderen über Ordnungsprinzipien von Neuronalen Modellen bzw. LLMs. Die sind erst mal eine Black Box. Man kann die nicht einfach aufmachen und verstehen, wie die funktionieren. Man kann sie höchstens befragen, um zu verstehen, wie die Dinger eigentlich georndnet sind.
Zitat von: RichterinWinkelmannGib dafür mal eine Quelle, bitte. Das ist nämlich absoluter Unfug. ChatGPT kann doch nichtmal fehlerfrei Grundrechenarten im Zahlenraum bis 100. Eben weil es kein wirkliches Konzept von Inhalten hat, diese "versteht", sondern Dinge nachplappert.Othello-GPT
https://arxiv.org/abs/2210.13382
Probes in Latent Diffusion Models
https://yc015.github.io/scene-representation-diffusion-model/
Hier ganz geiles Video, was die Mental Models erklärt:
Ab einer bestimmten Größe der Trainingsdaten, fängt die KI an, diese mentalen Modelle aufzubauen. Man vermutet, dass das auch auf die Grundrechenarten zutrifft. Er wird dann nicht mehr irgend einen Quark erzählen, sondern von sich aus eine Art Rechenmodell entwickeln. So ähnlich wie ein Grundschüler, der aufhört sich Ergebnisse zu merken und stattdessen einzelne Rechenschritte automatisiert. -
-
#392 Linda van da Slampn 28 Nov. 2023, 22:10
Zitat von: Muskelbiber
Wann kann der Taschenrechner sowas
Pika ist wirklich cool. Hab damit schon geile Dinge hinbekommen, z.B alte Jugendfotos animiert oder Ritter auf einer Renaissance-Wandbespannung bewegt. Das Problem ist halt, dass man im Moment noch zig Versuche braucht, bevor es gut aussieht. Dazwischen kommt wirklich ne Menge bizzarer Müll raus -
-
-
#395 Elon Nurz 29 Nov. 2023, 07:40Zitat von: Linda van da Slampn
Pika ist wirklich cool. Hab damit schon geile Dinge hinbekommen, z.B alte Jugendfotos animiert oder Ritter auf einer Renaissance-Wandbespannung bewegt. Das Problem ist halt, dass man im Moment noch zig Versuche braucht, bevor es gut aussieht. Dazwischen kommt wirklich ne Menge bizzarer Müll rausHast du nicht zufällig versehentlich unsere Bundesregierung in einem solchen Zwischenschritt generiert? -
-
-
-
#399 rauchmeddler 11 Dez. 2023, 13:07
Zitat:Der Traffic auf sogenannten Nudify-Diensten hat im September 2023 mit 24 Millionen Besuchern nach Angaben von Graphika, einem Unternehmen, das soziale Netzwerke analysiert, einen Höchststand erreicht.
-
