Da sich der Bereich der künstlichen Intelligenz weiterhin in einem schwindelerregenden Tempo entwickelt, steht ein neuer Anwärter kurz davor, das Spielfeld zu betreten. TruthGPT, ein vom Tech-Milliardär Elon Musk vorgeschlagener KI-Chatbot, sorgt online für viel Aufsehen.
Aber was ist TruthGPT? Warum will Elon Musk es schaffen? Und wie wird es sich von den KI-Tools unterscheiden, die wir bereits haben?
Was ist TruthGPT?
TruthGPT ist ein vorgeschlagenes KI-Modell, das darauf abzielt, die Probleme bestehender Modelle anzugehen, die ChatGPT und Bard antreiben, mit besonderem Schwerpunkt auf Wahrheit und Sicherheit. Laut Elon Musk wird TruthGPT eine „maximal wahrheitssuchende“ KI sein, die die Natur der Universum und es ist unwahrscheinlich, dass es die Menschheit zerstört, weil es den Menschen als einen kritischen Bestandteil des Universums ansieht Universum.
Maximale wahrheitssuchende KI? Die Natur des Universums verstehen?
Es sei Ihnen verziehen, wenn Musks Beschreibung Ihnen kein klares Bild davon gibt, was genau er zu bauen versucht. Sie werden jedoch eine bessere Vorstellung davon bekommen, wovon er spricht, wenn Sie sich ansehen, warum er überhaupt versucht, es zu bauen.
Warum baut Elon Musk TruthGPT?
Im Gespräch mit Fox News, drückte Elon Musk seine Besorgnis darüber aus, wie große KI-Firmen Voreingenommenheit und Desinformation durch KI-Chatbots aufrechterhalten können – ein aufkommendes Tool, auf das sich die Menschen zunehmend verlassen, wenn es um Informationen geht. Elon Musk kommentierte auch die Bedrohung, die KI für die Menschheit darstellt, und betonte die Möglichkeit einer KI-Apokalypse, eines Szenarios, in dem KI-Systeme die Kontrolle über unser tägliches Leben übernehmen könnten.
Elon Musk hat Unternehmen wie OpenAI und Google herausgegriffen, die seiner Ansicht nach nicht genug in den Bereichen KI-Sicherheit und Schutz vor Desinformation tun, und schlug eine dritte Kraft vor – TruthGPT. Der CEO von SpaceX und Tesla will TruthGPT als Gegengewicht zu Googles Bard und OpenAIs ChatGPT schaffen. Die Idee ist, ein KI-Modell zu erstellen, das so weit wie möglich versucht, in den bereitgestellten Informationen wahrheitsgemäß zu sein.
Elon Musk, der kürzlich einen offenen Brief verfasst hat, in dem er eine Moratorium für die Entwicklung leistungsfähiger KI Modelle (insbesondere diejenigen, die leistungsstärker als GPT-4 sind), glaubt, dass sich die KI zu schnell bewegt. Er glaubt, dass wir unseren Ansatz zur KI-Sicherheit verlangsamen und neu bewerten müssen, bevor die KI „die Kontrolle übernimmt“. TruthGPT ist ein Large Language Model (LLM), das verspricht, diese beiden Kernanliegen mit der heutigen KI zu adressieren Systeme.
Wie würde TruthGPT aussehen?
Der erste Hinweis darauf, wie TruthGPT aussehen würde, steckt im Namen. In Anbetracht des „GPT“-Anhangs wird TruthGPT wahrscheinlich eine ähnliche Architektur wie ChatGPT haben. Denken Sie daran, Elon Musk half beim Aufbau von OpenAI und dem Team, das das GPT-Modell von ChatGPT erstellt hat.
Angesichts der Tatsache, dass sich die Architektur von GPT sowohl als technischer als auch als kommerzieller Erfolg erwiesen hat, wird es wahrscheinlich zu zeitaufwändig und kostspielig sein, einen anderen Weg einzuschlagen. Zeit ist eine Sache, die Elon Musk nicht hat, wenn er so schnell wie möglich etwas bauen will, das wirklich mit modernster KI Schritt halten kann. Lassen Sie sich also nicht zu sehr aufregen – TruthGPT unterscheidet sich möglicherweise nicht so radikal von den KI-Tools, die wir bereits haben.
Die Genauigkeit oder in Elon Musks Fachsprache „Wahrhaftigkeit“ eines KI-Modells hängt stark von seinen Trainingsdaten und dem Trainingsalgorithmus ab. Wir sind uns nicht ganz sicher, wie die Trainingsdaten von TruthGPT bezogen werden, aber um die beste Chance zu haben, ein LLM zu erstellen, das so ist „wahrheitsgetreu“ wie möglich, müsste Elon Musks TruthGPT Daten aus „wahrheitsgemäßen Quellen“ priorisieren. Aber genau das ist es Problem. Wahrheit ist ein sehr subjektives Konzept. Was für mich gilt, gilt möglicherweise nicht für Sie.
Ist diese Idee einer maximal wahrheitssuchenden KI also überhaupt praktikabel?
Warum das Bauen von WahrheitGPT eine große Herausforderung ist
Wenn du verstehen, wie große Sprachmodelle wie GPT funktionieren, wird deutlich, dass es unpraktisch ist, immer richtig zu liegen. Typischerweise auf einem großen Datensatz von Internetdaten trainiert, werden viele davon erwartungsgemäß falsche Informationen sein, und LLMs haben keine träge Möglichkeit, Fakten von Fiktionen zu unterscheiden.
Die beste Intervention kommt in der Regel von menschlichen Trainern, die versuchen, dem Sprachmodell beizubringen, was gutes und was schlechtes Verhalten ist. Aber menschliche Trainer sind voreingenommen. Bias wird an die KI-Modelle weitergegeben, wodurch der ganze Zweck einer "maximal wahrheitssuchenden KI" zunichte gemacht wird. Beachten Sie, dass wir hier nicht von offener Voreingenommenheit oder Vorurteilen gegenüber einem Volk oder Ähnlichem sprechen. Es ist die subtilere Voreingenommenheit darüber, wie Sie Sprache, Situationen, Herausforderungen usw. interpretieren, die in den Prozess eindringen. Menschen sind schließlich Menschen.
Natürlich kann die Genauigkeit auch von der Algorithmusseite her angegangen werden. Unabhängig vom Algorithmus stellt die Mehrdeutigkeit der Sprache jedoch immer noch ein großes Problem für die Genauigkeit von KI-Modellen dar. Sogar Menschen haben oft Schwierigkeiten, die Bedeutung eines Satzes oder einer Phrase genau zu interpretieren, was zu Fehlinformationen führt. Bei KI-Modellen kann Mehrdeutigkeit zu Fehlinterpretationen führen, die zu Ungenauigkeiten führen.
Für Musk scheint TruthGPT eine Chance zu sein, ein KI-Modell zu schnitzen, das er für geeignet hält, die Wahrheit zu liefern. Wie das zustande kommen würde, ohne seine eigenen Vorurteile einzubringen, ist eine ganz andere Frage, die uns effektiv zum Anfang des Gesprächs zurückführt. Wie unterscheiden sich Musks Meinungen darüber, was voreingenommen oder nicht ist, von denen, die ChatGPT trainiert und geleitet haben?
Ist TruthGPT eine aufregende Möglichkeit?
Elon Musks Pläne für TruthGPT scheinen edel und lobenswert. Der Aufbau eines KI-Modells mit einer vernachlässigbaren Häufigkeit von Ungenauigkeiten ist jedoch eine schwierige Aufgabe.
Obwohl wir erwarten würden, dass ein Tech-Milliardär, der die Raketenwissenschaft entmystifiziert hat, in der Lage ist, so etwas auf die Beine zu stellen, sind einige Dinge leichter gesagt als getan.
