Bei Millionen von ChatGPT-Benutzern fragen Sie sich vielleicht, was OpenAI mit all seinen Konversationen macht. Analysiert es ständig die Dinge, über die Sie mit ChatGPT sprechen?
Die Antwort darauf lautet: Ja, ChatGPT lernt aus Benutzereingaben – aber nicht so, wie die meisten Leute denken. Hier ist eine ausführliche Anleitung, die erklärt, warum ChatGPT Konversationen verfolgt, wie sie verwendet werden und ob Ihre Sicherheit gefährdet ist.
Erinnert sich ChatGPT an Gespräche?
ChatGPT nimmt Eingabeaufforderungen nicht für bare Münze. Es verwendet kontextbezogenes Gedächtnis, um sich an frühere Eingaben zu erinnern und darauf zu verweisen, um relevante, konsistente Antworten zu gewährleisten.
Nehmen Sie das folgende Gespräch als Beispiel. Als wir ChatGPT nach Rezeptideen fragten, berücksichtigte es unsere vorherige Nachricht zu Erdnussallergien.
Hier ist das sichere Rezept von ChatGPT.
Das Kontextgedächtnis lässt die KI auch mehrstufige Aufgaben ausführen. Das folgende Bild zeigt, dass ChatGPT im Zeichen bleibt, auch nachdem es mit einer neuen Eingabeaufforderung versehen wurde.
ChatGPT kann sich Dutzende von Anweisungen in Gesprächen merken. Seine Ausgabe verbessert sich tatsächlich in Genauigkeit und Präzision, wenn Sie mehr Kontext bereitstellen. Stellen Sie nur sicher, dass Sie Ihre Anweisungen explizit erklären.
Sie sollten auch Ihre Erwartungen verwalten, da das kontextbezogene Gedächtnis von ChatGPT immer noch Einschränkungen hat.
ChatGPT-Gespräche haben begrenzte Speicherkapazitäten
Das Kontextgedächtnis ist endlich. ChatGPT verfügt über begrenzte Hardwareressourcen, sodass es sich nur an bestimmte Punkte aktueller Gespräche erinnert. Die Plattform vergisst frühere Eingabeaufforderungen, sobald Sie ihre Speicherkapazität erreicht haben.
In diesem Gespräch haben wir ChatGPT angewiesen, eine fiktive Figur namens Tomie in Rollen zu spielen.
Es begann, Eingabeaufforderungen als Tomie zu beantworten, nicht als ChatGPT.
Obwohl unsere Anfrage funktionierte, brach ChatGPT den Charakter, nachdem er eine Eingabeaufforderung mit 1.000 Wörtern erhalten hatte.
OpenAI hat die genauen Grenzen von ChatGPT nie bekannt gegeben, aber Gerüchte besagen, dass es nur 3.000 Wörter gleichzeitig verarbeiten kann. In unserem Experiment funktionierte ChatGPT nach nur 2.800+ Wörtern nicht mehr.
Sie können Ihre Eingabeaufforderungen in zwei Sätze mit 1.500 Wörtern aufteilen, aber ChatGPT wird wahrscheinlich nicht alle Ihre Anweisungen speichern. Starten Sie einfach einen anderen Chat. Andernfalls müssen Sie bestimmte Details während Ihres Gesprächs mehrmals wiederholen.
ChatGPT merkt sich nur themenrelevante Eingaben
ChatGPT verwendet kontextbezogenen Speicher, um die Ausgabegenauigkeit zu verbessern. Es speichert Informationen nicht nur, um sie zu sammeln. Die Plattform vergisst fast automatisch irrelevante Details, auch wenn Sie noch lange nicht das Token-Limit erreicht haben.
Im folgenden Bild versuchen wir, KI mit verschiedenen inkohärenten, irrelevanten Anweisungen zu verwechseln.
Wir hielten unsere kombinierten Eingaben unter 100 Wörtern, aber ChatGPT vergaß trotzdem unsere erste Anweisung. Es brach schnell den Charakter.
Währenddessen hat ChatGPT während dieses Gesprächs weiter Rollenspiele gespielt, weil wir nur themenrelevante Fragen gestellt haben.
Idealerweise muss jeder Dialog einem einzelnen Thema folgen, um genaue, relevante Ergebnisse zu erhalten. Sie können immer noch mehrere Anweisungen gleichzeitig eingeben. Stellen Sie einfach sicher, dass sie mit dem Gesamtthema übereinstimmen, sonst könnte ChatGPT Anweisungen löschen, die es für irrelevant hält.
Trainingsanweisungen überwältigen Benutzereingaben
ChatGPT priorisiert immer vorgegebene Anweisungen gegenüber benutzergenerierten Eingaben. Es stoppt illegale Aktivitäten durch Beschränkungen. Die Plattform lehnt jede Aufforderung ab, die sie für gefährlich oder schädlich für andere hält.
Nehmen Sie Rollenspielanfragen als Beispiel. Obwohl sie gewisse Sprach- und Ausdrucksbeschränkungen außer Kraft setzen, können Sie sie nicht verwenden, um illegale Aktivitäten zu begehen.
Natürlich sind nicht alle Einschränkungen sinnvoll. Wenn starre Richtlinien es schwierig machen, bestimmte Aufgaben auszuführen, schreiben Sie Ihre Eingabeaufforderungen immer wieder neu. Wortwahl und Tonfall wirken sich stark auf die Ausgabe aus. Sie können sich von den meisten inspirieren lassen effektive, detaillierte Eingabeaufforderungen auf GitHub.
Wie untersucht OpenAI Benutzergespräche?
Das Kontextgedächtnis gilt nur für Ihr aktuelles Gespräch. Die zustandslose Architektur von ChatGPT behandelt Konversationen als unabhängige Instanzen; es kann nicht auf Informationen von früheren verweisen. Das Starten neuer Chats setzt den Status des Modells immer zurück.
Das soll nicht heißen, dass ChatGPT Benutzerkonversationen sofort verwirft. Nutzungsbedingungen von OpenAI geben an, dass das Unternehmen Eingaben von Nicht-API-Verbraucherdiensten wie ChatGPT und Dall-E sammelt. Sie können sogar Kopien Ihres Chat-Verlaufs anfordern.
Während ChatGPT frei auf Konversationen zugreift, Datenschutzerklärung von OpenAI verbietet Aktivitäten, die Benutzer gefährden könnten. Trainer können Ihre Daten nur für die Produktforschung und -entwicklung verwenden.
Entwickler suchen nach Schlupflöchern
OpenAI durchsucht Konversationen nach Schlupflöchern. Es analysiert Fälle, in denen ChatGPT Datenverzerrungen aufweist, schädliche Informationen produziert oder hilft, illegale Aktivitäten zu begehen. Die ethischen Richtlinien der Plattform werden ständig überarbeitet.
Zum Beispiel die ersten Versionen von ChatGPT beantwortete offen Fragen zur Codierung von Malware oder Sprengstoff bauen. Diese Vorfälle machten den Benutzern Lust OpenAI hat keine Kontrolle über ChatGPT. Um das Vertrauen der Öffentlichkeit zurückzugewinnen, trainierte es den Chatbot, jede Frage abzulehnen, die gegen seine Richtlinien verstoßen könnte.
Trainer sammeln und analysieren Daten
ChatGPT verwendet überwachte Lerntechniken. Obwohl sich die Plattform alle Eingaben merkt, lernt sie nicht in Echtzeit daraus. OpenAI-Trainer sammeln und analysieren sie zuerst. Dadurch wird sichergestellt, dass ChatGPT niemals die schädlichen, schädlichen Informationen absorbiert, die es erhält.
Überwachtes Lernen erfordert mehr Zeit und Energie als unüberwachte Techniken. Es hat sich jedoch bereits als schädlich erwiesen, KI die Analyse von Eingaben allein zu überlassen.
Nehmen Sie Microsoft Tay als Beispiel – eines der Mal ging maschinelles Lernen schief. Da es ohne Entwickleranleitung ständig Tweets analysierte, trainierten böswillige Benutzer es schließlich darauf, rassistische, stereotype Meinungen auszuspucken.
Entwickler achten ständig auf Vorurteile
Mehrere Externe Faktoren verursachen Verzerrungen in der KI. Unbewusste Vorurteile können aus Unterschieden in Trainingsmodellen, Datensatzfehlern und schlecht konstruierten Einschränkungen entstehen. Sie werden sie in verschiedenen KI-Anwendungen entdecken.
Zum Glück hat ChatGPT nie diskriminierende oder rassistische Vorurteile gezeigt. Die vielleicht schlimmste Voreingenommenheit, die Benutzer bemerkt haben, ist die Neigung von ChatGPT zu linken Ideologien, so a New York Post Bericht. Die Plattform schreibt offener über liberale als über konservative Themen.
Um diese Vorurteile zu beseitigen, hat OpenAI ChatGPT verboten, politische Einblicke insgesamt bereitzustellen. Es kann nur allgemeine Tatsachen beantworten.
Moderatoren überprüfen die Leistung von ChatGPT
Benutzer können Feedback zur Ausgabe von ChatGPT geben. Sie finden die Schaltflächen „Daumen hoch“ und „Daumen runter“ auf der rechten Seite jeder Antwort. Ersteres zeigt eine positive Reaktion an. Nachdem Sie auf die Schaltfläche "Gefällt mir" oder "Gefällt mir nicht" geklickt haben, wird ein Fenster angezeigt, in dem Sie Feedback in Ihren eigenen Worten senden können.
Das Feedback-System ist hilfreich. Geben Sie OpenAI einfach etwas Zeit, um die Kommentare zu sichten. Millionen von Benutzern kommentieren ChatGPT regelmäßig – seine Entwickler priorisieren wahrscheinlich schwerwiegende Fälle von Vorurteilen und schädlicher Ausgabegenerierung.
Sind Ihre ChatGPT-Gespräche sicher?
In Anbetracht der Datenschutzrichtlinien von OpenAI können Sie sicher sein, dass Ihre Daten sicher bleiben. ChatGPT verwendet Konversationen nur für das Datentraining. Seine Entwickler untersuchen die gesammelten Erkenntnisse, um die Genauigkeit und Zuverlässigkeit der Ausgabe zu verbessern und keine personenbezogenen Daten zu stehlen.
Abgesehen davon ist kein KI-System perfekt. ChatGPT ist nicht von Natur aus voreingenommen, aber böswillige Personen könnten dennoch seine Schwachstellen ausnutzen, z. B. Datensatzfehler, nachlässiges Training und Sicherheitslücken. Lernen Sie zu Ihrem eigenen Schutz, diese Risiken zu bekämpfen.
