Führen Sie mit GPT4All eine Kopie von ChatGPT lokal und kostenlos unter Windows aus

Für Offline-Benutzer stehen viele KI-Chatbots zur Verfügung, wobei fast täglich neue, vielseitige und zunehmend verbesserte Lösungen auf den Markt kommen. Unter allen verfügbaren Optionen kann GPT4All als eine der besten angesehen werden.

Es gibt viele Gründe, es auszuprobieren, beispielsweise weil GPT4All es Ihnen ermöglicht, mit Ihren Dokumenten zu chatten. Sie müssen es nicht „trainieren“, keine teuren Server zum Speichern seiner Daten verwenden oder sich mit der Python-Programmierung befassen. Sie können GPT4All einfach „Ihre Dokumente hinzufügen“, da GPTXNUMXAll darauf abzielt, mithilfe Ihrer Daten „seine Wissensdatenbank zu erweitern“. Verifizieren So erstellen Sie eine benutzerdefinierte ChatGPT-Instanz mit Ihren eigenen Daten.

Sehen wir uns an, wie Sie GPT4All auf einem Windows-Computer installieren und verwenden können.

Was sind einige der Funktionen von GPT4All?

Es gibt viele Gründe, sich für GPT4All gegenüber jedem anderen verfügbaren Modell, einschließlich ChatGPT, zu entscheiden.

1. Sie können GPT4All nur mit der integrierten CPU Ihres Computers ausführen. Es ist keine leistungsstarke (und teure) GPU mit mehr als zehn GB VRAM erforderlich (obwohl dies für ein besseres Erlebnis hilfreich sein kann).
2. GPT4All ist eine vollständig Offline-Lösung und ist daher auch dann verfügbar, wenn Sie keinen Internetzugang haben.
3. Offline zu sein und als „lokale App“ zu fungieren bedeutet auch, dass alle Daten, die Sie damit teilen, auf Ihrem Computer bleiben – die Ersteller können keinen „Einblick in Ihre Gespräche“ werfen.
4. Da es ausschließlich auf Ihren Computer angewiesen ist, wird es nicht langsamer, reagiert nicht mehr und ignoriert Ihre Eingabeaufforderungen nicht, wie es bei ChatGPT der Fall ist, wenn seine Server überlastet sind.
5. Mit GPT4All können Sie Ihre Dokumente mühelos zum „Wissenspool“ hinzufügen. Anschließend kann es Informationen von ihnen in seine Antworten einfließen lassen und so zu einem echten persönlichen Assistenten werden, der „sich auskennt“ und nicht zu einem generischen Chatbot.

Ist das dasselbe wie die lokale Installation von ChatGPT?

Egal, ob Sie mit einem Chatbot streiten oder einen Dienst wie Copilot nutzen, der Ihnen beim mühelosen Schreiben von Code hilft, Sie interagieren mit einem großen Sprachmodell (LLM). Wenn Sie mit dem Begriff nicht vertraut sind, lesen Sie unseren Artikel darüber Was sind LLMs und wie funktionieren sie?.

Das in ChatGPT verwendete GPT-Modell gilt als eines der fortschrittlichsten der Welt ... aber es ist auch umfangreich, ressourcenintensiv und vollständig proprietär. Daher können Sie ChatGPT aus folgenden Gründen nicht auf Ihrem Computer installieren:

1. Da es sich um eine Closed-Source-Lösung handelt, kann nur der Ersteller OpenAI auf seine „internen Komponenten“ zugreifen und sie auf seinen Servern ausführen.
2. Es ist so groß und ressourcenintensiv, dass es unmöglich ist, es auf einem Verbrauchercomputer auszuführen.

Sie können jedoch über GPT4All andere LLMs auf Ihrem Computer installieren und verwenden, sofern diese nicht viel CPU benötigen oder in den begrenzten VRAM Ihrer GPU passen.

Hinweis: Das KI-Hardwarebeschleunigungs-Ökosystem von Nvidia gilt allgemein als ausgereifter. Infolgedessen gibt es mehr Nvidia-fokussierte Anwendungen für GPU-beschleunigte Aufgaben wie Videokodierung und jetzt auch maschinelles Lernen. GPT4All gehört zu den Tools, die mit Nvidia-GPUs „besser spielen“. Verifizieren Was ist der Unterschied zwischen Nvidia GTX und Nvidia RTX?

So installieren Sie GPT4All

GPT4All ist für Windows, macOS und Ubuntu verfügbar. In diesem Artikel verwenden wir die Windows-Version.

• Laden Sie den Windows-Installationsassistenten herunter von Offizielle GPT4All-Website.

• Führen Sie die heruntergeladene Anwendung aus und befolgen Sie die Schritte des Assistenten, um GPT4All auf Ihrem Computer zu installieren.

• Das GPT4All-Installationsprogramm muss zusätzliche Daten herunterladen, damit die Anwendung funktioniert. Wenn das Installationsprogramm also fehlschlägt, versuchen Sie, es neu zu starten, nachdem Sie ihm über Ihre Firewall Zugriff gewährt haben.

• Wenn Sie sich endlich die GPT4All-Schnittstelle ansehen, müssen Sie auch das Sprachmodell herunterladen, um es verwenden zu können. GPT4All stellt Ihnen eine Liste der verfügbaren Modelle zur Verfügung. Überprüfen Sie die Größe (neben dem Namen) und die Betriebsspezifikationen, um sicherzustellen, dass Sie über genügend RAM oder VRAM verfügen. Wenn Sie ein Formular auswählen, klicken Sie auf die Schaltfläche Herunterladen Zum Herunterladen und Installieren von GPT4All.

• Wenn Sie Ihre Meinung ändern, klicken Sie auf die Schaltfläche إلغاء Um den aktiven Download zu stoppen, können Sie ein anderes Modell auswählen.

• Wenn Sie mehrere Modelle ausprobieren möchten, können Sie GPT4All parallel herunterladen, um Zeit zu sparen. Beachten Sie jedoch, dass schnell mehrere Gigabyte verbraucht sein können. Stellen Sie daher sicher, dass Sie über ausreichend Speicherplatz für alle von Ihnen ausgewählten Modelle verfügen.

Lernen Sie GPT4All kennen

Wenn GPT4All installiert und einige Beispiel-LLMs heruntergeladen sind, können Sie jetzt mit Ihrem KI-Chatbot chatten.

• Verwenden Sie das Dropdown-Menü oben im GPT4All-Fenster, um das aktive Sprachmodell auszuwählen.

• Verwenden Sie das Menüsymbol Oben zum Zugriff GPT4All-Bedienfeld.

• Mit den ersten Optionen im GPT4All-Bedienfeld können Sie eine neue Konversation erstellen, die vorhandene Konversation umbenennen oder entfernen.

• Mit der Schaltfläche „Updates“ können Sie die App aktualisieren und Komponenten hinzufügen oder entfernen.

• Über die Schaltfläche „Downloads“ erhalten Sie Zugriff auf das Bedienfeld „Sprachbeispiele“.

• Sie können das Bedienfeld „Sprachvorlagen“ verwenden, um neue LLMs zu installieren, installierte Vorlagen zu entfernen und ihren Download-Pfad zu ändern.

• Der Chat mit dem LLM-Modell in GPT4All ähnelt der Online-Version von ChatGPT. Geben Sie etwas in das Eingabefeld unten im GPT4All-Fenster ein und drücken Sie dann Enter , Sie sehen Ihre Eingabeaufforderung in der Hauptansicht von GPT4All. Die ausgewählte Sprachmodellantwort wird unter Ihrer Eingabeaufforderung angezeigt.

• Wenn Ihnen die auf Ihrem Bildschirm generierte LLM-Antwort nicht gefällt, können Sie wie bei ChatGPT auf klicken Stoppen Sie die Generierung Um den Vorgang zu unterbrechen.

• Wenn Ihnen eine bereits generierte Antwort nicht gefällt und Sie eine alternative Antwort sehen möchten, können Sie ebenfalls auf die Schaltfläche „Antwort neu generieren“ klicken, die an derselben Stelle angezeigt wird

• Beachten Sie, dass Sie mit GPT4All auch auf sogenannte nicht eingeschränkte Sprachmodelle zugreifen können. Was nicht mit künstlichen Einschränkungen verbunden ist. Diese „Freiheit“ „befreit“ ihn angeblich und „ermöglicht“ ihm, kreativer zu sein und realistischere Antworten zu geben. Dies bedeutet jedoch auch, dass es zu anstößigen Ergebnissen kommen kann.

• Mit den ersten beiden Schaltflächen oben in der App können Sie eine Konversation zurücksetzen oder sie in die Zwischenablage kopieren, um sie an anderer Stelle einzufügen.

• Über die dritte Schaltfläche (mit dem Zahnradsymbol) erhalten Sie Zugriff auf die GPT4All-Einstellungen.

• Auf der Registerkarte „Build“ in den GPT4All-Einstellungen können Sie die Parameter des aktiven Sprachmodells konfigurieren. Durch Ändern von Variablen wie Temperatur und Frequenz können Sie die Kreativität, Genauigkeit usw. optimieren.

• Auf der Registerkarte „Anwendung“ können Sie ein Standardmodell für GPT4All auswählen, einen Download-Pfad für das Sprachmodell angeben, eine bestimmte Anzahl von CPU-Kernen für die Anwendung festlegen, jede Konversation automatisch lokal speichern und den Zugriff auf den internen Webserver ermöglichen Ihren bevorzugten Webbrowser.

Chatten Sie mit Ihren Dokumenten mit GPT4All

Das Beste an GPT4All ist jedoch, wie einfach es ist, Ihr Dokument dem von Ihnen gewählten Sprachmodell hinzuzufügen. Wie wir gesehen haben, ist es mit ChatGPT möglich, dasselbe zu tun und ein benutzerdefiniertes ChatGPT mit Ihren eigenen Daten zu erstellen. Mit GPT4All ist der Vorgang jedoch viel einfacher und die Nutzung ist kostenlos ChatGPT-API für Open AI.

• Legen Sie einige Ihrer Dokumente in einen Ordner. Stellen Sie sicher, dass sie in einem weitgehend kompatiblen Dateiformat vorliegen, z. B. TXT, MD (für Markdown), Doc usw.

• Gehen Sie im GPT4All-Einstellungsfeld zur Registerkarte LocalDocs Plugin (Beta). Klicken Sie auf die Schaltfläche „Durchsuchen“ und verweisen Sie die Anwendung auf den Ordner, in dem Sie Ihre Dokumente abgelegt haben. Klicken Sie dann auf „Hinzufügen“, um es in die Liste „GPT4All externe Dokumente“ einzufügen.

• In der Dokumentenliste des LocalDocs-Plugins von GPT4All wird ein Eintrag für Ihren Ordner „Dokumente“ angezeigt. Wenn Sie einen Ordner „Dokumente“ entfernen möchten, wählen Sie ihn hier aus und klicken Sie rechts daneben auf die Schaltfläche „Entfernen“.

• An derselben Stelle können Sie unten links im Bedienfeld die Größe des Dokumentausschnitts und die zu verarbeitenden Dokumentausschnitte pro Anspruch anpassen. Durch Erhöhen wird die Fähigkeit des ausgewählten Sprachmodells verbessert, Ihre Dokumente zu „verstehen“ und relevantere Antworten bereitzustellen. Allerdings wird GPT4All dadurch auch erheblich verlangsamt, da es Ihre Dokumente nach jeder Eingabeaufforderung analysieren muss.

• Sie können Ihre externen Dokumente über die Schaltfläche „GPT4All Collections“ verwalten.

• Sie können GPT4All mehrere Dokumentensätze hinzufügen. Es ist jedoch besser, dass Sie, anstatt sie alle ständig aktiv zu haben, was sich negativ auf die Leistung von GPT4All auswirkt, die Sammlung von Dokumenten („Sammlung“), die Sie aktivieren möchten, über das Bedienfeld „Sammlungen“ steuern können.

• Nachdem Sie einige Dokumente hinzugefügt und deren Sammlung aktiviert haben, teilt Ihnen GPT4All nach einer Aufforderung mit, dass sie verarbeitet werden.

• Jedes Mal, wenn GPT4All eine Antwort bereitstellt, die Daten aus Ihren Dokumenten abruft, wird in der Antwort eine Liste mit Referenzen und Kontextlinks angezeigt.

• Wenn Sie auf den Kontextlink klicken, zeigt Ihnen GPT4All einen Textausschnitt aus Ihren Dokumenten an, den es in seiner Antwort verwendet hat.

ChatGPT-Version unter Windows

GPT4All und die Sprachmodelle, die Sie damit verwenden können, sind möglicherweise nicht unbedingt mit dem Mainstream-ChatGPT vergleichbar, aber sie sind dennoch nützlich.

Kreative Benutzer haben verschiedene geniale Möglichkeiten gefunden, solche Modelle so zu verbessern, dass sie selbst dann, wenn sie auf kleinere Datensätze oder langsamere Hardware als bei ChatGPT angewiesen sind, diesem nahe kommen oder es in manchen Fällen sogar übertreffen können.

Anstatt im Detail auf die Vor- und Nachteile jedes verfügbaren Modells einzugehen, warum probieren Sie es nicht selbst aus? GPT4All macht es einfach. Sie können es jetzt ansehen Beste ChatGPT-Eingabeaufforderungen zur Beseitigung digitaler Ablenkungen.