Schlagwort: ollama
Teil 1: Ein Modell auf deinem eigenen Rechner
Was ein Sprachmodell ist, was du brauchst, um eines auf deinem eigenen Rechner laufen zu lassen, und dein erstes Gespräch mit ihm im Terminal, mit Ollama.
Einsteiger15 Min.Teil 2: Aus dem Code mit dem Modell sprechen
Schick deine erste Anfrage aus TypeScript an das lokale Modell, lern, wie ein Gespräch für ein Modell aussieht, und bau einen kleinen Chat im Terminal, der die Antwort zeigt, während sie geschrieben wird.
Einsteiger20 Min.Teil 3: Eine Persona und ein Prompt, der schnell bleibt
Mach mit einem System-Prompt aus dem Modell Pixel, sag ihm mit jeder Anfrage Datum und Uhrzeit, halt das Gespräch kurz und ordne den Prompt so an, dass das Modell seine Arbeit wiederverwenden kann.
Einsteiger20 Min.Teil 4: Werkzeuge, oder wie das Modell das Licht schaltet
Bau ein kleines virtuelles Zuhause und gib dem Modell sein erstes Werkzeug. Lerne, wie Tool Calling wirklich funktioniert: Das Modell bittet nur, dein Code handelt, und das Ergebnis geht zurück ins Gespräch.
Einsteiger25 Min.Teil 5: Timer, das Wetter und Werkzeuge, die selbst antworten
Bau Timer, die von selbst klingeln, und ein Wetter-Werkzeug, das einen kostenlosen Dienst im Internet fragt, und mach den Assistenten doppelt so schnell, indem Werkzeuge, die handeln, für sich selbst sprechen.
Einsteiger25 Min.Teil 7: Die Antworten des Modells prüfen
Ein kleines Modell behauptet Dinge, die es nicht getan hat, antwortet, wo es nicht sollte, und antwortet manchmal gar nicht. Fang alle drei Fälle im Code ab: Prüf jede Antwort, bevor sie jemand hört.
Einsteiger20 Min.Teil 8: Ein Gedächtnis, das nach Bedeutung findet
Gib dem Assistenten ein Gedächtnis, das einen Neustart übersteht. Lern, was Embeddings sind, speichere Fakten mit ihnen, finde die richtigen nach ihrer Bedeutung statt nach ihren Wörtern und leg sie dem Modell vor.
Einsteiger25 Min.