Engineering-Notizen
Artikel für Leute, die
den Stack ausliefern
Originale Beiträge zu React, Node.js, TypeScript und AI — aus derselben Praxis wie unsere Operator-Software. Artikeltexte auf Englisch.
Tag: bpe
Tokenisierung ist eine Systemdesign-Entscheidung, kein Vorverarbeitungsschritt
Wie Byte-Level-BPE das Vokabular baut, das Ihr LLM sieht, warum Tokenzahlen je nach Sprache schwanken, welche Fehler daraus entstehen und was man messen sollte, bevor man dem Modell die Schuld gibt.
2081 WörterArtikel lesenWarum indische Sprachen in LLMs mehr Token kosten und wie man Tokenizer repariert
Derselbe Satz braucht auf Englisch 5 Token und auf Tamil 34. Wie die BPE-Trainingsdaten das verursachen, was Neugewichtung und Vokabulargröße ändern und wie Vokabularerweiterung funktioniert.
1932 WörterArtikel lesen
FAQ
Über diese Artikel
Ja. Jeder Text ist ein originales englisches Rewrite für diese Site. Struktur und Code folgen der Quelle; Prosa wird neu geschrieben und auf Überlappung geprüft.
Technische Posts zuerst auf Englisch, damit Code und APIs exakt bleiben. Die Site-Chrome gibt es in allen neun Sprachen.
Neue Entwürfe kommen nach der Redaktion in die Queue. Der Site-Import nimmt nur neue oder geänderte Slugs — ohne Duplikate.
Beispiele sind illustrativ. Prüfen Sie Stack und Lizenzen vor Produktion. Für Umsetzung den Brief senden.
Angebot in 24 Stunden
Denselben Stack in einer Operator-Schicht? Brief schicken — Angebot in 24 Stunden.