Nvidia beschreibt einen Ansatz für die Zahlenarbeit zwischen den Schichten neuronaler Netze: Gemeinsame Skalen sollen elementweise Addition und Subtraktion bei reduzierter Präzision ermöglichen. Die US-Anmeldung US20260300712A1 wurde am 1. Oktober 2026 veröffentlicht. Sie stellt ein Rechenverfahren vor, kein neues KI-Modell.
Warum dieselbe Skala zählt
Quantisierung bildet Zahlen auf ein gröberes Raster ab. Werden zwei Eingänge unterschiedlich skaliert, lassen sich ihre kompakten Werte nicht einfach addieren. Nvidia bestimmt deshalb gemeinsame Skalierungsfaktoren, wendet sie auf die Eingänge an und führt anschließend die elementweise Operation aus. Die Faktoren können für ganze Eingänge oder korrespondierende Tensorblöcke gelten. Sie werden vorab anhand repräsentativer Daten oder dynamisch berechnet. Zwischen Kandidaten aus Eingangs- und Ausgangsstatistiken kann das Verfahren die Skala mit dem geringeren mittleren quadratischen Fehler wählen.
Die Originalschrift beschreibt den Ablauf in Hauptanspruch 1, die Kalibrierung in Ansprüchen 7–13 und gemeinsame Faktoren für Teilbereiche in Ansprüchen 17–18.
Welche Belege fehlen
Die Schrift liefert keine Modellbenchmarks, gemessenen Beschleunigungswerte oder Energieeinsparungen. Eine bestimmte Bitbreite oder Integration in ein Produkt ist damit nicht belegt. Ob die gemeinsamen Skalen den Ressourcenbedarf praktisch senken, hängt auch von Rundungsfehlern und dem Aufwand der Kalibrierung ab. Dafür wären Vergleiche mit höherer Präzision auf denselben Modellen und derselben Hardware nötig.
Dokument und Status
„Scaling Element-Wise Operations of a Neural Network“: Anmelder NVIDIA Corporation; US-Anmeldung 19/091,697 vom 26. März 2025. Die Originalschrift weist keine frühere Priorität aus. A1 kennzeichnet die Anmeldungsveröffentlichung, keine Patenterteilung. Den aktuellen amtlichen Verfahrensstand konnten wir am 3. Oktober 2026 nicht unabhängig bestätigen.
Pandorex View: Der interessante Punkt ist die Rechenarbeit zwischen Netzteilen. Wird auch sie zuverlässig quantisiert, könnten mehr Verarbeitungsschritte mit kompakten Zahlen arbeiten. Wie viel das bringt, bleibt eine Messfrage.