Floating Point overflow

Hallo,

erhalte im Kernel:Messages folgende Fehlermeldung:

Error executing script: Floating Point overflow

Was sollte mir dieser Fehler sagen?

Gruß Philipp

… das ist doch klar weil beim Floating-Point-Format der Aufbau aus einem Vorzeichen-Bit, eine 16-Bit-Mantisse, und einen 7-Bit-Exponenten (mit einem Bias von -63) besteht.
Der 7-bittige Exponent reserviert wieder zwei Sonderfälle: 0000000 für Null (bzw. Denorms), und 1111111 für Inf und NaN.
Der kleinste logische Exponent ist demnach 1 - 63 = -62, der größte logische Exponent ist 126 - 63 = 63.
Das ist gegenüber dem, was FP16 bietet (nämlich -14 bis 15) natürlich sehr viel mehr. Konkret heißt das, dass sowohl sehr viel kleinerer als auch sehr viel größere Zahlen dargestellt werden können.
In beide Richtung lässt sich das Komma um jeweils bis zu 48 Stellen weiter verschieben, als mit der FP16-Darstellung möglich.
Ich vermute mal, Du hast genau hier einen Fehler gemacht :wink:

MST

Und Morgen die Lektion „Informatik 2“ - Multiplikation mittels Bitverschiebung :smiley: :wink:

Toni

Wir (Philipp und sein Script auf meiner Anlage) haben den Fehler (noch in der Nacht) durch entfernen der erzeugenden Abfragen abschalten können.

Die vom LCN zurückgegebenen Werte scheinen sich da nicht mit Michaels Vorstellungen decken zu wollen :wink:

Irgendjemand aus der „LCN-Crew“ wird es schon verstehen :slight_smile:

65534 Grüße …

Hallo,

haber mir die Scriptberechnung nochmal angeschaut, und das Problem lag an einem zurückgegebenen Wert der leider nicht in der vorgesehene Range lag, und somit einen gewaltingen Exponten verursachte.:mad:
Habs korrigiert und jetzt läufts.:smiley:

Gruß Philipp