Hallo,
erhalte im Kernel:Messages folgende Fehlermeldung:
Error executing script: Floating Point overflow
Was sollte mir dieser Fehler sagen?
Gruß Philipp
Hallo,
erhalte im Kernel:Messages folgende Fehlermeldung:
Error executing script: Floating Point overflow
Was sollte mir dieser Fehler sagen?
Gruß Philipp
… das ist doch klar weil beim Floating-Point-Format der Aufbau aus einem Vorzeichen-Bit, eine 16-Bit-Mantisse, und einen 7-Bit-Exponenten (mit einem Bias von -63) besteht.
Der 7-bittige Exponent reserviert wieder zwei Sonderfälle: 0000000 für Null (bzw. Denorms), und 1111111 für Inf und NaN.
Der kleinste logische Exponent ist demnach 1 - 63 = -62, der größte logische Exponent ist 126 - 63 = 63.
Das ist gegenüber dem, was FP16 bietet (nämlich -14 bis 15) natürlich sehr viel mehr. Konkret heißt das, dass sowohl sehr viel kleinerer als auch sehr viel größere Zahlen dargestellt werden können.
In beide Richtung lässt sich das Komma um jeweils bis zu 48 Stellen weiter verschieben, als mit der FP16-Darstellung möglich.
Ich vermute mal, Du hast genau hier einen Fehler gemacht
MST
Und Morgen die Lektion „Informatik 2“ - Multiplikation mittels Bitverschiebung
Toni
Wir (Philipp und sein Script auf meiner Anlage) haben den Fehler (noch in der Nacht) durch entfernen der erzeugenden Abfragen abschalten können.
Die vom LCN zurückgegebenen Werte scheinen sich da nicht mit Michaels Vorstellungen decken zu wollen
Irgendjemand aus der „LCN-Crew“ wird es schon verstehen
65534 Grüße …
Hallo,
haber mir die Scriptberechnung nochmal angeschaut, und das Problem lag an einem zurückgegebenen Wert der leider nicht in der vorgesehene Range lag, und somit einen gewaltingen Exponten verursachte.:mad:
Habs korrigiert und jetzt läufts.
Gruß Philipp