Archiv: Invalid line for variable

Hi bekomme aktuell mein Log voll gespamt mit

Sieht für mich aus, als würde irgend wo im System mal wieder fälschlicherweise mit Float gearbeitet und dieser gespeichert. Die Werte kommen mit zwei Nachkommastellen. Eine Regeneration hilft leider nicht. Die Datensätze befinden sich in der hour.csv und day.csv der entsprechenden Variable.

51034.day.csv:1597356000,25.310180433204896,419,5.579999923706055,63209,1296.0999755859376
51034.day.csv:1611788400,117.92195735940227,24672,8.449999809265137,70138,1838.0999755859376
51034.day.csv:1614034800,71.46965772441146,49005,6.0,70100,1815.0999755859376
51034.day.csv:1621807200,58.706999753172677,41712,6.300000190734863,72004,1717.0999755859376
51034.hour.csv:1580558400,203.55160570515506,0,16.270000457763673,635,1304.0999755859376
51034.hour.csv:1581174000,59.90489707999756,3388,18.889999389648439,1210,188.30999755859376
51034.hour.csv:1581177600,146.3704080936644,44,18.84000015258789,3223,1297.0999755859376
51034.hour.csv:1581336000,22.202091684341423,2422,14.430000305175782,51,144.80999755859376
51034.hour.csv:1581415200,197.8045722537569,0,14.010000228881836,1311,1266.0999755859376
51034.hour.csv:1581937200,25.011797226005148,2386,12.84000015258789,179,140.30999755859376
51034.hour.csv:1581951600,193.95540862772215,3209,13.3100004196167,15,1270.0999755859376
51034.hour.csv:1582124400,20.512799988852593,2402,12.800000190734864,114,137.30999755859376
51034.hour.csv:1582574400,40.31451380014416,1914,13.760000228881836,416,155.80999755859376
51034.hour.csv:1582714800,59.665516761144029,3155,20.93000030517578,3554,1302.0999755859376
51034.hour.csv:1583686800,183.97364006254404,2725,16.549999237060548,2768,1302.0999755859376
51034.hour.csv:1583715600,150.92110693719673,3247,21.06999969482422,0,1167.0999755859376
51034.hour.csv:1585022400,51.24041671276097,2533,23.059999465942384,86,172.30999755859376
51034.hour.csv:1585526400,98.77109668678713,2743,24.450000762939454,3451,1325.0999755859376
51034.hour.csv:1589302800,178.19306288494023,2567,5.630000114440918,10,1293.0999755859376
51034.hour.csv:1589511600,64.26896098507784,3146,18.040000915527345,1062,205.30999755859376
51034.hour.csv:1589724000,37.75274713860619,2346,5.820000171661377,624,190.80999755859376
51034.hour.csv:1594695600,28.524841754568955,2591,5.710000038146973,3,166.30999755859376
51034.hour.csv:1597417200,189.76752838055308,24,11.649999618530274,2009,1296.0999755859376
51034.hour.csv:1598493600,183.93429159495597,1053,5.75,2002,1274.0999755859376
51034.hour.csv:1598544000,30.613397230174784,2522,5.789999961853027,586,174.80999755859376
51034.hour.csv:1600444800,43.660497186316408,3039,5.829999923706055,26,167.80999755859376
51034.hour.csv:1601229600,45.107505513562127,2256,11.90999984741211,102,174.30999755859376
51034.hour.csv:1601902800,205.6720827929181,236,21.399999618530275,1934,1335.0999755859376
51034.hour.csv:1603260000,46.30467224862843,3380,15.34000015258789,210,164.30999755859376
51034.hour.csv:1605884400,79.04449161105682,3351,24.979999542236329,1141,191.80999755859376
51034.hour.csv:1606647600,80.27857200940467,3502,33.369998931884769,1300,188.30999755859376
51034.hour.csv:1607328000,63.34041657500793,3170,15.180000305175782,132,174.30999755859376
51034.hour.csv:1607976000,192.53669304529823,2829,14.619999885559082,370,1289.0999755859376
51034.hour.csv:1609200000,194.11671721299508,0,14.899999618530274,909,1311.0999755859376
51034.hour.csv:1609398000,254.35759428660098,2664,33.90999984741211,1780,1430.0999755859376
51034.hour.csv:1609524000,183.47445422914303,309,27.760000228881837,0,1292.0999755859376
51034.hour.csv:1609545600,212.79449466493385,421,25.739999771118165,779,1316.0999755859376
51034.hour.csv:1609794000,212.09409655306076,1146,25.68000030517578,1377,1328.0999755859376
51034.hour.csv:1610024400,223.0731814437446,1163,8.569999694824219,1213,1321.0999755859376
51034.hour.csv:1610092800,69.6510610236062,2741,23.06999969482422,1169,200.30999755859376
51034.hour.csv:1610406000,216.0811071846219,522,26.15999984741211,598,1306.0999755859376
51034.hour.csv:1610766000,59.46141620053179,2550,28.760000228881837,0,181.30999755859376
51034.hour.csv:1611007200,44.761891917652587,2468,22.68000030517578,277,165.80999755859376
51034.hour.csv:1611856800,69.60778968016307,1132,22.90999984741211,1738,1838.0999755859376
51034.hour.csv:1612605600,79.02644442929163,2927,21.010000228881837,1404,186.80999755859376
51034.hour.csv:1613192400,204.4236237584222,424,27.850000381469728,6,1260.0999755859376
51034.hour.csv:1614060000,190.9822629038494,3332,14.520000457763672,2,1255.0999755859376
51034.hour.csv:1614103200,37.212433341344198,1639,12.239999771118164,1700,1815.0999755859376
51034.hour.csv:1614340800,23.40324723879497,1580,12.789999961853028,50,169.80999755859376
51034.hour.csv:1615417200,29.120377754635287,2053,12.020000457763672,52,154.80999755859376
51034.hour.csv:1615669200,161.51347416824758,2028,11.859999656677246,2955,1283.0999755859376
51034.hour.csv:1616025600,45.87611683368683,3242,24.860000610351564,3083,173.30999755859376
51034.hour.csv:1616428800,31.97973040024442,2201,15.359999656677246,9,174.80999755859376
51034.hour.csv:1616439600,69.87679977655414,2870,15.029999732971192,1843,201.30999755859376
51034.hour.csv:1616850000,66.62742761956317,2888,11.899999618530274,1356,188.30999755859376
51034.hour.csv:1617102000,29.890163728131204,2631,5.869999885559082,67,184.80999755859376
51034.hour.csv:1617523200,205.41113171153558,855,19.780000686645509,1820,1316.0999755859376
51034.hour.csv:1617624000,77.29050813754408,3351,13.739999771118164,1373,203.30999755859376
51034.hour.csv:1617980400,198.97703882959125,696,6.289999961853027,752,1272.0999755859376
51034.hour.csv:1619168400,207.2937404674955,1290,8.649999618530274,1339,1306.0999755859376
51034.hour.csv:1619186400,29.52384426858691,1773,18.270000457763673,103,211.30999755859376
51034.hour.csv:1619316000,214.17361870527254,1623,14.4399995803833,1681,1302.0999755859376
51034.hour.csv:1620349200,194.95133522801928,755,14.699999809265137,2461,1274.0999755859376
51034.hour.csv:1621206000,201.4433182573321,201,16.260000228881837,961,1290.0999755859376
51034.hour.csv:1621490400,61.65314990838371,3215,12.770000457763672,1119,176.80999755859376
51034.hour.csv:1621879200,24.04677483532164,1078,14.15999984741211,4,1717.0999755859376
51034.hour.csv:1621987200,40.094708416461937,3563,15.369999885559082,124,173.30999755859376
51034.hour.csv:1623081600,184.66843288938189,1660,5.760000228881836,1989,1261.0999755859376
51034.hour.csv:1623495600,42.18898345483669,2999,5.800000190734863,216,175.80999755859376

Eigentlich sollten die problematischen Zeilen in den Rohdaten sein, da nur diese bei der Reaggregation durchgearbeitet werden. Hattest du die Rohdaten (in den Jahresordnern) ebenfalls in deine Suche einbezogen?

paresy

Ja ich habe alle csv Dateien nach diesem einen Wert durchsucht. Was mir noch aufgefallen ist, dass bei einem Neustart sehr viele Variablen dieses Problem haben.

Aber mal ehrlich arbeitet ihr Intern wirklich mit einem Float, oder wie kann es zu diesem Fehler kommen?

Ohja, die hab ich auch. Viele. Sehr viele !
Wäre gut wenn die bei der Reaggregation beseitig würden. Hatte das ab und wann mal händisch gemacht, aber da suchst dir ja einen Wolf.


gruß
bb

mich kraut es mehr, dass software entwickler immer in der datenverarbeitung noch mit floats arbeiten, obwohl gerade bei solchen daten es seit jahrzehnte bekannt sein müsste, dass man dies nicht tut :frowning:

ich hoffe das wird schnell gefixt. ist ja schnell mit einem passenden round gefixt.

Was ist den jetzt das Vorgehen um diesen Fehler zu beheben?

Kannst du mir deinen DB Ordner mal zippen und zur Verfügung stellen? Ich würde das Problem gerne nachstellen - denn bei den System, die ich im Zugriff habe, passiert dies leider nicht.

paresy

Klar kann ich machen. Hast du in der letzten Version was geändert? Nach dem Update sind die Fehlermeldungen weg. Der Datensatz ist abber weiterhin z.B. 1296.0999755859376 vorhanden.

Hier eine erklärung warum es zu sowas kommen kann: Rundungsfehler bei Float-Werten - vectorsoft

Wenn man also intern mit Floats arbeitet, dann sollte man mindestens einen round einbauen.

Perfekt - Schick es am besten an support@symcon.de - Dann schaue ich es mir an und kann genaueres dazu sagen :slight_smile:

paresy