Also wenn man die Werte multipliziert, dann kommt annähernd der Wert raus, aber das ist sicher nicht die Art und Weise wie das berechnet wird (dafür ist die Abweichung zu groß). Hast du noch mehr Beispiele für die Koordinaten?

Oder vllt. noch ne detailiertere Fehlermeldung?