On 17 Paź, 23:42, Wojciech Muła
<w...@p...null.onet.pl.invalid> wrote:
> Mariusz Marszałkowski <m...@g...com> wrote:
> > > Nie słyszałem o niczym takim. A co masz w tych wierszach?
> > > Te wiersze się powtarzają?
>
> > Np. jest 30 kolumn i 20mln wierszy. Dane często wyglądają tak,
> > jakby sąsiadujące wiersze miały z dużym prawdopodobieństwem
> > te sam wartości w kolumnach. Np. w kolumnie 3-ciej od wiersza
> > 100 do 200 są same jedynki, w kolumnie 2 od wiersza 50 do 150
> > są same zera. Wszystkie dane to mały podzbiór liczb całkowitych,
> > powiedzmy o mocy kilkuset elementów.
>
> Jakbyś pokazał przykładowe kilka tysięcy wierszy, to można
> by coś konkretnego doradzić.

Coś w tym stylu: http://www.przeklej.pl/plik/nm-stats-out-rar-00044r9
d06jo

> RLE pewnie coś da, tylko nie
> wiadomo czy dla wszystkich kolumn tak samo. Może pomogłaby
> jakaś transformacja danych na poziomie kolumn albo wierszy.
Też takie ogóle przemyślenia mam, ale żadnych konkretów.

> Pytanie takie: spróbowałeś z istniejącymi bibliotekami
> do kompresji, jak gzip, libzip, lzo? Może się sprawdzą.
Na razie tylko się zastanawiam nad tym, próby zacznę za tydzień
lub dwa. Standardowe kompresory kompresują to 20-30 krotnie.

Pewnie najlepiej wypadnie najpierw długość serii + zamiana
wartości na pozycję + jakaś metda LZ. Długość serii dekompresuje
się błyskawicznie, zamiana wartości na pozycję trochę gorzej,
LZ też jest bardzo szybkie.

Więc pozostaje pytanie jaką metodą zmienić kolejność rekordów,
aby jakoś kompresji była jak najlepsza.

Pozdrawiam


>
> w.