HWSW Informatikai Kerekasztal: Re: Mindennél hatékonyabb webes tömörítési algoritmus jelent meg - HWSW Informatikai Kerekasztal

Ugrás a tartalomhoz

Mellékleteink: HUP | Gamekapocs

  • (6 Oldal)
  • +
  • 1
  • 2
  • 3
  • Utolsó »
  • Nem indíthatsz témát.
  • A téma zárva.

Re: Mindennél hatékonyabb webes tömörítési algoritmus jelent meg Értékeld a témát: -----

#1 Felhasználó inaktív   HWSW 

  • HWSW
  • PipaPipaPipaPipaPipa
  • Csoport: Stábtag
  • Hozzászólások: 9.283
  • Csatlakozott: 2009. márc. 17.

Elküldve: 2013. 03. 01. 15:26

A Zopfli nevű új tömörítési algoritmussal 3-8 százalékkal nagyobb tömörítési sűrűség érhető el, ami nagy sávszélesség-igényű átvitelnél érezhető különbséget adhat. Az új eljárás kompatibilis a meglévő kliensoldali kitömörítő algoritmusokkal, így szerveroldalon, saját hatáskörben is bevezethető.
https://www.hwsw.hu/hirek/49897/google-zopfli-zlib-deflate-http-tomorites.html

#2 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 15:26

Mi ennek az értelme, 3-8% az semmi, totál nem értem miért fektetnek ebbe energiát, ráadásul sokkal jobban eroforrás zabáló a betömörítés.

#3 Felhasználó inaktív   lacyc3 

  • Újonc
  • Pipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 97
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 15:35

Sok kicsi sokra megy, gondolom bizonyos mennyiség felett drágább a sávszélesség mint adott plusz %-nyi CPU idő.
Software is like sex: it's better when it's free. - Linus Torvalds / Weboldalam

#4 Felhasználó inaktív   Jahno 

  • vérképkeretezés occsón
  • PipaPipaPipaPipaPipa
  • Csoport: Stábtag
  • Hozzászólások: 109.369
  • Csatlakozott: 2001. jan. 15.

Elküldve: 2013. 03. 01. 15:37

Üzenet megtekintéseIdézet: lacyc3 - Dátum: 2013. 03. 01. 15:35

Sok kicsi sokra megy, gondolom bizonyos mennyiség felett drágább a sávszélesség mint adott plusz %-nyi CPU idő.


Pfff, a jó ég tudja. Bár most ami árat kaptam íreknél a 100 megás vonalra, azon lehidaltam. 100 megabites kihajtásokat viszont röptében tömörítgetni nem egyszerű mutatvány. De majd elolvasom a cikket is.
Make love not Wor.

#5 Felhasználó inaktív   galffy 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Stábtag
  • Hozzászólások: 821
  • Csatlakozott: 2011. jan. 24.

Elküldve: 2013. 03. 01. 15:38

@patikaatika: Pusztán elméleti síkon: ha egy gigás mobilneted van, akkor +8% az 80 megabájtot jelent. Az azért nem elhanyagolható. Ha pedig szerveroldalon fizetsz sávszélességért (esetleg sokat), akkor szintén jó spórlás lehet.

#6 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 15:49

@Gálffy Csaba:
És ki nem szarja le azt a 80mb-ot ami ráadásul az elméleti plafon a nyereségben? Ehhez szerver oldalon egy erőforrás zabáló encoder-t kell implementálni, kliens oldalon meg egy decodert, én már ott leragadtam hogy képesek emberek 7zip-t használni hogy nyerjnekek 10-20 megabájtot egy több gigás fájlnál, felfohatalan amikor a TB-os hdd-k korát éljük, de hajrá, tudod a túlzott spórolás soha nem vezet jó eredményre :)))


#7 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 15:52

Érdemes megnéznmi a táblázatot, egy ~cd-nyi anyagon a gzip-hez képest hozott 5 a 7-ziphez képest 2Mb-ot, óriási, fantasztikus, kiszámoljam ez százalákosan mennyi?

#8 Felhasználó inaktív   Emvy 

  • Senior tag
  • PipaPipaPipaPipa
  • Csoport: Fórumtag
  • Hozzászólások: 3.466
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:08

@patikaatika: a netes forgalom 3%-os csokkentese az jelentene, hogy varhato ertekben 3%-al kevesebb infrastrukturat kell kiepiteni.

Kiszamoljam neked, hogy ez hany milliard dollar?
while (!sleep) sheep++;

#9 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:14

@Emvy:
Légy oly kedves. Egyébiránt milyen infrastruktúra építést szeretnél ezzel megspórolni?
Itt max sávszélességbővítésen lehet valamit spórolni, cserébe mindkét oldalon némi munkát kell végezni :)) Ha a logikádat követném akkor az ennél lényegesen jobb hatásfokkal rendelkező mozgóképtömörítő algoritmusok fénysebességel tejednének a világban, de nem ezt látom, gondolkodj el rajta, pedig ott nem 3%-ot lehetne fogni :)))


#10 Felhasználó inaktív   bontom 

  • Újonc
  • Pipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 6
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:22

@patikaatika: Ne feledjük, hogy ez a ZIP tömörítés hatásfokát igyekszik maximalizálni. Aki ZIP-be tömörít 7zip-el és nem az LZMA algoritmust használja, az magára vessen. De ha a ZIP-et hasonlítod az LZMA-val, ott nem ritka a 40%-os hatásfok különbség az utóbbi javára. Így 7zip-nek van létjogosultsága, főleg, hogy van rendes plugin is Total Commander alá, így a használata egyszerű, mint a faék.

De hogy ne csak offtopic legyen: hogy egy szinte bruteforce algoritmust prezentál egy csávó a ZIP tömörítésre, az csak akkor szép, ha a bruteforce-nál sokkal gyorsabban éri el az azonos hatásfokot. Hétköznapi haszna meg biztos van, de nem hinném, hogy gyorsan elterjed majd.

#11 Felhasználó inaktív   NancsiBacsi 

  • Senior tag
  • PipaPipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 3.523
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:43

@patikaatika: Ha 1x tömörítesz be, és 100000x ki, akkor rögtön megéri. Mivel a kitömörítés ugyanolyan sebességű (vagy gyorsabb, mivel kevesebb "token"ből áll a tömörített anyag), mint eddig volt.

Ezt elsősorban arra szánják, hogy statikus dolgok legyenek vele jobban tömörítve, nem pedig röptömörítésre. Van egy portál - mittomén index.hu - legyártanak egy képet png formátumban. Ha ezt több szerver szolgálja ki - mondjuk a képeket is 12 - mivel a szerverek sávszélessége véges, akkor 8% esetén rögtön -1 szerver költség. A tömörítés meg igen, lassabb lesz 30x - na bumm, nem 0.1, hanem 3 sec alatt végez vele. Ez még akkor is elviselhető, ha a felhasználónak meg kell várnia, de ha nem kell megvárnia, akkor meg pláne semmit se számít.

#12 Felhasználó inaktív   YleGreg 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Fórumtag
  • Hozzászólások: 1.586
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:45

@patikaatika: Gondold el, hogy hányan töltik le a google főoldalán a képet naponta. A kliens nem tudja cachelni, mert holnap megint más lesz. A szerver(park) viszont egyszer tömöríti naponta, mert onnantól kezdve a cache-ben van. Ha 5 szászalékkal kevesebbet kell küldeni a napi sokszáz millió első oldalletöltésnél, akkor simán megéri, hogy napi egyszer egy ezred másodperc helyett akár két tized másodpercet is foglalkoznia kellett a tömörítéssel.

Tudom, hogy ez a példa sántít, főleg mert a szerverpark nem közös cache-t használ, de a lényeg remélem átment, hogy ez a módszer nem a házi barkács dolgokban hoz forradalmi változást, hanem az ipari felhasználásban, ahol ha egy százalék (sávszél) terhelés csökkentés egy milló dollárt hoz a konyhára havonta vagy évente, akkor ez a 3-8 százalék megtakarítás még akkor is kifizeti minden évben a bora-bora -i nyaralásomat, ha a prociban bukok néhány ampert.

Egyébként akik szerint 3-8 százalék semmit nem ér, az szóljon és küldöm a számlaszámomat, ahova elutalhatják a nettó fizetésük 5 százalékát, ha tényleg nem számít! 8-)

#13 Felhasználó inaktív   didyman 

  • Tápszag-értő
  • PipaPipaPipaPipaPipa
  • Csoport: Stábtag
  • Hozzászólások: 24.355
  • Csatlakozott: 2003. okt. 22.

Elküldve: 2013. 03. 01. 16:46

Üzenet megtekintéseIdézet: patikaatika - Dátum: 2013. 03. 01. 16:14

@Emvy:
Légy oly kedves. Egyébiránt milyen infrastruktúra építést szeretnél ezzel megspórolni?
Itt max sávszélességbővítésen lehet valamit spórolni, cserébe mindkét oldalon némi munkát kell végezni :)) Ha a logikádat követném akkor az ennél lényegesen jobb hatásfokkal rendelkező mozgóképtömörítő algoritmusok fénysebességel tejednének a világban, de nem ezt látom, gondolkodj el rajta, pedig ott nem 3%-ot lehetne fogni :)))
De kurva okos vagy!
Privát helyett email van.
Segíts nekünk, hogy segíthessünk másokon!
(Holnap délelőtt úgysem jó neki, mert nem engedem ki az ágyamból... Tündérvirág)

#14 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:51

@NancsiBacsi:
"mivel a szerverek sávszélessége véges"
Ezt fejtsd ki légyszíves? Mi az hogy véges, mennyire vannak a szerverek sávszélessége a maximum közelében?

#15 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 16:53

@didyman:
Nem mondtam hogy az vagyok, te meg fröcsögsz, ha valami szakmai véleményed van akkor írd ide kérlek.

#16 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 17:06

@NancsiBacsi:
"Ha ezt több szerver szolgálja ki - mondjuk a képeket is 12 - mivel a szerverek sávszélessége véges, akkor 8% esetén rögtön -1 szerver költség"

hát ez elég leegyszerüsítése a dolgoknak :)


#17 Felhasználó inaktív   patikaatika 

  • Törzsvendég
  • PipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 647
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 17:19

@patikaatika:
Tehát ha jól értem mindenki azonnal befogja vezetni ezt a tömörítést hiszen azonnali költségcsökkentő tényezőként szerepelne, vagy ha mégsem akkor aki itt sávszélesség ls költségmegtakarítás cunamit vízionál annak mi erről a véleménye?


#18 Felhasználó inaktív   'Geri' 

  • Őstag
  • PipaPipaPipaPipaPipa
  • Csoport: Fórumtag
  • Hozzászólások: 5.056
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 17:34

az interface végülis egyszerű, dependenciája sincs, bár egy kicsomagolót is rakhattak volna a kódba az egyszerűség kedvéért (én ilyet nem láttam benne hirtelen, bár lehet, hogy van).

#19 Felhasználó inaktív   kockulat 

  • Senior tag
  • PipaPipaPipaPipa
  • Csoport: Fórumtag
  • Hozzászólások: 4.346
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 17:44

Üzenet megtekintéseIdézet: 'Geri' - Dátum: 2013. 03. 01. 17:34

az interface végülis egyszerű, dependenciája sincs, bár egy kicsomagolót is rakhattak volna a kódba az egyszerűség kedvéért (én ilyet nem láttam benne hirtelen, bár lehet, hogy van).

Mivel abból nem kellett újat implementálni, ezért gondolom azzal nem is vesződött az úriember.

#20 Felhasználó inaktív   NancsiBacsi 

  • Senior tag
  • PipaPipaPipaPipa
  • Csoport: Alkalmi fórumtag
  • Hozzászólások: 3.523
  • Csatlakozott: --

Elküldve: 2013. 03. 01. 18:04

@patikaatika: "Ezt fejtsd ki légyszíves? Mi az hogy véges, mennyire vannak a szerverek sávszélessége a maximum közelében?"
Kb 7-8 éve dolgoztam egy webaudit top10-es magyar cégnek, nekik akkor volt vagy 20 db képszerverük. Ez azt jelenti, hogy halál egyszerű webszerverek, minden ugyanaz a statikus tartalom - kép hegyek - vannak. És semmi mást nem csinálnak, csak adják vissza a http kéréseknek a képeket. Az meg hogy a kérés melyik szerverre fut be, az más lapra tartozik - anno megoldották "kézzel" a terhelés elosztást, persze vannak erre más eszközök is.
Egy gigabites sávszél jóindulattal 100MByte nettóban, ami mondjuk 20 Kbyte-os képeket feltételezve 5000 kép/sec. Ha egy oldalon ebből van 25 db, akkor 20 felhasználónyi kép másodpercenként. Ha a felhasználók átlag 2 percenként kattintanak, akkor egy ilyen szerver - egyenletes eloszlás esetén - 2400 párhuzamos felhasználót tud kiszolgálni. Az meg nem túl sok, ettől nagyobb terhelések voltak már akkoriban is.

Téma megosztása:


  • (6 Oldal)
  • +
  • 1
  • 2
  • 3
  • Utolsó »
  • Nem indíthatsz témát.
  • A téma zárva.

1 felhasználó olvassa ezt a témát.
0 felhasználó, 1 vendég, 0 anonim felhasználó