LINUX.ORG.RU

Яндекс переходит на mod_deflate


0

0

Игорь Сысоев, автор вебсервера nginx, отмечает на своём сайте, что yandex.ru начал использовать mod_deflate (http://sysoev.ru/mod_deflate/) - модуль к Apache для сжатия HTTP-трафика.

Поздравляю всех с тем, что ещё один крупный сайт стал доступнее для российской глубинки, сельских школ и провинциальных университетов!

Всем, кто ещё не знает про mod_deflate, и как он экономит трафик и ускоряет загрузку страниц срочно читать доки: http://sysoev.ru/mod_deflate/readme.html !

>>> Подробности



Проверено: maxcom ()

С тонким каналом придется ждать пока все скачается и посомтреть кусами нельзя будет?

drd ★★
()

Костыли и подпорки российского интернета

Опять какое-то рекламное гонево. Доступнее-недоступнее... Если хотите доступности страниц не вешайте туда туеву хучу жабоскриптов, flash и прочего подобного. mod_deflate тут совершенно не при чем. И не надо наезжать на село и провинциальные учебные заведения, кто хотел - давно сидят на относительно хорошем канале. Кому это как собаке пятая нога - тому и интернет не нужен.

anonymous
()

как вовремя, поразительно. только сегодня мысль мелькнула, пока с egroupware ковырялся...

Vike
()
Ответ на: комментарий от HellAngel

они уже пробовали это делать пару лет назад..

anonymous
()
Ответ на: Костыли и подпорки российского интернета от anonymous

> И не надо наезжать на село и провинциальные учебные заведения, кто хотел - давно сидят на относительно хорошем канале.

У друга работающего в Горноалтайском универе на несколько кафедр (в здании ФИТ'а), включая терминалки дают всего 100-200Mb/месяц, и скорость я наблюдал килобайты в минуты. Без сжатия трафика невозможно полазить по научным форумам, где страничка 30-100K весит. Ты просто не знаешь положение в переферийных ВУЗах.

Или в моём родном городе общественная терминалка центральной библиотеки висящая всего на одном модеме.

На GPRS (через сотовый) у меня медленный канал и дорогой трафик, так что я пользуюсь почти исключительно сайтами с mod_gzip, в частности: Google, LOR (в Firefox легко такие определять).

Сжатие трафика даёт выигрышь в среднем в 4 раза. Это в 4 раза шире канал сервера, в 4 раза быстрее грузятся странички. Проц сервера грузит не сильно, к тому же поведение при большой нагрузке настраивается.

Российские админы сайтов и ISP провайдеров отсают от зарубежных колег в освоении этой части древнющих HTTP 1.0 и HTTP 1.1 протоколов. Надеюсь шаг Яндекса подтолкнёт их таки подумать о своих посетителях!

MPlayer
() автор топика
Ответ на: комментарий от drd

>С тонким каналом придется ждать пока все скачается и посомтреть кусами нельзя будет?

С тонким каналом грузится также --- по мере прибытия информации. Причём визульно во много раз быстрее, чем обычные сайты.

Сжатие HTTP давно поддерживают почти все браузеры (Firefox, Konquerror, Opera). Для IE говорят, правда, надо что-то в реестре править. Мой любимый сайт впихивает gzip поток любому браузеру, даже если тот не попросил =). Но с их трафиком сервера, их невозможно не понять %).

MPlayer
() автор топика
Ответ на: комментарий от HellAngel

> кстати, как оно тебе (egroupware)? > пару вопросов бы задал если ты ее уже расковырял

давай свяжемся через antiprivate сцабака mail.ru а там уж аськами. вагона инфы не обещаю, сразу говорю.

Vike
()
Ответ на: комментарий от LX

раньше страница грузилась 33.5 сек, теперь - 33.1. Прогресс налицо :)

Krasu
()

Интересно, понимают ли это Yandex/1.01.001 (compatible; Win16; H) и компания.

Aleksey
()
Ответ на: комментарий от MPlayer

По мере поступления - это как? html-страница отдается по кускам что-ли? Каким бразом она ужимается и показывается таки по мере поступления?

drd ★★
()
Ответ на: комментарий от drd

> По мере поступления - это как? html-страница отдается по кускам что-ли? Каким бразом она ужимается и показывается таки по мере поступления?

Виндузизьм законченный, лечению не поддающийся. Так сказать, апофигей виндузизьма.

anonymous
()

На сайте написано что deflate там выключен и используется только gzip, как я понимаю gzip можно использовать и без этого модуля, тогда зачем этот модуль вообще нужен ?

anonymous
()
Ответ на: комментарий от MPlayer

>в Firefox легко такие определять
Как ??? Вот на этой странице обсмотрелся "page info" вижу только text/html

anonymous
()
Ответ на: комментарий от MPlayer

>У друга работающего в Горноалтайском универе на несколько кафедр (в >здании ФИТ'а), включая терминалки дают всего 100-200Mb/месяц, и > скорость я наблюдал килобайты в минуты. Без сжатия трафика невозможно >полазить по научным форумам, где страничка 30-100K весит. Ты просто не > знаешь положение в переферийных ВУЗах.

Берите гранты, ищите источники финансирования ваших вылазок в интернете. Сколько раз сталкивался с картиной маслом: два вуза в одном городе, в одном оптика, voip во всю, в другом один модем 33600 на весь вуз. Все зависит от вашего желания и умения. Лежать на печи, ничего не делать и рассуждать о том, что вот хорошо было бы, если бы все сайты поставили mod_deflate легко. Но помимо сайтоброжений-то есть великое множество другого использования ресурсов сетей интернет. Не надо оправдывать свою лень. Работать надо.

anonymous
()

1. А чем не нравится родной mod_deflate от Apache2? Я на нём уже года два сижу :)

2. У меня на сайте при gzip-паковке, mod_deflate даёт примерно 5..6 кратное сжатие. Поскольку многие юзеры не знают, что сидя за прокси в IE нужно включать "HTTP 1.1 через прокси", то gzip им не передаётся и реальное снижение трафика для сервера в среднем получается раза в два.

3. wget http://yandex.ru ... Length: unspecified [text/html] [ <=> ] 24,114 1.67K/s 01:13:41 (1.67 KB/s) - `index.html' saved [24114]

wget -S --header="Accept-Encoding: gzip deflate" http://yandex.ru ... [ <=> ] 24,111 1.70K/s 01:15:31 (1.70 KB/s) - `index.html' saved [24111]

В заголовках - пусто. Сжатия нет. В общем - фтопку :)

Вот реальный пример работы gzip:

wget -s http://forums.airbase.ru ... [ <=> ] 123,452 3.07K/s 01:18:03 (3.07 KB/s) - `index.html' saved [123452]

wget -S --header="Accept-Encoding: gzip deflate" http://forums.airbase.ru ... 10 Content-Encoding: gzip ... [ <=> ] 15,616 2.25K/s 01:18:37 (2.25 KB/s) - `index.html' saved [15616]

Итого - почти 8-кратное сжатие.

KRoN73 ★★★★★
()
Ответ на: комментарий от anonymous

>На сайте написано что deflate там выключен и используется только gzip, как я понимаю gzip можно использовать и без этого модуля, тогда зачем этот модуль вообще нужен ?

Метод deflate отличается от gzip отсутсвием 10-байтного заголовка. Т.е. по методу gzip вебсервер высылает полноценный gzip файл. Для ленивых в новости ссылка на доку на русском есть.

BTW, mod_deflate похоже официально вытеснил (старый) mod_gzip из апача. В доках апача про это ни слова: http://httpd.apache.org/docs-2.0/mod/mod_deflate.html ?!

>>в Firefox легко такие определять
>Как ??? Вот на этой странице обсмотрелся "page info" вижу только text/html
Поставь http://livehttpheaders.mozdev.org/ extension, в Page Info повится вкладка.

anonymous
()
Ответ на: комментарий от KRoN73

sysoev.ru писал:
> Интересно, что Яндекс собрал mod_deflate с Apache 1.3.6 ?
> без напильника здесь не обошлось, так как патчи из дистрибутива
> mod_deflate не подходят к версиям, более ранним, чем 1.3.12.

KRoN73 писал:
> В заголовках - пусто. Сжатия нет. В общем - фтопку :)

LOL. Напильником mod_deflate собирали, и не юзают. То ли админу тихонько рьвёт крышу. То ли в этом глубокий скрыт смысл...

А mail.ru, ничего, гзипует. Но только лишь каждый третий запрос. Похоже дуал оптероны не тянут.

anonymous
()

Я поставил и всё работает проверял с помощью wget.. теперь 2 вопроса 1 - если ходишь через squid на сайты с gzip...будет ли работать компрессия? 2 - как определить работает gzip в IE (firefox )или нет ?

anonymous
()

Люди, а вот такой вопрос: частенько заглядывая в исходник html-ки приходящей с сайта видишь там, что весь код расположен в одну строку. Понятно, что такой код править руками, проверять, и т.д. не реально, но весит он заметно меньше, чем красиво форматированный. Может есть какие-либо модули к апачу, которые режут лишние пробелы, табуляции и переводы строк, само собой учитывая теги <pre> и подобные? При этом тип данных не изменяется, но выигрыш в объёме всё же есть, хотя и не такой большой...

anonymous
()

кароче я так и не нашел где в IE включается компрессия gzip а по умолчанию он не хрена не поддерживает gzip :(((( а вот ff )) дааа

anonymous
()
Ответ на: комментарий от anonymous

Будет, squid хоть и не поддерживает http 1.1, но позволяет использовать и gzip и deflate. Поставить плагин для просмотра http заголовков либо на squid е постававить соответствующую настройку и лицезреть заголовки в squid логах ...

vtVitus ★★★★★
()
Ответ на: комментарий от KRoN73

>2KRoN73: У меня на сайте при gzip-паковке, mod_deflate даёт примерно 5..6 кратное сжатие.

Подскажи плиз, какие директивы у тебя добавлены в Apache2 для работы с родным mod_deflate, чтобы не делал не хочет сжимать.. :-(((

anonymous
()
Ответ на: комментарий от anonymous

>Я поставил и всё работает проверял с помощью wget.. теперь 2 вопроса 1 - если ходишь через squid на сайты с gzip...будет ли работать компрессия?

Через squid компрессия прекрасно работает, сам пользуюсь. Но виндовые прокси не все правильно кэшируют сжатые ответы, и вебсайт увидев прокси может компрессию выключить. =__=

>2 - как определить работает gzip в IE (firefox )или нет ?

Способ I. <?php if( strstr($HTTP_SERVER_VARS['HTTP_ACCEPT_ENCODING'], 'gzip') ) { echo "The browser requested gzip-compression of HTML-content!\n"; } ?> . Упражнение: написать такой же скрипт на perl.

Способ II. Зайти на http://anidb.info/perl-bin/animedb.pl . Если предложат сохранить gzip - браузер можно выкидывать.

Кстати, в php можно HTTP-компрессию включить в обход ISP (а то вы не знали)! <?php if( phpversion() >= '4.0.4pl1' && extension_loaded('zlib') ) { ob_start('ob_gzhandler'); } ?> И если кто может короче, пусть первый бросит в меня мешок баксов.

MPlayer
() автор топика
Ответ на: комментарий от anonymous

Я так понимаю, что jpg, gif, png, swf не стоит сжимать gzip, так как в самом формате заложено сжатие и не стоит ресурсы тратить на пережатие их, так как толку 0. Или я ошибаюсь?

anonymous
()
Ответ на: комментарий от anonymous

>>Где достать модуль под Firefox для gzip и deflate?

очень смешно, да ?

anonizmus
()

Все это конечно хорошо: сжатие, скорость ... Вопрос: кому это нужно ?

Провайдеры в этом жутко не заинтересованы..

anonymous
()
Ответ на: комментарий от MPlayer

> Способ I. <?php if( strstr($HTTP_SERVER_VARS['HTTP_ACCEPT_ENCODING'], > 'gzip') ) { echo "The browser requested gzip-compression of > HTML-content!\n"; } ?> . Упражнение: написать такой же скрипт на perl.

#!/usr/bin/perl use strict; print "Content-Type: text/plain\n\nThe browser requested gzip-compression of HTML-content!\n" if($ENV{HTTP_ACCEPT_ENCODING}=~/gzip/);

RAS
()
Ответ на: комментарий от anonymous

Понятно :) А когда-то был модуль.

Кстати, а можно узменить ширину поля ввода враз для поиска?

anonymous
()
Ответ на: комментарий от anonymous

Да и в стандарте V.91 Hardware-Compres. уже внутри.

anonymous
()
Ответ на: комментарий от RAS

>> Способ I. <?php if( strstr($HTTP_SERVER_VARS['HTTP_ACCEPT_ENCODING'], >> 'gzip') ) { echo "The browser requested gzip-compression of > HTML-content!\n"; } ?> . Упражнение: написать такой же скрипт на perl.

>#!/usr/bin/perl use strict; print "Content-Type: text/plain\n\nThe browser requested gzip-compression of HTML-content!\n" if($ENV{HTTP_ACCEPT_ENCODING}=~/gzip/);

use CGI::WebGzip;

anonymous
()

спасибо что ответили насчет squid'a завтра пошарю по докам маза такая получается типа если squid поддерживает gzip....и уже от браузера не зависит....поддержка gzip... FireFox прекрасно работает с gzip Респект кодерам и опять же...почему не сделали галку включить выключить?.....:(

А вот насчет IE вопрос остается открытый НУ не нашел я где IE работает с gzip..... не отображает IE этот сайт :((( http://anidb.info/perl-bin/animedb.pl

даже в реестре искал....хз в общем

creat

anonymous
()

оййй ну я плакать над IE.... кароче Что бы в IE заработала поддержка gzip нужно передернуть галку use HTTP 1.1 through conne..... ( в настройках )

И всё заработает видимо эти кодеры из мс забыли в реестр продуплить...

creat

anonymous
()
Ответ на: комментарий от anonymous

странно, года три назад я писал скрипт и решил закосить под тогдашнуюю версию ie4, ну передал заголовки и скрипт оказался работать . стал смотреть - там gzip . с тех пор я считал что уже давным давно работает.

anonymous
()
Ответ на: комментарий от Renso

эт правильно сказано, что компрессия нужна и на жопорезе сильно помогает. давно уже использую под жопорезом туннель ssh-pppd с компрессией. но выигрыш не 5-6раз, как тут уверяют, а 2-4. но всё таки он есть, по бабкам и скорости разница наблюдается... тестировал это дело с разной компрессией как на уровне ssh так и на уровне линуховых pppd модулей. лучше всего оказался вариант с отключенной ssh копрессией и включенным deflate у pppd

еще есть вариант с проксей, которая жмет контент на манер mod-deflate и конвертит картинки в меньшие с худшим качеством. забыл как оно зовется. я под жопорезом уже привык без картинок и особо не страдаю. зато баннеры отрезаются автоматом да и прочая ненужная пестрота не бьет по карману.

sg
()
Ответ на: комментарий от anonymous

IE 6.0 SP1 сайт anidb показывает
gzip, deflate в заголовках от броузера на сервер есть

odip ★★
()
Ответ на: комментарий от anonymous

>оййй ну я плакать над IE.... кароче Что бы в IE заработала поддержка gzip нужно передернуть галку use HTTP 1.1 through conne..... ( в настройках ) И всё заработает видимо эти кодеры из мс забыли в реестр продуплить...

Вместо того, чтобы плакать, посмотрел бы лучше RFC по HTTP: сжатие появилось только в HTTP 1.1. Так что MS все сделали правильно: включил "галку use HTTP 1.1" - получил полную поддержку v.1.1. Очень логично.

anonymous
()
Ответ на: комментарий от MPlayer

> висящая всего на одном модеме

У модемов, вообще-то, давным-давно свое собственное сжатие есть.

anonymous
()
Ответ на: комментарий от anonymous

header_access Content-Encoding allow all header_access Accept-Encoding allow all

anonymous
()
Ответ на: комментарий от anonymous

>У модемов, вообще-то, давным-давно свое собственное сжатие есть. "Во-первых, алгоритм gzip более ефективный апаратного сжатия данных (он всего на 17% уступает RAR-формату и на 2% &#8212; ZIP), в большей части благодаря тому, что вы сжимаете весь файл заразом, а модем &#8212; только текущие пакеты. Во-вторых, суммарная пропускная способность канала всегад меньше наиболее его &#171;тонкого&#187; места, т.е. если на какой то стадии используется более старый протокол, ефекта от апаратного сжатия конечный пользователь не получит." http://web-build.info/print.php?type=php&id=1099772341

anonymous
()
Ответ на: комментарий от sg

>еще есть вариант с проксей, которая жмет контент на манер mod-deflate и конвертит картинки в меньшие с худшим качеством. забыл как оно зовется. я под жопорезом уже привык без картинок и особо не страдаю. зато баннеры отрезаются автоматом да и прочая ненужная пестрота не бьет по карману.

FilterProxy это.

>Вместо того, чтобы плакать, посмотрел бы лучше RFC по HTTP: сжатие появилось только в HTTP 1.1. Так что MS все сделали правильно: включил "галку use HTTP 1.1" - получил полную поддержку v.1.1. Очень логично.

В HTTP 1.0 сжатие есть. "Content-Encoding: x-gzip, x-xompress" - синонимы gzip и compress (see HTTP 1.0 http://www.ietf.org/rfc/rfc1945.txt ). Так что тут вина именно IE, и M$ :).

MPlayer
() автор топика
Вы не можете добавлять комментарии в эту тему. Тема перемещена в архив.