Отправляет email-рассылки с помощью сервиса Sendsay

KirovLUG: пользователи Linux в Вятке

размышление на тему http, ftp и p2p

Мысль реализовать ниже описанное елозит по моему мозгу довольно давно....

Вводная: у диалапщиков (и не только) иногда случается следующая
проблема: качаем здоровый файл (архив или документ), в итоге получаем
локальную копию файла, но оказывается, что она битая - т.е. где-то в
каком-то месте что-то не срослось, передалось не так и т.д. и т.п.
Получается, что нужно качать файл снова, а если он большой, то это долго
и в итоге упирается в проблему траты лишних денег (тем более если
говорить про скачанные мегабайты)

Предложение: хотелось бы иметь такой сервис (наверное, требуется должны
быть серверная и клиентская части): некоторой тулзе я скармливаю битый
файл и размер "кластера", тулза логически разбивает файл на "кластера" и
вычисляет CRC (MD5 и пр.) для каждого файла, потом мы посылаем
результаты вычислений на сервер, а также файл (URL) и размер "кластера".
Серверная часть также разбивает файл на "кластера", вычисляет CRC,
сравнивает полученные CRC cо своими. И высылает ответ клиенту. В итоге,
клиентская тулза выводит пользователю, что ему нужно скачать
определенный "кластер" (или несколько) из сети снова (начальное и
конечное смещение) или даже сама предлагает скачать их и скачивает.

Итог: Данный сервис можно реализовать как довески к http и ftp, p2p. В
зависимости от файла (по размеру, для каждого разный) и пропускной
ширины канала должна быть свой размер "кластера".

Ответить   Wed, 10 Nov 2004 16:47:05 +0300 (#260788)

 

Ответы:

Идея полезная, но только для UDP-соединений. Для ТСР вероятность ошибки
очень мала (ее практически нет, вроде бы, потому что с каждым пакетом идет
контрольная сумма). Ну, я не раз выкачивал диалапом файлы под 60 мб и MD5
сумма сходилась. Тут нетрудно посчитать мизерность ошибки...

А вообще - да, идея хорошая. Надо расширять *tp - протоколы...

-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.kirovlug
Написать в лист: mailto:comp.soft.linux.kirovlug-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.kirovlug--unsub@subscribe.ru?subject=comp.soft.linux.kirovlug

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   Wed, 10 Nov 2004 18:20:42 +0300 (#260857)

 

Vlad Tushevskij writes:

rsync поддерживает такие вещи. При синхронизации через rsync можно
восстанавливать битые файлы, выкачая при этом объём не значительно больший
чем, размер битой части.

Всё уже решено давно, зачем голову ломать?

IPv6? контрольная сумма/хеш для каждого пакета, независимо от типа
протокола. Кстати, не пора ли внедрять? :)

-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.kirovlug
Написать в лист: mailto:comp.soft.linux.kirovlug-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.kirovlug--unsub@subscribe.ru?subject=comp.soft.linux.kirovlug

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   Wed, 10 Nov 2004 22:34:57 +0300 (#261043)

 

Угу, будем одни на свете с 6-м :)

-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.kirovlug
Написать в лист: mailto:comp.soft.linux.kirovlug-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.kirovlug--unsub@subscribe.ru?subject=comp.soft.linux.kirovlug

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   Wed, 10 Nov 2004 23:06:21 +0300 (#261050)

 

Hello Vlad,

Wednesday, November 10, 2004, 11:06:21 PM, you wrote:

+ еще миллиард китайцев ;)

Ответить   Thu, 11 Nov 2004 22:44:50 +0300 (#262027)

 

Vlad Tushevskij пишет:

Нет, скоро останемся последними. :(

Уже половина точек обмена траффиком в европе работают в режиме
инкапсуляции IPv4 через v6.

Осталось только дождаться выхода протокола как финального стандарта.

-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.kirovlug
Написать в лист: mailto:comp.soft.linux.kirovlug-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.kirovlug--unsub@subscribe.ru?subject=comp.soft.linux.kirovlug

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   Fri, 12 Nov 2004 23:46:26 +0300 (#262837)

 

и что? описанный мною сервис уже предоставляется? Понятно, что если у
некоторого сайта есть доступ к файлам по rsync, то я скорее всего
пожелаю им воспользоваться, а если нет, то я могу попасть в "битую"
ловушку... Речь идет именно о расширении существующих сервисов или о
создании в сети некоторого ресурса предоставляющего данный сервис
относительно внешних для него серверов.

Ответить   Thu, 11 Nov 2004 11:22:12 +0300 (#261344)