Отправляет email-рассылки с помощью сервиса Sendsay

large files by wget

Доброе время суток всем!

Требуется закачать большой файл ( 650 метров ).
Можно как-нибудь указать wget'у, чтобы он начинал закачку например с
29687 байта?
Если да то как? Если нет, то чем можно качать большие файлы по кускам
или с определенной позиции?

-*Название листа "Linux: разрешение вопросов, перспективы и общение";
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Адрес правил листа http://subscribe.ru/catalog/comp.soft.linux.discuss/rules
Номер письма: 13190; Возраст листа: 471; Участников: 1289
Адрес сайта рассылки: http://www.linuxrsp.ru
Адрес этого письма в архиве: http://subscribe.ru/archive/comp.soft.linux.discuss/msg/259442



-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.discuss
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.discuss--unsub@subscribe.ru?subject=comp.soft.linux.discuss

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   "H.R.Giger -=dead tillias_TT=-" Mon, 08 Nov 2004 22:48:03 +0300 (#259442)

 

Ответы:

допустим, мы говорим про файл file.avi :)

$ dd if=/dev/zero of=file.avi bs=1 count=29687
$ wget -c -nd http://www.site.com/file.avi

Ответить   Tue, 09 Nov 2004 00:00:52 +0300 (#259481)

 

В сообщении от 09.11.2004 00:00 Kolotov Alexandr пишет:

Оригинально!
Большое спасибо!

Ответить   "H.R.Giger -=dead tillias_TT=-" Wed, 10 Nov 2004 15:08:38 +0300 (#260691)

 

Hello H.R.Giger,

Monday, November 8, 2004, 10:48:03 PM, you wrote:

wget имеет опцию докачивания файла. Если же надо начать именно с
конкретного места и именно конкретное количество байт, то подключаемся
telnet-ом к 80 порту нужного сервера и выдаем что-то вроде следующего
(подправить то, что нужно):

GET /pdf/example.pdf HTTP/1.0
Connection: Keep-Alive
Range: bytes= 1024-2047,4096-5000,6000-7000,8000-

... и лови результат :-).

Best regards,
vabvab mailto:vabv***@m*****.ru

-*Название листа "Linux: разрешение вопросов, перспективы и общение";
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Адрес правил листа http://subscribe.ru/catalog/comp.soft.linux.discuss/rules
Номер письма: 13249; Возраст листа: 473; Участников: 1291
Адрес сайта рассылки: http://www.linuxrsp.ru
Адрес этого письма в архиве: http://subscribe.ru/archive/comp.soft.linux.discuss/msg/260656



-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.discuss
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.discuss--unsub@subscribe.ru?subject=comp.soft.linux.discuss

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   Wed, 10 Nov 2004 13:55:55 +0300 (#260656)

 

В сообщении от 10.11.2004 13:55 vabv***@m*****.ru пишет:

Именно!

Как подключиться к 80 порту нужного сервера? ( например www.lamer.ru )
Точнее какой тулзой ( желательно стандартной ).

-*Название листа "Linux: разрешение вопросов, перспективы и общение";
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Адрес правил листа http://subscribe.ru/catalog/comp.soft.linux.discuss/rules
Номер письма: 13255; Возраст листа: 473; Участников: 1291
Адрес сайта рассылки: http://www.linuxrsp.ru
Адрес этого письма в архиве: http://subscribe.ru/archive/comp.soft.linux.discuss/msg/260754



-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.discuss
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.discuss--unsub@subscribe.ru?subject=comp.soft.linux.discuss

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   "H.R.Giger -=dead tillias_TT=-" Wed, 10 Nov 2004 16:10:21 +0300 (#260754)

 

Hello H.R.Giger,

Wednesday, November 10, 2004, 4:10:21 PM, you wrote:

)

telnet host [port]
Это самая примитивная из всех возможных.
Но можно найти и более продвинутые, если нужно.

Ответить   Wed, 10 Nov 2004 18:13:45 +0300 (#260847)

 

это все навело меня к мысли написать следующее письмо, ибо мысль
реализовать ниже описанное елозит по моему мозгу довольно давно....

Вводная: у диалапщиков (и не только) иногда случается следующая
проблема: качаем здоровый файл (архив или документ), в итоге получаем
локальную копию файла, но оказывается, что она битая - т.е. где-то в
каком-то месте что-то не срослось, передалось не так и т.д. и т.п.
Получается, что нужно качать файл снова, а если он большой, то это долго
и в итоге упирается в проблему траты лишних денег (тем более если
говорить про скачанные мегабайты)

Предложение: хотелось бы иметь такой сервис (наверное, требуется должны
быть серверная и клиентская части): некоторой тулзе я скармливаю битый
файл и размер "кластера", тулза логически разбивает файл на "кластера" и
вычисляет CRC (MD5 и пр.) для каждого файла, потом мы посылаем
результаты вычислений на сервер, а также файл (URL) и размер "кластера".
Серверная часть также разбивает файл на "кластера", вычисляет CRC,
сравнивает полученные CRC cо своими. И высылает ответ клиенту. В итоге,
клиентская тулза выводит пользователю, что ему нужно скачать
определенный "кластер" (или несколько) из сети снова (начальное и
конечное смещение) или даже сама предлагает скачать их и скачивает.

Итог: Данный сервис можно реализовать как довески к http и ftp, p2p. В
зависимости от файла (по размеру, для каждого разный) и пропускной
ширины канала должна быть свой размер "кластера".

Ответить   Wed, 10 Nov 2004 16:44:55 +0300 (#260784)

 

Мысль в воздухе витает. И мою голову она навещала. В качестве довеска
было бы достаточно команды получения от сервера MD5 суммы для
выбранного диапазона файла. Если указан набор диапазонов, то по MD5
сумме для каждого диапазона. Тогда получится что-то вроде:
MD5 /pdf/example.pdf HTTP/1.0
Connection: Keep-Alive
Range: bytes= 1024-2047,4096-5000,6000-7000,8000-

Тогда можно сделать даже "очень умного" клиента, который, поняв в каком
блоке проблема, может попробовать уточнить кусок в приделах сбойного
блока, и тем еще больше ускорить скачивание.

Другое дело, что такие подсчеты на стороне сервера могут его серьезно
прогрузить. Так что решение не банально.

Ответить   Wed, 10 Nov 2004 18:25:01 +0300 (#260865)

 

<vabv***@m*****.ru> написано 10.11.2004 18:25:01:

получаем


долго

должны

битый

"кластера" и

"кластера".

итоге,

В


Помоему в OpenBSD такая фиговина уже организована.
Потому что месяца 3 назад я читал как раз об этом.
А 3 месяца назад я читал в основном про опен.

С уважением,
Антонов Александр

-*Название листа "Linux: разрешение вопросов, перспективы и общение";
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Адрес правил листа http://subscribe.ru/catalog/comp.soft.linux.discuss/rules
Номер письма: 13260; Возраст листа: 473; Участников: 1291
Адрес сайта рассылки: http://www.linuxrsp.ru
Адрес этого письма в архиве: http://subscribe.ru/archive/comp.soft.linux.discuss/msg/260876



-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.discuss
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.discuss--unsub@subscribe.ru?subject=comp.soft.linux.discuss

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   aanton***@w*****.ru Wed, 10 Nov 2004 18:38:16 +0300 (#260876)

 

On Wed, Nov 10, 2004 at 18:38 +0300, AAnton***@w*****.ru wrote:

в каком месте? :-)

да бросте вы... ничего там подобного нет и быть не может.

Ответить   Wed, 10 Nov 2004 22:07:48 +0300 (#261020)

 

Среда 10 Ноябрь 2004 16:44, Kolotov Alexandr написал:

На сколько я понял описана (возможно не совсем точно) утилита rsync :)

Ответить   Xinus Thu, 11 Nov 2004 00:30:18 +0300 (#261100)

 

и что? описанный мною сервис уже предоставляется? Понятно, что если у
некоторого сайта есть доступ к файлам по rsync, то я скорее всего
пожелаю им воспользоваться, а если нет, то я могу попасть в "битую"
ловушку... Речь идет именно о расширении существующих сервисов или о
создании в сети некоторого ресурса предоставляющего данный сервис
относительно внешних для него серверов.

Ответить   Thu, 11 Nov 2004 11:23:52 +0300 (#261358)

 

Hi H.R.Giger -=dead tillias_TT=-!On Mon, Nov 08, 2004 at 22:48 +0300, you wrote:

Можно с помощью curl так попробовать:
curl -r 29687- -o file_avi.part2 http://www.site.ru/file.avi
А потом две части "склеить":
cat file_avi.part? > file.avi

Ответить   APT Thu, 11 Nov 2004 02:59:06 +0500 (#261129)

 

В сообщении от 11.11.2004 00:59 APT пишет:

Судя по ману абсолютно то, что я хотел. Большое спасибо вам и тем кто
откликнулся!

-*Название листа "Linux: разрешение вопросов, перспективы и общение";
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Адрес правил листа http://subscribe.ru/catalog/comp.soft.linux.discuss/rules
Номер письма: 13286; Возраст листа: 474; Участников: 1298
Адрес сайта рассылки: http://www.linuxrsp.ru
Адрес этого письма в архиве: http://subscribe.ru/archive/comp.soft.linux.discuss/msg/261217



-*Информационный канал Subscribe.Ru
Подписан адрес:
Код этой рассылки: comp.soft.linux.discuss
Написать в лист: mailto:comp.soft.linux.discuss-list@subscribe.ru
Отписаться: mailto:comp.soft.linux.discuss--unsub@subscribe.ru?subject=comp.soft.linux.discuss

http://subscribe.ru/ http://subscribe.ru/feedback

Ответить   "H.R.Giger -=dead tillias_TT=-" Thu, 11 Nov 2004 08:05:44 +0300 (#261217)