Так сложилась жизнь, что я повернут на бэкапах, считаю, что чем их больше, тем лучше. Бэкапы делаются между компами друг на друга, делается бэкап на внешний железный сервер арендуемый мной во Франции, делаются в амазоновское
S3-хранилище, делается на гугл-драйв и яндекс-диск(само собой все внешние бэкапы шифрованы, что бы не возникало вопросов)
На днях, осматривая что лежит по углам, я понял, что из имеющегося можно сделать еще выделенный домашний сервер, который будет делать вид, что он — амазоновское хранилище.
У нас была
Orange Pi R1 с экспаншен боард,
коробка от Orico для подключения накопителя через USB,
MicroSD от SanDisk для системы и хард на котором будут храниться бэкапы(вот на хард ссылки нет, он просто из запасов WDшка на 500 гигов).
Вот участники нашего развлечения, наш сервер
В качестве программной основы мы будем использовать
Armbian GNU/Linux(сборка Ubuntu GNU/Linux, в моем случае, но если заменить на сборку Debian GNU/Linux, то ничего не поменяется, вообще), а в качестве S3-хранилища у нас будет выступать
minio(сборка под ARM)
Для начала скачиваем образ Armbian для нашей платы и распаковываем его
cd `mktemp -d`
wget https://dl.armbian.com/orangepi-r1/Ubuntu_bionic_next.7z
7z x Ubuntu_bionic_next.7z
вы можете у себя в ОС использовать более удобный для вас способ скачки и распаковки.
Теперь нам надо его залить на нашу MicroSD. Официально предлагаемый способ это использовать
Etcher, он есть под все основные платформы, так что берите под свою и запускайте. Тут ничего объяснять не нужно, все делается мышкой, там все очевидно. Выбираете файл образа скачанного и распакованного, выбираете флешку на которую заливать, нажимаете на кнопку заливки.
Теперь втыкаем флешку в нашу Апельсинку, втыкаем в Апельсинку сетевой шнурок и даем ей питание в microUSB. По дефолту Armbian получает IP-адрес по DHCP, так что идем в веб-морду своего роутера и смотрим выданный адрес, что бы зайти туда по ssh.
Дефолтные логин-пароль root-1234, при первом заходе нам будет предложено сменить рутовый пароль, создать регулярного пользователя и задать ему пароль.
Вставляем наш хард в коробочку, а хвост USBшный коробочки в USB-порт Апельсинки. Заходим на Апельсинку по ssh, заглядываем в dmesg, что бы посмотреть имя устройства назначенное системой харду
dmesg -T
, видим там что-то типа sda(sdb,sdc). Переразбиваем диск
cfdisk /dev/sda
, удаляем все что есть, создаем единственный раздел и задаем ему тип 82(Linux). Форматируем созданный раздел
mkfs.ext4 -m0.1 /dev/sda1
. Смотрим UUID созданного раздела, что бы прописать его автоматическое подключение в /etc/fstab
blkid|grep sda1
, видим там что-то типа
UUID="b7388609-601a-45e6-a8fb-274cda0c2057"
, открываем файл /etc/fstab в любимом редакторе
nano /etc/fstab
и добавляем строчку
UUID=b7388609-601a-45e6-a8fb-274cda0c2057 /data ext4 errors=remount-ro 0 0
, сохраняем файл и выходим.
Создаем директорию /data, куда будет подключаться наш внешний диск и там поддиректорию где у нас будет наше хранилище держать свои файлы
mkdir -p /data/minio
Теперь нам надо собственно поставить и настроить minio
wget https://dl.minio.io/server/minio/release/linux-arm/minio
chmod +x ./minio
mv minio /usr/local/bin
useradd -r minio-user -s /sbin/nologin
chown minio-user:minio-user /data/minio
mkdir /etc/minio
chown minio-user:minio-user /etc/minio
nano /etc/default/minio
В /etc/default/minio прописываем
MINIO_VOLUMES="/data/minio/"
MINIO_OPTS="-C /etc/minio --address :9000"
Теперь нам нужно обеспечить старт minio при ребуте нашего чудо-сервера.
curl -O https://raw.githubusercontent.com/minio/minio-service/master/linux-systemd/minio.service
mv minio.service /etc/systemd/system
systemctl daemon-reload
systemctl enable minio
systemctl start minio
Если мы нигде не ошиблись, то все запустилось и теперь на
http://XX.XX.XX.XX:9000
(где XX.XX.XX.XX — IP-адрес нашего сервера в нашей внутренней сети) у нас работает S3-совместимое хранилище. Командой
cat /etc/minio/config.json |grep Key
мы можем посмотреть accessKey и secretKey которые необходимы и для захода в веб-морду, и для подключения S3-клиентами.
Скриншот того, что вы увидите
Собственно все. У нас в локальной сети работает полноценное S3-совместимое хранилище, на которое мы можем наладить бэкапы любым ПО умеющим работать с S3(лично я использую
Duplicati дома и
duplicity на серверах).
Так как сервер работает у нас в локальной сети я не стал настраивать подключение через https, если вы настраиваете его на внешнем сервере и с использованием доменного имени, то самый простой способ — использовать
Caddy для этих целей, в официальной доке minio вы можете найти
пример конфига для Caddy.
Вот так дендрально-фекальным способом мы получили полноценный S3-совместимый сервер для хранения файлов
P.S. Если в комментах найдутся те, кто хочет узнать, как еще сделать на крайний случай наши бэкапы доступными через сеть Tor, то я дополню текст инструкцией для этого.
P.P.S Все команды указаны для выполнения из под рута, а не из под регулярного пользователя, если вы заходите под регулярным пользователем, то либо перед каждой командой добавляйте sudo, либо после захода выполните команду sudo su -, что бы получить рутовый шелл.
P.P.P.S Я постарался высмотреть при помощи LanguageTool ошибки, но если они закрались, то пишите в личку, я буду благодарен за исправление ошибок.
на всякий случай…
Все три бэкапа вышли какие-то на меня не похожие, видать в процессе побились :-D
Теперь живут сами по себе, старший даже на этом сайте комментит :-D
раньше-то пленка (кодак голд, исо 200) кончилась и тютю
у админа бекап в холодильнике стоит еще
Почему? потому что настоящий Админ поставит два стакана на ДРУГУЮ тумбочку.
а «Тру Админ» ещё два стакана оставит на кухне.
Но я ничерта не понял.
Как сервер на винде настроить туда скидывать?!
www.maxsyncup.com/main.html
Особенно если провайдер услуг с тобой в одной стране. Минимум одна копия должна быть географически удалена, в идеале на другом континенте, но хотя бы в другой стране.
Так что если уж решились воспользоваться облачными технологиями — то не стоит переживать, а стоит просто ими пользоваться.
Никто и не переживает. Просто я понимаю, что хочу получить в результате
Я описал только серверную часть, а клиентскую дал ссылки.
на компе ставишь cobian backup и настраиваешь любые бэкапы
С — стандартизация.
Он мертв много лет, то что его используют отдельные клоуны не делают его живым
SCP/FTPS/SFTP
В разделе DIY. Типа руками сделано.
Я вас понял как будсто smtp везде и всюду обСирают, а я и не в курсе:))
Как минимум межсерверное взаимодействие, legacy в виде костылей для аутентификации и, на практике, несовместимость вынуждающая дефакто отключать. Как результат — неискоренимость (грубо говоря) спама.
«Если Вы об этом не знали — то вам и не надо заморачиваться.»
Честно говоря данный холивар и вообще тематика слабо подходит для mysku.
… только через установку, предварительно скачав установочный пакет (дистрибутив) при помощи curl…
а потом zsh, etckeeper, git, neovim
законы мерфи читали? ну и хрестоматийное — про не плодить сущности.
Некоторые вон наушники покупают в таких количествах, как будто у них ушей — что опят на пеньке.
«Не более одной пары в руки...» © из истории развитого социализма.
Младший из моих братьев уже на пенсию собрался, а ты «рановато» :-D
aws.amazon.com/ru/glacier/pricing/
0,004 USD за 1 ГБ в месяц!
Мне, однажды, пришлось, я больше не хочу
А вот есть ли вариант решения такой задачи:
Есть два виндовых компа. На них есть папки, которые надо синхронизировать. Объем этих папок в общей сложности довольно велик — порядка терабайта и больше. Файлы в папках могут добавляться и изменяться на любом из компов. Компы включены не одновременно!
Есть купленный VPS. Но его объём хранилища порядка 20ГБ и платить деньги за большее не хочется.
Есть ли какой-то софт, который бы:
— держал на VPS каталог всех файлов, которые лежат на компах (может быть CRC файлов)
— в случае добавления или изменения какого-то файла заливал бы этот файл на VPS
— как только запускается виндовый комп, то сверяются каталоги и отсутствующие файлы скачиваются с VPS. После этого файл с VPS удаляется.
То есть что-то типа dropbox или nextcloud, но чтобы на сервере хранилось только то, что еще не синхронизировано.
Но сам пока не проверял. Позже или на НГ займусь -)
А вот syncthing, который уже советовали, я юзал для синхронизации домашнего фотоархива (700-800 гигов). На домашнем сервере NAS4FREE и рабочий с виндой. Вполне себе рабочая схема.
Бывает. Но тут работает схема — дорого мило, а дешево гнило.
«Наверное» в общем. И для примера: пошел занялся онанизмом, ну а что — это же практически минет сделанный Сашей Грей (взята для примера и не более).
Только не гонись за новыми версиями (6.х), под них нет геренаторов.
А то, что железка не смогла массив восстановить, странно и неприятно, функционал-то простейший.
Я поэтому в офисе только зеркало делаю, даже если оба диска посыпятся, их можно почти в любой комп воткнуть и что-то восстановить.
Дёшево это сколько? Я за 1500руб./год взял 100 гигов у гугла.
0,004 USD за 1 ГБ в мес.
(или $3.95 в месяц, если за два года $95 заплатить)
Бывают, но надо смотреть под ваши потребности-задачи и их ограничения. Гуглите, список выше можете взять за затравку. У меня, к примеру, есть бесплатные терабайт в mail ru( на практике не использую) и 200 с чем-то гигов в яндексе.
А xigmanas поверх nas4free поставить можно?..
В бесплатной версии 1 профиль можно использовать. Вполне достаточно для бэкапа/синхронизации данных с одной машины на один ресурс.
Зависит от региона где будут храниться данные
aws.amazon.com/ru/s3/pricing/?nc=sn&loc=4
Но я бы вам не рекомендовал S3 т.к. если вам нужен только бэкап, который будет доставаться только в случае утери своих данных, то S3 будет избыточен и дороговат.
S3 используется чутка для других целей. Там файлы можно в любой момент достаточно быстро выдернуть, в некоторых местах S3 используется даже как бэкенд для файловой системы… Но не важно. Хочу донести до вас мысль что у амазона есть другое решение для долговременных бэкапов. и значительно дешевле. Зовется Glacier
0,004 USD за 1 ГБ
Это сервис хранения бэкапов на лентах. Т.е. после отправки бэкапа им они записывают его на ленту (опять же несколько копий) и кладут в шкаф (грубо говоря).
Как у вас случился факап, вы запрашиваете эти данные. Автоматика достает ленты и к примеру через сутки вы их можете скачивать…
Но там тонкости в тарифах именно на восстановление. Если вы не спешите, то можете месяц потихоньку выкачивать… бесплатно
Если хотите прям щас, то это влетит в копейку… Надеюсь понятно почему…
В синолоджи есть плагин, который прекрасно умеет с Glacier работатьт. Каждую неделю отправляет туда фотки. Все автоматом. Настроил и забыл
я ща плачу около 2,5$ в месяц за не помню… Но точно больше 350+ гиг
UPD: ого. Давно я не заглядывал. У меня уже там 450+ гиг. Почти пол террабайта…
потому и 2,5$. Собственно дешевле за хранение бэкапов я пока не встречал сервиса
И это главная причина почему для жены я купил этот телефон… Мне правда надоело разгребать эти авгиевы конюшни, чтобы освободить место для еще одной тонны фоточек… Теперь это проблема гугла:)))
(не. Есть еще плюсы у этого смартфона, просто они не в этой теме… Трубка на самом деле оч даже хороша)
Но это все равно не универсально и полумера. Большинство фоток все таки с большого, хорошего фотоаппарата. И их где то надо хранить, и бэкапить…
Ничего лучше чем связка synology --> Glacier я пока не нашел…
Да и не ищу. Работает замечательно и абсолютно не отнимает моего времени.
Но если это реально сервак, то понятно почему он фанат бэкапов )
Тут видать мальчик просто в интернете видел слово, а что оно значит в реальности не знает :)
Давай я тебе кое-что объясню. У меня была софтварная фирма, своя баннерная сеть+потом браузерные игры. В пике у нас нагрузка на сервера была около 2000 rps(погугли этот термин). Так как я — хозяин въедливый, то хорошо знал все технические подробности, а сервера в ДЦ вообще сам возил и ставил. Так что я знаю что такое сервера лучше, чем ты, учащийся в школе. Ты со своими глупостями у нас бы и первого собеседования не прошел, которое с кадровиком, до спецов и меня ты бы не дошел
Зачем мне идти в твою контору работать, где из говна и палок собирают бэкап сервера, может поэтому ее и нет сейчас.
sjw-гомики-русофобы оттуда выдавили инженеров
А так спасибо за наводку, интересное приложение.
Но я решил, что видеонаблюдение тут постоянно мусолят и не стал описывать
можно чуть подробнее
Ставишь наш целевую машину демон тора
apt install tor
идешь в конфиг удобным тебе редактором
vim /etc tor/tor/torrc
там прописываешь дополнительные тебе нужные строчки
типа
рестартишь его и на видишь в браузере что искал
Сорри, что пишу, посмотри у меня в комментах подробней, или спроси в личку, расскажу подробней. Я об этом писал уже, могу помочь, если нужно )) Устаю по 10 раз повторять ))
е…пи… долбанутым по части бэкапов… Впервые столкнулся с потерей в начале 90-х, когда WD на долго исполртила себе репутацию своей дохнущей серией… С тех пор у меня не было потерь, несмотря на усилия квантумов, фуджиков и сигейтов (дважды!) — в порядке очередности посещения меня (IBM у меня не было, так что дятлов я не застал)… Но до вас мне очень далеко!ps Пошел гуглить цены на сервера на елисейских полях… Ибо ЗНАКИ, они повсюду… :)
У меня на любых вообще машинах usb девайсы стабильно отваливаются раз в несколько месяцев.
По крайней мере винты.
Однажды мне надоело решать эту проблему и я просто стал юзать старые ноуты, а винты вставлять в штатные рассчитанные для этого разъёмы.
Бывают ноуты с двумя дырками под диски — в такие влезает на 1 больше.
Бывают док.станции с дырками под диски и/или cd-приводы — туда тоже больше.
+ Иногда можно мелкий ssd под систему установить в minipci-слот, если он есть (старый ноут не особенно стар).
То есть преимущество — в том, что независимо от роста в будущем, вы сможете использовать такие же (+100500 других) средства для доступа к к этому частному облаку. И легко перенести на 1000 других, поддерживающих S3.
Что касается NAS или USB винта — то ничем :) Хотя бы потому, что на оба эти варианта S3 сервер ставится. Что собственно, автор поста и проделал — железо апельсинки сравнимо по мощности с бытовым роутером. Со всеми плюсами и минусами этого
В остальном… Это как минимум не хуже роутера с усб. А открытый код доставляет в двойне) много роутеров могут без танса подобным похвастасться? И на вырост переезд будет болезненым)
А если мой пенсионерский роутер не справится — попробую на Xiaomi 3G. Вполне себе не выдающийся производительностью роутер, уже снятый с производства. Тоже с гигабитом и с USB 3.0
Хотя, положа руку на сердце использовать роутер как хранилище — точно не в моих предпочтениях :)
Квартиру застраховали?
Рассматривается вариант с этим самым сервером для локальной сети, насколько я понял.
1. набор команд (amazon s3 api) и протокол их доставки (https).
2. физические сервера amazon (распределённые системы хранения данных).
Давайте предположу суть нашего взаимного непонимания:
Вы спрашиваете «каковы преимущества передачи „по s3“ перед передачей по „ftp“ ?»
Я же говорю «распределённые системы хранения данных amazon (s3) физически удалены от вашего жилища, посему в случае пожара выгорят ваши еврогиковские хоромы, но ваши данные (на серверах amazon s3) останутся целыми, будут доступны без особых затруднений.»
1. что подразумевалось под «это»?
Просторечие или синоним «данное»?
2. Что значит «каким образом»?
3. Вы не заметили что автор говорит о том что по s3 можно синхронизировать с amazon? Первый абзац читали?
Прошу у Вас прощения если обидел. Поверьте это не со зла.
Зы. Насчет релизов каждую неделю тоже врать не надо. Раз в месяц новая версия выходит.
Ззы. 14 версия вышла 19 июля 2016. Она была несовместима с 13 версией, но при этом можно было легко откатиться на старую базу установив 13 версию. github.com/syncthing/syncthing/releases/tag/v0.14.0
Каждые два месяца, ога
30 гиг- есть чем гордиться, нет слов. Я только как тест гонял 2 терабайта. Тест был успешный
PS А чтобы у читателей не осталось сомнения, что именно за персонаж сидит в кустах, привожу скриншот по первой же ссылке по поисковому запросу
forum.syncthing.net/t/syncthing-v0-11-0-release-notes/2426
Из этого же скриншота видно, что текущая версия — 14. Так что попытка передернуть на 14 версию столь же жалкая, как и её автор.
Вообще смена протокола без сохранения обратной совместимости это дурной тон и подобные разработчики огорчают. Но, вроде, с 15го не ломали совместимости, уже неплохо.
Опять? Блин, у меня вроде всего три точки с ним остались, если они снова планируют ломать протокол, то надо подыскать замену.
во вторых — что мешает не обновляться на новую версию, если такой страх, что все сломается?
в третьих — что мешает все три точки обновить на новую версию и избежать возможных проблем взаимодействия гипотетической 15 версии и текущей 14?
Напоследок. большинство программ (и syncthing не исключение) придерживаются так называемого семантического версионирования: semver.org/lang/ru/ Достаточно один раз понять принципы повышения нумерации версий (например, 0.13->0.14) чтоб знать, что может принести следующий опубликованный релиз.
Syncthing на данный момент повышает МИНОРНУЮ версию, то есть все изменения обратно совместимы и та же гипотетическая 15 версия должна работать с 14 версией.
Зы. В роадмапе я у них про 15 версию ничего не видел, та же 14 уже два года с хвостиком живет и здравствует
Кстати, раз такие подвязки в XigmaNAS, то можно им предложить включить minio в поставку, он в исходниках на Go, есть официальные бинарники под FreeBSD. Чем больше функциональности, тем лучше, пусть добавят, будет еще один вариант для засовывания файлов для хранения.
А про минио я даже глянул, да, есть и под Фрю. Но обычно такие вещи правильнее совать во FreeBSD Jail (грубо аналог контейнера). Потом, если оказывается многим нужно — перетекает в т.н расширения, которые одной кнопкой ставятся. И только если уж совсем спрос велик — идет в коробку. Всё же тащить всё для всех неверно. Память не резиновая. Вот недавно MariaDB добавили в коробку, так я отдельную клетку держал, под seafile, к примеру (который в своей клетке)
А засунуть в клетку я и сам могу — да и любой пользователь.
Про то, что в идеале нужно любой недоверенный софт совать в контейнеры согласен, так жить проще.
www.h-online.com/security/news/item/Escape-from-jails-in-FreeBSD-732112.html
наш человек!
Автор, зачем так делать? Сложно гиперлинк вставить?
Замена протокола?
Протокола?
Да и не очень понятен выбор. Почему не Amazon Glacier?
Я понимаю — «пенсионер» смог собрать лего из железа, по и конфигов. Но кроме «я крут — я смог», из «обзора» мало чему можно умиляться. Разве что фразе «полноценный S3-совместимый сервер для хранения файлов». (сеть — сотка, usb — 2.0 что в пике даёт 12 мегабайт в секунду, при лучшем раскладе). Чёт как-то не фонтан за 2500 рублей.
Да-да, помню — пенсионер, лего, чувство самоудовлетворения.
1. Тех кто еще не делает бэкапы
2. Тех кто УЖЕ делает бэкапы
3. Тех кто УЖЕ проверяет бэкапы
У нас было очень смешно, когда 2 проверено, а вот по 3 вышла фигня(могу рассказать как именно, md5 живые, а декрипт не работает)
1. Монтируешь ftp-ресурс через FUSE, используя curlftpfs
2. Льешь туда бэкапы duplicity как в локальную директорию
3. Проверяешь штатно duplicity collection-status(вот ща флаг могу перепутать, как-то так)
4. Видишь что суммы сходятся и бэкап жив
5. Пытаешься развернутся, а там МПХ!
Если туда же лить через штатную работу с фтп у дуплисити, то будет все ок. Убийца — curlftpfs :)
Из покупных коробок наиболее популярны Sinology, QNAP — но всего их много.
Это вряд ли. Там обчные Linux файловые системы, скорее всего ext4. Можно попытаться прочитать под любым дистрибутивом, хоть под Ubuntu
Начну наверное XigmaNAS. Железо уже есть, осталось систему поставить. Спасиьо
Можно попросить Вас ткнуть меня носом, с чего начать?
Задача такая:
Пара компов, дома и на работе. Хочу настроить синхронизацию через локалку и интернет отдельных папок куда нибудь на своё железо. И чтобы потом все это могло быть доступно через интернет с компов и андроид устройств. Ну там, музычку послушать, фоточки/видео свои посмотреть.
Это чем-то похоже на DropBox, но на своём хранилище и с большими возможностями
Я так понимаю, нужно приобрести NAS хранилище и какой-то софт
Посоветуйте, пожалуйста
Заранее спасибо
Минимум денег, живой бэкап
Смотри ссылки на OPi, на коробочку для харда, как придут команды прямо по списку ))
Ну и дупликати на компах, там мышкой тыкать
1. Нужна синхронизация папок с компов в хранилище. Без шифровки
2. Нужна возможность добраться до файлов в хранилище с Android телефонов планшетов. Посмотреть фоточки, послушать музычку
3. Меня смущает подключение винтов через USB. Явно скорость будет ниже, чем например SATA
посмотрел с помощью UUID имеет другой вид, куча цифр И с типом ФС непонятно, точно ли 82, а не 83?
Железяка — pi zero с 512мб.
И медленный… 6 мб на приём, против 90 на гигабитном cel1007. Зато потребление радует, 5Вт против 40Вт.
Автору спасибо, мануал годный, потестим.
Спасибо, старался. Надеюсь чем-то помог
> blkid|grep sda1
А вот нужно грепать по девайсу, а не по разделу! в смысле sda, а не sda1 ))
> И с типом ФС непонятно, точно ли 82, а не 83?
Упс. Тут я мог накосячить. Я 82 и 83 постоянно путаю в голове
Если что пиши в личку, разберемся, я за 20 лет продажи услуг на линуховых серверах такого зверя съел, что тут никому не привидится ))
К пенсии надо сделать такое же.